昨天和室友看《Python金融大資料挖掘與分析全流程詳解》第67,68頁的代碼時,發現網頁已經更新了,代碼運行錯誤。先看結果,大致由三部分組成,標題,時間,和鏈接。打開爬蟲的網頁缺個鏈接,按f12,打開開發者工具在開發者工具上面出現這個網頁代碼,這個截圖結果可能在網頁右邊,也可能在下面這樣大家都發現了,鏈接和標題都有了,可以寫正則p_href = 'https://blog.csdn.net/qq_22426297/article/details/<h3 class=".*?&q...
2020-10-12 more結構化的資料是最好處理,一般都是類似JSON格式的字串,直接決議JSON資料,提取JSON的關鍵欄位即可。JSONJSON(JavaScript Object Notation) 是一種輕量級的資料交換格式;適用于進行資料互動的場景,比如網站前臺與后臺之間的資料互動Python 3.x中自帶了JSON模塊,直接import json就可以使用了。Json模塊提供了四個功能:dumps、dump、loads、load,用于字串 和 python資料型別間進行轉換Python操作json的標準ap...
2020-10-12 more前言Python的學習記錄與分享——PTA程式設計類教學平臺。如果你也正在學習關于此類的題目可以仔細閱讀這篇文章,了解一下回圈結構、素數的基本語法知識。題目:7-5就區間正整數內所有素數之和 (20分)【描述】求m-n以內所有素數之和并輸出。???????????????????????????????????????????????????????????????????????????????????????素數指從大于1,且僅能被1和自己整除的整數。??????????????????????...
2020-10-12 morepython修改微信和支付寶步數專案意義實作方法python代碼下載地址專案意義如果你想在支付寶螞蟻森林收集很多能量種樹,為環境綠化出一份力量,又或者是想每天稱霸微信運動排行榜裝逼,卻不想出門走路,那么該python腳本可以幫你實作。實作方法手機安裝第三方軟體樂心健康,注冊賬號登錄,將運動資料同步到微信和支付寶。用python腳本遠程修改樂心健康當前登錄賬號的步數即可。第一步:在手機上安裝樂心健康app。安卓版下載地址:樂心健康安卓版蘋果版下載地址:樂心健康iOS版第二步:注冊賬號登錄,并...
2020-10-12 morepython按照list中字典的某key去重一、需求說明二、我的解決方案寫在最后一、需求說明當我們寫爬蟲的時候,經常會遇到json格式的資料,它通常是如下結構:data = https://blog.csdn.net/kimol_justdo/article/details/[{'name':'小K','score':100}, {'name':'小J','score':9...
2020-10-12 more在numpy模塊中的repeat函式,總是會出現設定axis坐標軸的情況,這時的坐標軸有時候就顯的十分混亂,每到此處就不知道該給axis什么值。特寫一篇博客來詳細說明這個問題。代碼如下:import numpy as npclass Debug: def __init__(self): self.array1 = np.array([[1, 2], [3, 4]]) def mainProgram(self): print("The value o...
2020-10-12 morePython爬取京東商城商品大圖詳解做為一個爬蟲初學者,在做爬取網址圖片的練習中以京東網為例爬取商品大圖并保存在相應的檔案夾1.匯入模塊import urllib.requestimport re2.商品名稱填寫區域這里“AJ”只是舉個例子,當然也可以輸入其他任意商品keyname="AJ"#輸入商品名稱key=urllib.request.quote(keyname)3.添加報頭添加報頭的目的是模擬瀏覽器去訪問目標網頁,這里我用的是火狐瀏覽器,當然谷歌也可以,但是需要改一下報頭資訊...
2020-10-12 morePython由于語言的簡潔性,讓我們以人類思考的方式來寫代碼,新手更容易上手,老鳥更愛不釋手。要寫出 Pythonic(優雅的、地道的、整潔的)代碼,還要平時多觀察那些大牛代碼,Github 上有很多非常優秀的源代碼值得閱讀,比如:requests、flask、tornado,這里小明收集了一些常見的 Pythonic 寫法,幫助你養成寫優秀代碼的習慣。01. 變數交換Badtmp = aa = bb = tmpPythonica,b = b,a02. 串列推導Badmy_list =...
2020-10-12 more導讀:從事編程這個事可以做到,完全靠自己的手藝、不依賴任何人或公司去生活的。但道理我都懂,怎么做才是關鍵。 1、寫在前面 程式員用自己的技術變現,其實是一件天經地義的事兒。寫程式是一門“手葉訓兒”,那么作為手藝人,程式員當然可以做到靠自己的手藝和技能養活自己。 然而,現在很多手藝人程式員卻說自己是“ ......
2020-10-12 more最近要做和計算機視覺相關的專案,就開始學習OpenCV了。買了《學習OpenCV3》這本書,發現是用C++撰寫的例程,就開始配置C++的環境。 配了一整天visual studio 2019,失敗,感覺原因一是自己確實不熟悉C++的dll和lib那一塊,對x64和x86也不熟悉,所以配置都得照著網上 ......
2020-10-12 more如何從xshell上傳檔案到centos linux虛擬機里及:虛擬機CentOs下執行 yum -y install lrzsz命令,出現錯誤:鏡像無法找到軟體包 前言 一、安裝lrzsz步驟 二、上傳檔案 三、遇到的問題及解決方案 總結 前言 提示:其實很簡單,往虛擬機上安裝一個上傳檔案的工具 ......
uj5u.com 2020-09-10 02:00:47 more一、SQLMAP入門 1、判斷是否存在注入 sqlmap.py -u 網址/id=1 id=1不可缺少。當注入點后面的引數大于兩個時。需要加雙引號, sqlmap.py -u "網址/id=1&uid=1" 2、判斷文本中的請求是否存在注入 從文本中加載http請求,SQLMAP可以從一個文本檔案中 ......
uj5u.com 2020-09-10 02:00:50 moremetasploit 簡單使用教程 浩先生, 2020-08-28 16:18:25 分類專欄: kail 網路安全 linux 文章標簽: linux資訊安全 編輯 著作權 metasploit 使用教程 前言 一、Metasploit是什么? 二、準備作業 三、具體步驟 前言 Msfconsole ......
uj5u.com 2020-09-10 02:00:53 more驅動層代碼: #pragma once #include <ntifs.h> #define add_code CTL_CODE(FILE_DEVICE_UNKNOWN,0x800,METHOD_BUFFERED,FILE_ANY_ACCESS) /* 更多游戲逆向視頻www.yxfzedu.com ......
uj5u.com 2020-09-10 02:00:56 more北斗電力時鐘(北斗授時服務器)讓網路資料更精準 北斗電力時鐘(北斗授時服務器)讓網路資料更精準 京準電子科技官微——ahjzsz 近幾年,資訊技術的得了快速發展,互聯網在逐漸普及,其在人們生活和生產中都得到了廣泛應用,并且取得了不錯的應用效果。計算機網路資訊在電力系統中的應用,一方面使電力系統的運行 ......
uj5u.com 2020-09-10 02:01:03 more?碎碎念 CTFHub:https://www.ctfhub.com/ 筆者入門CTF時時剛開始刷的是bugku的舊平臺,后來才有了CTFHub。 感覺不論是網頁UI設計,還是題目質量,賽事跟蹤,工具軟體都做得很不錯。 而且因為獨到的金幣制度的確讓人有一種想去刷題賺金幣的感覺。 個人還是非常喜歡這個 ......
uj5u.com 2020-09-10 02:04:05 more我學到了一下幾點 Windows系統目錄結構與滲透的作用 常見Windows的服務詳解 Windows埠詳解 常用的Windows注冊表詳解 hacker DOS命令詳解(net user / type /md /rd/ dir /cd /net use copy、批處理 等) 利用dos命令制作 ......
uj5u.com 2020-09-10 02:04:18 more我學到了以下幾點 01Linux系統介紹02系統安裝,密碼啊破解03Linux常用命令04LAMP 01LINUX windows: win03 8 12 16 19 配置不繁瑣 Linux:redhat,centos(紅帽社區版),Ubuntu server,suse unix:金融機構,證券,銀 ......
uj5u.com 2020-09-10 02:04:30 more1.Mapmap是一種基礎的RDD轉換操作,用于將RDD中的每一個資料元素通過某種函式進行轉換并回傳新的RDD。例:val distData = https://blog.csdn.net/master_hunter/article/details/List(1, 3, 45, 3, 76)val sq_dist = distData.map(x => x * x)print(sq_dist)List(1, 9, 2025, 9, 5776)2.SortBy()sortBy()是對標準RDD進行排序...
uj5u.com 2021-04-09 11:58:23 more學個技識訓者搞副業,什么靠譜?學姐告訴你:答案是PythonPython語言是所有語言中好上手的語言,簡單易學。只要是懂一點英語,邏輯思維不是很差的人很快就能學會。學成之后能撰寫代碼爬取大量資料,制作各種專業圖表,以及資料分析報…作業.上快速提升,還能利用業余時間接點私活兒,一個月可以拿到近萬的外快。比較輕松、收入也可觀。4基礎30天入門門編程全干貨分享今天我掏出家底,給大家分享一個私藏了2年的神仙學資源,讓你盡情自學Python,從此自學不求人。Python開發環境安裝教程有Pytho.....
uj5u.com 2021-04-09 11:57:56 more1 簡介RocketMQ是一款分布式、佇列模型的訊息中間件,由阿里巴巴自主研發的一款適用于高并發、高可靠性、海量資料場景的訊息中間件。早期開源2.x版本名為Metaq,迭代3.x版本,更名為RocketMQ,16年開始貢獻到Apache。經過1年多的范訓,最終成為Apache頂級的開源專案,更新非常頻繁,社區活躍度也非常高;目前4.8.0-release版本。RocketMQ參考借鑒了優秀的開源訊息中間件Apache - Kafka,其訊息的路由集群劃分都借鑒了Kafka優秀的設計思路,并結合自身的 “...
uj5u.com 2021-04-09 11:57:26 morepython 多執行緒 多行程同時運行多任務要求python 基礎語法python 檔案目錄操作python 模塊應用開發工具pycharm實作方法多任務的實作可以用行程和執行緒來實作行程—> 執行緒----> 多任務應用多行程操作比如下載多個檔案, 利用cpu 資源 提高效率多任務: 同一時間執行多個任務, 比如windows作業系統執行方式有兩種( 表現形式 )并發在單核cpu中:在一段時間內交替執行多個任務, 例如單核cpu 處理多任務, 作業系統讓各個任務交...
uj5u.com 2021-04-09 11:57:08 moreClickHouse集群安裝部署流程(防止踩坑)ClickHouse集群安裝部署Fisrt1、安裝之前1.1、SSE 4.2 指令集1.2、設定用戶的檔案句柄數2、單節點方式2.1、yum方式安裝RPM安裝包方式一2.1.1、推薦使用CentOS、RedHat和所有其他基于rpm的Linux發行版的官方預編譯rpm包。2.1.2、查看安裝包命令:2.1.3、然后運行命令安裝:2.2、yum方式安裝RPM安裝包方式二2.2.1、安裝curl工具2.2.2、添加clickhouse的yum鏡像2.2.3、檢查...
uj5u.com 2021-04-09 11:56:57 moreHadoop集群環境搭建1環境需求本文是用過Vmware搭建的三臺linux虛擬機。Vmware安裝包自取Mac:鏈接:https://pan.baidu.com/s/1unYcc_hc9SA5O5-QvZFe-A 密碼:h20jWindows:鏈接:https://pan.baidu.com/s/1Z5y1DsnT-CmWcGHADd6WwQ 密碼:5v0w2.hadoop集群搭建2.1linux環境配置(需要三臺linux虛擬機都執行)2.1.1 關閉防火墻 (本地環境訪問更加方便,...
uj5u.com 2021-04-09 11:56:39 more當一個組件到了優化部分的時候,基本上這個組件的內容就到了結尾部分了,本文我們給HBase收收尾,來講一下HBase的優化。關注專欄《破繭成蝶——大資料篇》,查看更多相關的內容~一、HBase的高可用在HBase中HMaster負責監控Region Server的生命周期,均衡Region Server的負載,如果HMaster掛掉了,那么整個HBase集群將陷入不健康的狀態,并且此時的作業狀態并不會維持太久。所以HBase支持對HMaster的高可用配置。這里需要注意的是,如果HMaster掛掉,H...
uj5u.com 2021-04-09 11:56:07 moreC站(CSDN)軟體工程師能力認證上線35天,來自全國130所高校的同學自發組建66個學習小組,基于“明確路徑+任務領取+刻意練習+小組學習+大咖指導”的學習模型,讓更多學員,實作了面向實踐、任務驅動、共同成長的目標。今天小編就帶著大家揭秘學習小組的成長秘訣,感受屬于他們的高光時刻。實踐:66個小組自主探索、系統化持續學習經過將近1個月的更新迭代,已經有超過130所高校的同學組建了66個學習小組,越來越多小伙伴加入其中,并且取得了一些階段性成果,經過小編與小組成員的交......
uj5u.com 2021-04-09 11:54:32 more一、前言這段時間在樓下遛娃的時候,發現了一個比較奇怪的現象,我們小區的精英人士,程式員老馬竟然有空出來看孩子了。這可是從來沒有發生過的,以前都是老馬的父母或者老婆在看孩子,因為他作業實在是太忙了。老馬是做程式員作業的,而且從大學畢業開始就一直從事程式員的作業。前幾年,老馬奉行的原則是能跳槽就跳槽,跳槽一回,工資翻番。情況也確實是這樣,他29歲以前,換了3家公司,每次跳槽工資都能加點,直到最終進入了國內某知名企業,成為一名正式員工,才結束了他的跳槽生涯。二、從巔峰跌落谷底那時候老馬才29歲,進入這....
uj5u.com 2021-04-09 11:53:26 more