Python爬蟲學習
一、Python安裝與呼叫
-
python官網安裝地址:
https://www.python.org/
-
python幫助手冊:在本機的路徑
C:\Users\Administrator\AppData\Local\Programs\Python\Python37\Doc -
創建一個1.py檔案,右鍵打開.py檔案,用IDLE方式打開,保存后直接run F5運行或者保存后F5運行:輸出效果
hello在十個星號中間

定義一個用戶變數登陸

用ipuut:定義變數值

二、一些定義:
- 特殊陳述句:
and 并且
or 或者
not 條件取反
= 賦值
== 比較
> 、< 、!=、 >= 、<=
-
變數名稱的定義:
不能以
數字開頭(如1name,下劃線可以開頭__)、變數不能帶有特殊符號(下劃線_可以)、變數名稱區分大小寫、(if、else、elif這些特殊關鍵字不能作為變數名稱使用) -
關鍵字和內建函式不能作為變數:
import keyword輸出不能作為變數名的關鍵字
內建函式不能作為變數名使用,變數名一般是黑色:help(type)可以查看內建函式或者在python幫助手冊里輸入built-in function查看所有內建函式

-
腳標取值的常用形式
name = "my name is wahaha"
print(name[開始腳標:結束腳標])
print(name[正數]): 從左往右索引值分別為0,1,2,3,4,5...16,超出報錯
print(name[負數]): 從右往左索引值分別為-1,-2,-3,-4...-17,超出報錯
print(name[0]): 輸出m,第一個字串索引值為0
print(name[-1]): 輸出a,最后一個字串
print(name[1:4]): 輸出y n,不輸出結束腳標4的索引值
print(name[:11]): 輸出my name is ,輸出往前所有資料,不輸出結束腳標11的值
print(name[11:]): 輸出wahaha,輸出往后所有資料,包括開始腳標
三、Python資料結構(串列、字典、元祖、集合):
- 串列的應用
1.串列中的每一個元素都是可變的;
2.串列中的元素是有序的,也就是說每一個元素都有一 個位置;
3.串列可以容納Python中的任何物件
串列 ( list ) c = [ val1,val2,val3] 串列可以容納ython的任何物件
all_in_list=[
1, 整型
1.0, 浮點型
"a word", 字串
print(1), 函式
True, 布林值
[1,2], 串列套串列
(1,2), 元祖
{"key":"val"}] 字典
串列的增刪改查:insert():插入 remove():洗掉 alist[]=""、del:修改
查看
alist = [1,2,3,4]
print(alist[1:3]) #輸出[2,3]按索引值查看單個或多個資料
增加
insert(索引值,插入資料)應用: 按串列索引值插入,索引值存在則在索引值前增加資料,索引值不存在則往后添加一個新資料(反向索引則往前添加)
alist = [1,2,3,4] #正向索引值1 >>0 反向索引值1 >>-4
alist.insert(2,8)
print(alist) #輸出[1,2,8,3,4,]
洗掉
remove(洗掉的資料): 直接remove(資料)需要洗掉的資料
alist = [1,2,'3',4]
alist.remove('3')
print(alist) #輸出[1,2,4] 想刪啥刪啥
del alist[]: 按索引值進行洗掉
alist = [1,2,3,4]
del alist[0:3]
print(alist) #輸出[4] 相當于洗掉選中索引值的資料,索引值不存在就不會洗掉
修改
alist[索引值]="修改的資料"
alist = [1,2,3,4] #正向索引值1 >>0 反向索引值1 >>-4
alist[1]=8
print(alist) #輸出[1,8,3,4,] 按索引值修改,相當于修改2為8
alist[0:3]=8
print(alist) #輸出[8,4] 按索引值區間修改,相當于把修改的資料,放入所索引值資料區間內,即便是修改的資料有很多條
串列的索引值取值實體圖片

串列的實際應用實體圖片

2. 字典的應用
1.字典中資料必須鍵值對的形式出現,且鍵只能為字串、數字、浮點型別
2.邏輯上,鍵是不可重復,鍵重復以該變數索引值末尾的鍵值對為準輸出,而值可以重復
3.鍵是不可修改變換的,但是值可以修改變換(可以是任何物件)
字典的增刪改查
查看
指定鍵查看值
adict = {"a":"123","b":"456","c":"789"}
print(adict["a"]) #輸出123 指定鍵取值
增加
update()方法: 往字典內添加多條資料
adict = {"a":"123","b":"456"}
adict.update({"c":"789","d":"999"}) #不要忘了寫大括號
print(adict) #輸出{'a': '123', 'b': '456', 'c': '789', 'd': '999'}
洗掉
del adict(需要洗掉的鍵): 指定鍵洗掉的鍵
adict = {"a":"123","b":"456","c":"789"}
del adict['a'] #[]中括號里的鍵如果是字串必須加引號,其他型別的加不加都行
print(adict) #輸出{'b': '456', 'c': '789'}
修改
通過指定鍵修改值的形式修改
adict = {"a":"123","b":"456","c":"789"}
adict["a"] = 456 #修改為數字型456,[]中括號里的鍵如果是字串必須加引號,其他型別的加不加都行
print(adict) #輸出'a': 456, 'b': '456', 'c': '789'}
字典通過鍵取值實體圖片

字典不能通過值取鍵實體圖片

通過字典鍵值對的特殊性,解決賬號登陸時,串列中密碼不對應賬戶的問題實體圖片

- 元祖的應用
元祖可以理解成穩固版的串列,因為元祖是不可修改的,增刪改都不可以, 但是元祖可以按索引值查看資料,查看方式和串列相同
查看
atuple = ("opo","12",1,1.036,8,3)
print(atuple[0:3]) #輸出('opo', '12', 1)
- 集合的應用
每一個集合的元素都是無序、不重復的任意物件,可以通過集合去判斷資料的從屬關系, 還可以通過集合把資料結構中重復的元素洗掉,集合里邊不能放集合、字典、串列,但可以放元祖
增加
add()方法: 去增加一個字串、數字、浮點或元祖型別的資料
aset = {1,"a",2,2,"2",1.02,"2"}
aset.add(("qq","ww"))
print(aset) #輸出{1, 2, 1.02, ('qq', 'ww'), 'a', '2'},因為是無序的
洗掉
把集合中重復的資料洗掉
aset = {1,"a",2,2,"2",1.02,"2"}
print(aset) #輸出{1, 2, 1.02, 'a', '2'},里面重復的內容會去掉整合成一個新集合
discard(洗掉的值)方法: 指定值洗掉某條值資料
aset = {1,2,3,4,5}
aset.discard(5)
print(aset) #輸出{1, 2, 3, 4},指定5洗掉掉
- 資料結構技巧
sorted()方法:會將串列中同型別的每個元素按長短、大小、字母順序排序,不改變串列內容
注意:當串列存在不同型別時用此方法會報錯(不適用于不同型別的串列)
alist = ["7","6","5","4","Ba","Bb","bA","aA","3","2","1"]
print(sorted(alist)) #輸出['1', '2', '3', '4', '5', '6', '7', 'Ba', 'Bb', 'aA', 'bA']
zip()方法:會將兩個以上的串列進行對應,就可以用此方法操作
注意:當兩個串列元素數量不等時,以元素數量少的串列為準相對應
alist = [7,6,5,4,3,2,1]
blist = ["Ba","Bb","bA","aA","3","2","1"]
a_list = sorted(alist) #對串列alistj進行順序排序
b_list = sorted(blist) #對串列blistj進行順序排序
print(a_list) #輸出[1, 2, 3, 4, 5, 6, 7]
print(b_list) #輸出['1', '2', '3', 'Ba', 'Bb', 'aA', 'bA']
for a,b in zip(a_list,b_list): #a >>a_list b >>b_list,相當于for回圈每次回圈會安排序取出一條資料進行輸出
print(a,"is",b) #這個子陳述句需要縮進,若不縮進會報錯
#輸出
1 is 1
2 is 2
3 is 3
4 is Ba
5 is Bb
6 is aA
7 is bA
sorted()與zip()方法實體圖片

enumerate()函式的運用
默認情況下回圈串列獲取元素索引值:
a = ["a","b","c","d"]
for num,a in enumerate(a): #num的值對應索引值,默認為0,相當于enumerate(a)=[0>"a",1>"b",2>"c",3>"d"]相對應
print(a,"is",num) #所以fo回圈中 num對應的是索引值0,a對應的是串列中元素
#輸出:
a is 0
b is 1
c is 2
d is 3
修改索引值情況下回圈串列獲取元素索引值:
a = ["a","b","c","d"]
for num,a in enumerate(a,10): #num的值對應索引值,默認為0,相當于enumerate(a)=[10>"a",11>"b",12>"c",13>"d"]相對應
print(a,"is",num) #所以fo回圈中 num對應的是索引值0,a對應的是串列中元素
#輸出
a is 10
b is 11
c is 12
d is 13
enumerate()函式獲取元素串列索引值用法實體圖片

6. **查看型別的屬性與幫助內容**
可以通過某些特殊內建函式去查看模塊或者函式方法的幫助資訊
help():查看型別、模塊幫助資訊,查看的資訊全面
type():查看型別,丟進去一個模塊或方法
dir(): 查看型別的屬性和函式方法,
以random模塊為例,查看型別的屬性與幫助內容實體圖片

四、python推導式的運用
- python之串列推導式的運用:
首先得知道
randge()函式的運用:
range(a,b,c)
a:計數從a開始,默認為0,當range(5),相當于range(0,5)
b:計數到b結束,但不包括5,當range(0,5),輸出的是[0,1,2,3,4]
c:步長值,默認為1,相當每隔一個取一個,當range[0,8,2],輸出的是[0,2,4,6]
append()方法用于在串列末尾添加新的物件,
range()函式的運用,python之串列推導式運用
python之串列推導式普通寫法:
添加了步長值的用法
a = []
for i in range(1,8,2): #print(a)在for回圈外的用法:每隔兩位取值進入for回圈,相當于每次for回圈從range()中按步長值取出數字,回傳給a串列,當回圈完成后,輸出的就是range(1,8)中取出來的所有值的a串列
a.append(i) #append()方法相當于給a串列添加新資料
print(a) #輸出的是[1, 3, 5, 7]
print(a)在for回圈外的用法:
a = []
for i in range(1,8): #print(a)在for回圈外的用法:相當于每次for回圈從range()中值取出數字,回傳給a串列,當回圈完成后,輸出的就是range(1,8)中取出來的所有值的a串列
a.append(i)
print(a) #輸出的是[1, 2, 3, 4, 5, 6, 7],如果是range(8)輸出的是[0, 1, 2, 3, 4, 5, 6, 7]
print(a)在for回圈內的用法:
a = []
for i in range(1,8): #print(a)在for回圈內的用法,相當于每次for回圈從range(1,8)中取出數字,依次將range(1,8)取出來的值放入a串列中,每次a串列的值會從原來的基礎上增加一個值,每一次回圈輸出一次a串列
a.append(i)
print(a)
#輸出
[1]
[1, 2]
[1, 2, 3]
[1, 2, 3, 4]
[1, 2, 3, 4, 5]
[1, 2, 3, 4, 5, 6]
[1, 2, 3, 4, 5, 6, 7]
python之串列推導式決議式:
b = [i for i in range(1,8)] #for i rang(1,8)將[1,2,3,4,5,6,7]的值傳給了i,i再將值傳遞給for前面的i,注意:兩個i的變數必須相同,相當于定義了for前邊的i
print(b) #輸出的是[1, 2, 3, 4, 5, 6, 7]
python之串列推導式實體圖片:range()函式用法

enumerate()函式:回圈串列時獲取元素的索引值(也可以自己指定索引值)
enumerate(list,b)
list: 串列
b: 默認從0開始取,但是可以指定索引值從第幾個去
- python之字典推導式
字典推導式的運用
adict = {i:i+1 for i in range(1,6)} #for回圈將得到的資料傳給i ,i再將得到的資料傳for前面的i:i+1
print(adict) #輸出{1: 2, 2: 3, 3: 4, 4: 5, 5: 6}
理解下面這個for回圈就好理解上面字典推導式了:
adict = {}
for i in range(1,6):
adict.update({i:i+1}) #{}大括號不要忘記,相當for回圈將range(1,6)得到的資料放入adict字典中
print(adict) #輸出{1: 2, 2: 3, 3: 4, 4: 5, 5: 6}
python之字典推導式實體圖片

五、if 條件判斷陳述句:
-
if 條件:
子陳述句(子陳述句一定要有4個空格縮進)
-
if 條件 (多個條件可以在if后面加 and password ==“123”:) 子陳述句(子陳述句一定要有4個空格條件成立執行)
else: 子陳述句(條件不成立執行)

- 多分支條件陳述句

六、回圈陳述句
while回圈 、for回圈
- 利用回圈制作小游戲
猜一次:小游戲,看看能否猜中隨機值
用if回圈去做這個小游戲
猜十次:小游戲,看看能否猜中隨機值
- while回圈:根據條件進行回圈(條件滿足跑到死馬)
用while回圈作弊,可以容錯十次(缺點:你得玩十次,猜對了還得往下猜)

break:猜中了立即跳出回圈:
作弊手段智能化,猜對了就不用再假惺惺去猜了,直接跳回圈

break的應用:終極關閉程式
終止實體代碼:
while True:
num=int(input('請輸入數字'))
if num<50:
print('數字小于50,繼續判斷他是不是小于0')
if num<0:
print('數字小于0')
break
elif num>50:
print('數字大于50,繼續判斷他是不是大于100')
if num>100:
print('數字大于100')
break
管你break在第幾層,只要運行break這個回圈得停止

continue:結束此次回圈,重新開始回圈
continue被運行了,它下面代碼不再執行,重新開始回圈,知道這個while回圈條件不在滿足

- for回圈:根據變數賦值的次數進行回圈
字串、串列、元組、字典在for回圈中依次取值實體圖片

range()函式在for回圈中依次回圈取值示例圖片

利用for回圈將串列的值取出來并進行首尾去除特殊符號實體圖片

七、檔案物件的讀取
f=open("E:\\aaaa\\a.txt","rb") open("讀取檔案的絕對路徑","rb")r為讀 b為二進制,以二進制的方式
去讀取a.txt的內容,然后將內容賦值給變數f
print(f.read()) 列印f.read()讀取a.txt的內容
f.close 關閉記憶體
f.seek(0,0) 讀取游標移會初始位置
f.readline() 按行讀取
f.readlines() 以串列的方式讀取
在cmd默認登陸目錄(Windows登陸時的home目錄)中建立一個名叫test.txt的檔案寫入內容

- 第一步:建立檔案物件(打開冰箱門)

- 第二步:讀取檔案(把大象拿出來)
read函式讀取檔案
初次讀取

第二次讀取需要:f.seek(0,0)將游標移回起始位置,再次f.read()就可以讀取內容了

f.readline()按行讀取f.readlines()以串列的方式讀取

- 第三步:關閉檔案(關上冰箱門)
f.close()函式 因為前面open()它是占用了記憶體的,不關閉記憶體不會釋放,影響運行
知識斷點:判斷a.txt里英文文章中單詞出現的次數
代碼:
目的:判斷a.txt里英文文章中單詞出現的次數
下面函式的方法:
strip():可以指定字符去除字串的首尾字符
string.punctuation:鍵盤上的各種特殊字符
lower():將大寫變成小寫
split():指定分隔符分割字串,默認以空為分隔符
count():統計某字符在在字串里出現的次數
import string
path = "C:\\Users\\Administrator\\Desktop\\a.txt"
with open(path,"r",encoding="UTF-8") as text:
#利用 with as 陳述句以讀取的方式打開path檔案,等于 text = open(path,"r",encoding="UTF-8")
#并設定編碼為utf-8,不然可能會報錯
words_list = [words.strip(string.punctuation).lower() for words in text.read().split()]
#通過串列推導式將text的內容讀取并分割成多個字串,并通過for回圈放入words中
#words將被傳送到for前面的words中進行首尾去除特殊符號并且全部換成小寫
#最后,處理干凈的多個單詞串列賦值給words_list
words_index = set(words_list) #將串列轉換成集合(因為下面得字典推導式需要用到大括號)
#為啥不轉換成字典?因為字典的鍵值對,你得先有值啊!
count_dict = {index:words_list.count(index) for index in words_index}
#轉換成字典有利于查看單詞與單詞出現的次數
#將集合里的單詞們賦值給index
#利用count()函式統計words_list串列里單詞出現的次數,即單詞:單詞次數
for word in sorted(count_dict,key=lambda x:count_dict[x],reverse=False):
##對count_dict進行排序
#key = lamdba x:count_list[x],這里意思是以字典的值作為排序標準
#reverse中True是降序,Flase是升序(默認)
print("{}--{}times".format(word,count_dict[word]))
#format()格式化函式
判斷a.txt里英文文章中單詞出現的次數實體圖片

八、檔案物件寫入
實作拷貝檔案,打開兩個檔案,一個用讀的形式打開需要拷貝的檔案,另一個用寫的方式打開需要生成的檔案,把讀取檔案交給寫入的檔案,最后關閉兩個檔案
往a.txt檔案寫like,(a.txt存在會替換里面內容,不存在會創建一個a.txt)
f=open("E:\\aaaa\\1.txt","wb") 以寫的方式打開a.txt
f.writelines([b"li",b"ke"]) 寫入內容
f.close() 關閉
將a.txt的內容復制到b.txt,b.txt不存在則創建一個b.txt,存在則替換內容
rf = open("E:\\aaaa\\a.txt","rb") 以讀取方式打開,賦值rf
wf = open("E:\\bbbb\\b.txt","wb") 以寫入方式打開,賦值wf,創建-替換
data = rf.read() rf呼叫read()函讀取a.txt內容然后賦值data
wf.write(data) wf呼叫write()函式將data內容寫入到b.txt里(因為打開方式是寫入)
rf.close() 關閉
wf.close() 關閉
當限制讀取資料是可以利用回圈一點點讀取
rf = open("E:\\aaaa\\a.txt","rb") 以讀取方式打開,賦值rf
wf = open("E:\\bbbb\\b.txt","wb") 以寫入方式打開,賦值wf,創建-替換
while True: 死回圈
data = rf.read(110) 每次讀取110位元組數
if data == b"": 當data讀取到空即讀取完,就break跳出死回圈
break
wf.write(data) 每次回圈都往b.txt里拼接內容
rf.close() 關閉
wf.close() 關閉
- 第一步:打開檔案(開冰箱)
在用戶家目錄中建立一個tsetone.txt的檔案寫入三行內容

2. 第二步:寫入檔案內容(放大象)
拷貝一個檔案,將testone.txt檔案的內容拷貝成testtow.txt(one的內容不能變化洗掉,而是產生一個新的tow檔案)

通過檔案物件cmd.exe對命令工具做復制

- 保存檔案(關冰箱門)
f.close()函式 因為前面open()它是占用了記憶體的,不關閉記憶體不會釋放,影響運行
九、函式和模塊的定義
取隨機值:
import random #呼叫模塊 從此檔案呼叫模塊c:\users\administrator\appdata\local\programs\python\python37\lib\random.py
alist= ["tom","timi","niko"] #賦值
print(alist[random.randint(1,2)]) #根據索引值隨機列印出變數alist的內容,需要根據alist的資料來指定,不然會報錯
print(random.choice(alist)) #不用指定alist的資料就可以隨機取值

- 創建模塊
該模塊可以被呼叫 ( 用import呼叫)
在模塊中包含一個功能模塊,函式的作用是回傳20個星號
1·定義的模塊名稱不能以數字開頭
2·不能和默認的模塊重名
注意:呼叫方法函式必須有一個變數去接受方法函式的回傳值,然后輸出這個變數得到的就是回傳的內容

- 呼叫創建的模塊
呼叫模塊和列印模塊必須在同一個目錄或者呼叫模塊在此檔案中(c:\users\administrator\appdata\local\programs\python\python37\lib\random.py )

十、函式的形參實參與例外捕獲
- 函式的形參和實參
函式的形參:在定義函式的時候,給定函形參變數,然后傳參的時候傳上兩個變數去對應,那么形參變數就變為上傳的變數匯入函式中,
如:
def division (a,b) # a和b是給定的變數形參
num = a / b
return num
numa = 20
numb = 5
endnum = division(numa,numb) # 上傳到函式里面取代 a,b
print(endnum)
函式的實參:就是在定義函式的時候給了一個指定的值,比如def division(1,2) 就是實參
- 函式的例外捕獲(找bug)
函式的例外捕獲:預判代碼某個位置可能會報錯,提前將這個報錯屏蔽,然后由開發者去進行提示
try (被捕獲的子陳述句)可能出現運行錯誤的陳述句: 利用這個關鍵字去捕獲例外
except (例外型別1,例外型別2,...)報錯資訊: 關鍵字除非,意思是如果出現這個報錯將由它列印出例外的提示資訊,更為友好直觀
小技巧:expcept:不捕獲例外型別資訊也是可以的
當代碼運行出現例外,用try捕獲代碼,然后用except提示友好的例外資訊或者直接pass退出

例外捕獲小技巧:

十一、面向物件編程
面向物件編程相對應的是面向程序編程(順序,按順序運行)

- 類 class
生物 >>動物 >>靈長類動物 >>人類 >> 男人 >>老人…(無限套娃,萬物皆可為類)
當定義一個類的時候,系統會開辟一個記憶體空間,里面存盤屬性和方法
類的命名規則:大小駝峰命名法 兩個單詞首字母大寫 兩個單詞首字符大寫
屬性:由變陣列成
方法:由函陣列成,實作功能,函式(self)括號內必須寫self
創建物件:就是使用一個類,將類實體化,同一個類可以創建多個物件,類相當于模板
魔術方法:雙下劃線(__init__初始化方法),滿足即呼叫
self的運用,代表實體化物件本身

將更多需要設定修改的東西放入類中
python之%s、%d、%f的用法
%s字串 %d數字 %f浮點數
十二、爬蟲獲取網頁圖片
- python正則運算式
正則使用最多的是findall函式:
單個字串匹配:
. 匹配單個任意字符
[] 寫在中括號里面的內容會被逐一單個匹配
\d 匹配單個數字
\w 匹配 [0-9a-zA*Z_]
\s 匹配空白字符 空格 tab鍵

多個字串匹配:
直接匹配 字串
|: 分隔符應用 匹配兩個不同的字串 字串|字串
*: 匹配左鄰字符出現0次或者多次
+:左鄰字符出現一次或者多次
?:左鄰字符出現0次或者1次
{2.4}:定義左鄰字符出現次數 2-3此次都會匹配
^:是否以某字串開頭
$:是否以某字串結尾
():分組保存 \數字
正則運算式分組保存,參考:https://www.cnblogs.com/erichuo/p/7909180.html
正則運算式中,group()用來提出分組截獲的字串,()用來分組
import re
a = "123abc456"
print re.search("([0-9]*)([a-z]*)([0-9]*)",a).group(0) #123abc456,回傳整體
print re.search("([0-9]*)([a-z]*)([0-9]*)",a).group(1) #123
print re.search("([0-9]*)([a-z]*)([0-9]*)",a).group(2) #abc
print re.search("([0-9]*)([a-z]*)([0-9]*)",a).group(3) #456

- 需要使用python中的urllib庫爬取網頁圖片
第一步:獲取網頁的html代碼
第二步:偽造一個user_agent頭,不能會被封ip
第三步:通過正則運算式過濾出圖片資訊
第一步:獲取網頁的源代碼:
import urllib.request: 通過request模擬瀏覽器發送請求
__init_: 初始化方法,即實體化物件時就使用這個方法給物件配置基本功能
urllib.request.urlopen(): 指定一個url,默認以GET方式發送請求
read(): 讀取內容
add_hearder: 偽造一個user-agent

第二步:偽造user-agent

第三步:利用正則過濾圖片資訊并把圖片下載下來

轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/4818.html
標籤:其他
下一篇:python-酷我音樂(爬蟲)
