Python學習：Pandas庫

pandas包含資料結構和資料處理工具的設計使得在Python中進行資料清洗和分析非常快捷，pandas經常是和NumPy,Scipy以及資料可視化工具matplotlib一起使用的，pandas支持大部分NumPy語言風格的陣列計算，但最大的不同在于pandas是用于處理表格型或異質型資料的，而NumPy更適合處理同質型的數值類陣列資料，

一、關鍵包匯入：

• import pandas as pd
• import numpy as np

二、匯入資料：

• pd.read_csv(filename) 逗號是默認分隔符 –
• pd.read_table(filename) 制表符(’\t’)是默認分隔符
• pd.read_excel(filename) 讀取Excel資料 pd.read_sql(query,
  connection_object)：從SQL表/庫匯入資料
• pd.read_json(json_string)：讀JSON格式
• pd.DataFrame(dict)：從字典物件匯入資料，Key是列名，Value是資料

pd.read_csv(flie,header=,sep=,na_values=,skiprows=,nrows=,chunksize=,index_col=,names=)

• header：用作列名的行號，默認是0（第一行），如果沒有列名的話，應該是None
• sep：用于分隔每行欄位的字符序列或是正則運算式
• na_values：需要用NA替換的值序列
• skiprows：從檔案開頭處起，需要跳過的行數或行號串列
• nrows：從檔案開頭處讀入的行數
• chunksize：用于迭代的塊大小
• index_col：用作結果中行索引的列號或列名，可以是一個單一的名稱/數字,也可以是一個分層索引
• names：結果的列名串列

三、匯出資料：

• df.to_csv(filename)：匯出資料到CSV檔案
• df.to_excel(filename)：匯出資料到Excel
• df.to_sql(table_name, connection_object)：匯出資料到SQL表
• df.to_json(filename)：以Json格式匯出資料到文本檔案

四、創建物件

• obj=pd.Series([4,7,-5],index=[‘a’,‘b’,‘c’])
• obj=pd.DataFrame(data,columns=[‘year’],index=[‘one’])

五、查看資料：

• df.head(n)：查看DataFrame物件的前n行
• df.tail(n)：查看DataFrame物件的最后n行
• df.info()：查看索引、資料型別和記憶體資訊
• df.shape：查看行數和列數
• df.describe()：查看數值型列的匯總統計
• df.dtypes：每一列資料的格式
• df.isnull()：查看某一列空值
• df.columns ：查看列名稱
• df.values：查看資料表的值
• df[‘B’].unique()：查看某一列的唯一值
• s.value_counts()：查看Series物件的唯一值和計數
• df.apply(pd.value_counts).fillna(0)：查看DataFrame物件中每一列的唯一值和計數,并對NA填充0

六、資料選取：

• df[col]：根據列名，并以Series的形式回傳列
• df[[col1, col2]]：以DataFrame形式回傳多列
• df[n:m]：以DataFrame形式回傳n到m-1行
• df.loc[val]：根據標簽選擇單行或多行
• df.loc[:,val]：根據標簽選擇單列或多列
• df.loc[val1,val2]：同時選擇行和列的一部分
• df.iloc[where]：根據整數位置選擇單行或多行
• df.iloc[:,where]：根據整數位置選擇單列或多列
• df.iloc[where_i,where_j]：根據整數位置選擇行和列

*loc切片是首尾閉區間；iloc切片是首閉尾開

七、資料清洗：

• df.columns = [‘a’,‘b’,‘c’]：重命名列名
• pd.isnull()：檢查DataFrame物件中的空值
• pd.notnull()：檢查DataFrame物件中的非空值
• df.dropna()：洗掉所有包含空值的行
• df.dropna(axis=1)：洗掉所有包含空值的列
• df.dropna(axis=1,thresh=n)：洗掉所有小于n個非空值的行
• df.fillna(x)：用x替換DataFrame物件中所有的空值
• s.astype(float)：將Series中的資料型別更改為float型別
• s.replace(1,‘one’)：用‘one’代替所有等于1的值
• s.replace([1,3],[‘one’,‘three’])：用’one’代替1，用’three’代替3
• df.rename(columns=lambda x: x + 1)：批量更改列名
• df.rename(columns={‘old_name’: ‘new_ name’})：選擇性更改列名
• df.set_index(‘column_one’)：更改索引列
• df.rename(index=lambda x: x + 1)：批量重命名索引
• df.drop_duplicates() ：洗掉后出現的重復值
• df.drop_duplicates(keep=‘last’)：洗掉先出現的重復值
• df.drop_duplicates([‘k1’]) ：基于k1列洗掉重復值
• df[‘city’]=df[‘city’].map(str.strip)
• pd.cut(data,4) ：分箱

八、資料處理：

• df[df[col] > 0.5]：選擇col列的值大于0.5的行
• df.sort_values(col1)：按照列col1排序資料，默認升序排列
• df.sort_values(col2, ascending=False)：按照列col1降序排列資料
• df.sort_values([col1,col2],ascending=[True,False])：先按列col1升序排列，后按col2降序排列資料
• df.groupby(col)：回傳一個按列col進行分組的Groupby物件
• df.groupby([col1,col2])：回傳一個按多列進行分組的Groupby物件
• df.groupby(‘city’)[‘id’].count() ：按城市對id欄位進行計數
• df.groupby(‘city’)[‘price’].agg([np.sum,np.mean])：對city欄位進行匯總，并分別計算prince的合計和均值
• df.pivot_table(index=col1,values=[col2,col3], aggfunc=max)：創建一個按列col1進行分組，并計算col2和col3的最大值的資料透視表
• df.groupby(col1).agg(np.mean)：回傳按列col1分組的所有列的均值
• data.apply(np.mean)：對DataFrame中的每一列應用函式np.mean
• data.apply(np.max,axis=1)：對DataFrame中的每一行應用函式np.max

九、資料合并：

• df1.append(df2)：將df2中的行添加到df1的尾部
• pd.concat([df1, df2],axis=1)：將df2中的列添加到df1的尾部
• df1.join(df2,on=col1,how=‘inner’)：對df1的列和df2的列執行SQL形式的join
• pd.merge(df1,df2,on=‘key’) : 按指定連接健合并

*pd.concat():join接收inner或outer，表示其他軸向上的索引是按交集（inner）還是并集（outer）進行合并，默認為outer，當axis=1的時候，concat做行對齊，然后將不同列名稱的兩張或多張表合并，當兩個表索引不完全一樣時，可以使用join引數選擇是內連接還是外連接，在內連接的情況下，僅僅回傳索引重疊部分，在外連接的情況下，則顯示索引的并集部分資料，不足的地方則使用空值填補，axis=0時同理

*df.append():append方法也可以用于縱向合并兩張表，但是append方法實作縱向表堆疊有一個前提條件，那就是兩張表的列名需要完全一致

*pd.merge()常用引數：

十、資料統計：

• df.describe()：查看資料特征的匯總統計
• df.mean()：回傳所有列的均值
• df.corr()：回傳列與列之間的相關系數
• df.count()：回傳每一列中的非空值的個數
• df.max()：回傳每一列的最大值
• df.min()：回傳每一列的最小值
• df.idxmin()：回傳最小值所在的索引標簽
• df.argmin()：回傳最小值所在的索引位置
• df.median()：回傳每一列的中位數
• df.std()：回傳每一列的標準差

*傳入axis=’columns’或者axis=1，則會對一行上各列值進行操作，除非整個切片都是NA，否則NA值是自動被排除的，可以通過禁用skipna來實作不排除NA值：skipna=False

?

文末福利：
網上可以搜到大量的Pandas教程和官方檔案，但沒有簡單的方法來練習，教程是很好的資源，但要付諸實踐，只有實踐，才能更好的加深學習，針對pandas庫函式的一些常用用法，本站搜索到了一些關于Pandas的練習題含答案，每一個型別包含了相應的練習資料、題目、注釋以及解答等4個檔案，大家可以根據自己的薄弱點針對性訓練，相信一定能有所提高！
關注本公眾號進階的CVCoder，后臺回復【Pandas學習】即可獲得這些練習題資料