主頁 > 後端開發 > 【pandas基礎】--資料拆分與合并

【pandas基礎】--資料拆分與合并

2023-05-19 08:01:10 後端開發

資料集拆分是將一個大型的資料集拆分為多個較小的資料集,可以讓資料更加清晰易懂,也方便對單個資料集進行分析和處理,
同時,分開的資料集也可以分別應用不同的資料分析方法進行處理,更加高效和專業,

資料集合并則是將多個資料集合并成一個大的資料集,可以提供更全面的資訊,也可以進行更綜合的資料分析,
同時,資料集合并也可以減少資料處理的復雜度和時效性,提升資料分析的準確性和結果的可靠性,

1. 資料集拆分

拆分資料集比較簡單,之前介紹過資料檢索的各種方式,其實檢索出的結果就是拆分出來的資料,

1.1 拆分行

拆分單行和多行,

import pandas as pd

df = pd.DataFrame(
    {
        "name": ["小紅", "小明", "小華"],
        "age": [13, 15, 14],
        "gender": ["男", "女", "男"],
    }
)
first_row = df.loc[0:0, :]
left_rows = df.loc[1:, :]

image.png

1.2 拆分列

拆分單列或者多列,

import pandas as pd

df = pd.DataFrame(
    {
        "name": ["小紅", "小明", "小華"],
        "age": [13, 15, 14],
        "gender": ["男", "女", "男"],
    }
)

first_col = df[["name"]]
left_cols = df[["age", "gender"]]

image.png

1.3 按條件拆分

下面的示例按照列的值來拆分資料集,

import pandas as pd

df = pd.DataFrame(
    {
        "name": ["小紅", "小明", "小華"],
        "age": [13, 15, 14],
        "gender": ["男", "女", "男"],
    }
)

males = df[df["gender"] == "男"]
greater13 = df[df["age"] > 13]

image.png

如果有多個條件,可以通過邏輯與(&)邏輯或(|)符號來連接,具體可以參照之前介紹資料檢索的文章,

2. 資料集合并

資料集的合并也是比較常用的,因為我們收集來的資料可能來自不同的地方,

2.1 merge 方法

merge方法合并DataFrame時,有兩個重要的引數:

  1. how:設定合并的方式,有innerouterleftright四種方式,
  2. on:依據那個列來合并

下面是四種不同合并方式的示例,
inner合并:name值相同的資料才保留下來,

import pandas as pd

df1 = pd.DataFrame(
    {
        "name": ["小紅", "小明"],
        "age": [13, 15],
        "gender": ["男", "女"],
    }
)

df2 = pd.DataFrame(
    {
        "name": ["小紅", "小華"],
        "score": [99, 100],
    }
)

df = pd.merge(df1, df2, how="inner", on="name")
df

image.png

outer合并:兩個DataFramename都保留下來,合并后缺失值的填充NaN

df = pd.merge(df1, df2, how="outer", on="name")
df

image.png

left合并:df1name全部保留下來,缺失的值填充NaN

df = pd.merge(df1, df2, how="left", on="name")
df

image.png

right合并:df2name全部保留下來,缺失的值填充NaN

df = pd.merge(df1, df2, how="right", on="name")
df

image.png

2.2 concat 方法

兩個DataFrame結構相同時,一般是按行來合并(axis=0),

df1 = pd.DataFrame(
    {
        "name": ["小紅", "小明"],
        "age": [13, 15],
        "gender": ["男", "女"],
    }
)

df2 = pd.DataFrame(
    {
        "name": ["小紅", "小華"],
        "age": [13, 15],
        "gender": ["男", "女"],
    }
)

df = pd.concat([df1, df3], axis=0)
df

image.png

如果兩個DataFrame結構不一樣時,用列合并(axis=1),

df1 = pd.DataFrame(
    {
        "name": ["小紅", "小明"],
        "age": [13, 15],
        "gender": ["男", "女"],
    }
)

df2 = pd.DataFrame(
    {
        "score": [100, 90],
        "city": ["nanjing", "beijing"],
    }
)

df = pd.concat([df1, df3], axis=1)
df

image.png

2.3 join 方法

join方法和merge方法類似,主要區別在于joinDataFrame的方法,而mergepandas的方法,
下面請直接看與merge方法相似的四種示例,

inner合并:name值相同的資料才保留下來,

df1 = pd.DataFrame(
    {
        "name": ["小紅", "小明"],
        "age": [13, 15],
        "gender": ["男", "女"],
    }
)

df2 = pd.DataFrame(
    {
        "name": ["小紅", "小華"],
        "score": [99, 100],
    }
)

df1 = df1.set_index("name")
df2 = df2.set_index("name")
df = df1.join(df2, how="inner")
df.reset_index()

image.png
注意,這里顯示了joinmerge的一個區別,join默認是依據索引(index)來合并DataFrame的,
所以,先把name設定為索引之后才合并的,合并之后又通過reset_index重置了索引,得到了和merge同樣的結果,

outer合并:兩個DataFramename都保留下來,合并后缺失值的填充NaN

df1 = df1.set_index("name")
df2 = df2.set_index("name")
df = df1.join(df2, how="outer")
df.reset_index()

image.png
注意,最后的資料雖然和merge一樣,但是順序有些區別,

left合并:df1name全部保留下來,缺失的值填充NaN

df1 = df1.set_index("name")
df2 = df2.set_index("name")
df = df1.join(df2, how="left")
df.reset_index()

image.png
left的結果和merge一樣,

right合并:df2name全部保留下來,缺失的值填充NaN

df1 = df1.set_index("name")
df2 = df2.set_index("name")
df = df1.join(df2, how="right")
df.reset_index()

image.png
right的結果和merge一樣,

3. 總結回顧

總的來說,pandas資料集拆分和合并的意義在于高效利用資料,提高資料分析的質量和效率,進一步實作資料驅動的業務增長,

本篇主要介紹了資料集拆分和合并最常用的幾種基本方法,根據具體的業務組合這些基本方法,就能夠進行更復雜的資料集拆分和合并,

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/552802.html

標籤:Python

上一篇:< Python全景系列-4 > 史上最全檔案型別讀寫庫大盤點!什么?還包括音頻、視頻?

下一篇:返回列表

標籤雲
其他(159266) Python(38150) JavaScript(25435) Java(18070) C(15228) 區塊鏈(8267) C#(7972) AI(7469) 爪哇(7425) MySQL(7197) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5871) 数组(5741) R(5409) Linux(5340) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4573) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2433) ASP.NET(2403) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) .NET技术(1975) 功能(1967) Web開發(1951) HtmlCss(1938) python-3.x(1918) C++(1917) 弹簧靴(1913) xml(1889) PostgreSQL(1878) .NETCore(1861) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • 【pandas基礎】--資料拆分與合并

    資料集拆分是將一個大型的資料集拆分為多個較小的資料集,可以讓資料更加清晰易懂,也方便對單個資料集進行分析和處理。 同時,分開的資料集也可以分別應用不同的資料分析方法進行處理,更加高效和專業。 資料集合并則是將多個資料集合并成一個大的資料集,可以提供更全面的資訊,也可以進行更綜合的資料分析。 同時,數 ......

    uj5u.com 2023-05-19 08:01:10 more
  • < Python全景系列-4 > 史上最全檔案型別讀寫庫大盤點!什么?還包括

    介紹史上最全PYTHON檔案型別讀寫庫大盤點!包含常用和不常用的大量檔案格式!文本、音頻、視頻應有盡有!廢話不多說!走起來! ......

    uj5u.com 2023-05-19 08:01:05 more
  • 反轉鏈表 Java版 圖文并茂思路分析帶答案(力扣第206題)

    反轉鏈表 力扣第206題 我們不只是簡單的學習(背誦)一個資料結構,而是要分析他的思路,以及為什么要有不同的指標等等 非遞回方式: 思路分析:首先要鏈表有個頭指標沒有任何問題 然后,我們要將1的下一個節點指向空,這樣才能將其反轉過來,但是這個時候我們發現和下一個節點2失去了聯系 所以我們要有一個指標 ......

    uj5u.com 2023-05-19 08:00:29 more
  • 民間最大社區,倒閉了!

    天涯神貼合集(500篇):https://pan.quark.cn/s/ba1e0577bfd8 最近幾天大家應該發現天涯社區網站打不開了。 天涯社區創辦于1999年,此時的中國,互聯網產業方興未艾,那時天涯社區相當火爆。 2007年時,天涯社區的注冊用戶就突破了2000萬,號稱是全球最大的中文互聯 ......

    uj5u.com 2023-05-19 08:00:19 more
  • Spring Boot整合Jwt

    JWT介紹 JWT是JSON Web Token的縮寫,即JSON Web令牌,是一種自包含令牌。 是為了在網路應用環境間傳遞宣告而執行的一種基于JSON的開放標準。 JWT的宣告一般被用來在身份提供者和服務提供者間傳遞被認證的用戶身份資訊,以便于從資源服務器獲取資源。比如用在用戶登錄上。 JWT最 ......

    uj5u.com 2023-05-19 08:00:13 more
  • java常用類

    java常用類 Object類 基類,超類,所有類的直接或間接父類 object類定義的方法是所有物件都具有的方法 object型別可以存盤任何物件 作為引數,可以接受任何物件 作為回傳值,可以回傳任何物件 getClass() 回傳參考中存盤的實際物件型別 public class Student ......

    uj5u.com 2023-05-19 07:59:55 more
  • Java設計模式-外觀模式

    簡介 在軟體開發程序中,經常會遇到復雜的系統和龐大的類別庫。這些系統往往包含了大量的類和子系統,給開發人員帶來了挑戰。為了簡化介面設計和提高系統的可用性,設計模式提供了一種名為外觀模式的解決方案。 外觀模式是一種結構型設計模式,旨在為復雜系統提供一個簡化的介面。該模式通過隱藏底層系統的復雜性,提供一個 ......

    uj5u.com 2023-05-19 07:59:42 more
  • 35基于java的校園二手交易系統或跳蚤市場設計與實作

    基于java的校園二手交易系統或跳蚤市場設計與實作,java二手交易平臺,二手商城,交易商城,大學生交易平臺,springboot二手交易系統,二手交易平臺,購物平臺,大學生跳蚤平臺設計與實作,閑置物品交易平臺,校園閑置二手。 ......

    uj5u.com 2023-05-19 07:59:37 more
  • 這10個Lambda運算式必須掌握,簡化你的代碼,提高生產力

    Lambda 運算式(lambda expression)是一個匿名函式,Lambda運算式基于數學中的λ演算得名,直接對應于其中的lambda抽象(lambda abstraction),是一個匿名函式,即沒有函式名的函式。Lambda運算式可以表示閉包,和傳統數學上的意義有區別。 文末有本文重點 ......

    uj5u.com 2023-05-19 07:59:33 more
  • 【GiraKoo】Java Native Interface(JNI)的空間(參考)管理

    Java是通過垃圾回識訓制回收記憶體,C/C++是通過malloc,free,new,delete手動管理空間。那么在JNI層,同時存在Java和C/C++的空間時,該如何進行空間的管理呢?本文參考Oracle的官方檔案,對JNI層中空間的管理進行說明。明確哪些內容需要手動呼叫Delete,哪些不需要... ......

    uj5u.com 2023-05-19 07:59:28 more