主頁 > 後端開發 > 【pandas基礎】--資料拆分與合并

【pandas基礎】--資料拆分與合并

2023-05-19 08:05:56 後端開發

資料集拆分是將一個大型的資料集拆分為多個較小的資料集,可以讓資料更加清晰易懂,也方便對單個資料集進行分析和處理,
同時,分開的資料集也可以分別應用不同的資料分析方法進行處理,更加高效和專業,

資料集合并則是將多個資料集合并成一個大的資料集,可以提供更全面的資訊,也可以進行更綜合的資料分析,
同時,資料集合并也可以減少資料處理的復雜度和時效性,提升資料分析的準確性和結果的可靠性,

1. 資料集拆分

拆分資料集比較簡單,之前介紹過資料檢索的各種方式,其實檢索出的結果就是拆分出來的資料,

1.1 拆分行

拆分單行和多行,

import pandas as pd

df = pd.DataFrame(
    {
        "name": ["小紅", "小明", "小華"],
        "age": [13, 15, 14],
        "gender": ["男", "女", "男"],
    }
)
first_row = df.loc[0:0, :]
left_rows = df.loc[1:, :]

image.png

1.2 拆分列

拆分單列或者多列,

import pandas as pd

df = pd.DataFrame(
    {
        "name": ["小紅", "小明", "小華"],
        "age": [13, 15, 14],
        "gender": ["男", "女", "男"],
    }
)

first_col = df[["name"]]
left_cols = df[["age", "gender"]]

image.png

1.3 按條件拆分

下面的示例按照列的值來拆分資料集,

import pandas as pd

df = pd.DataFrame(
    {
        "name": ["小紅", "小明", "小華"],
        "age": [13, 15, 14],
        "gender": ["男", "女", "男"],
    }
)

males = df[df["gender"] == "男"]
greater13 = df[df["age"] > 13]

image.png

如果有多個條件,可以通過邏輯與(&)邏輯或(|)符號來連接,具體可以參照之前介紹資料檢索的文章,

2. 資料集合并

資料集的合并也是比較常用的,因為我們收集來的資料可能來自不同的地方,

2.1 merge 方法

merge方法合并DataFrame時,有兩個重要的引數:

  1. how:設定合并的方式,有innerouterleftright四種方式,
  2. on:依據那個列來合并

下面是四種不同合并方式的示例,
inner合并:name值相同的資料才保留下來,

import pandas as pd

df1 = pd.DataFrame(
    {
        "name": ["小紅", "小明"],
        "age": [13, 15],
        "gender": ["男", "女"],
    }
)

df2 = pd.DataFrame(
    {
        "name": ["小紅", "小華"],
        "score": [99, 100],
    }
)

df = pd.merge(df1, df2, how="inner", on="name")
df

image.png

outer合并:兩個DataFramename都保留下來,合并后缺失值的填充NaN

df = pd.merge(df1, df2, how="outer", on="name")
df

image.png

left合并:df1name全部保留下來,缺失的值填充NaN

df = pd.merge(df1, df2, how="left", on="name")
df

image.png

right合并:df2name全部保留下來,缺失的值填充NaN

df = pd.merge(df1, df2, how="right", on="name")
df

image.png

2.2 concat 方法

兩個DataFrame結構相同時,一般是按行來合并(axis=0),

df1 = pd.DataFrame(
    {
        "name": ["小紅", "小明"],
        "age": [13, 15],
        "gender": ["男", "女"],
    }
)

df2 = pd.DataFrame(
    {
        "name": ["小紅", "小華"],
        "age": [13, 15],
        "gender": ["男", "女"],
    }
)

df = pd.concat([df1, df3], axis=0)
df

image.png

如果兩個DataFrame結構不一樣時,用列合并(axis=1),

df1 = pd.DataFrame(
    {
        "name": ["小紅", "小明"],
        "age": [13, 15],
        "gender": ["男", "女"],
    }
)

df2 = pd.DataFrame(
    {
        "score": [100, 90],
        "city": ["nanjing", "beijing"],
    }
)

df = pd.concat([df1, df3], axis=1)
df

image.png

2.3 join 方法

join方法和merge方法類似,主要區別在于joinDataFrame的方法,而mergepandas的方法,
下面請直接看與merge方法相似的四種示例,

inner合并:name值相同的資料才保留下來,

df1 = pd.DataFrame(
    {
        "name": ["小紅", "小明"],
        "age": [13, 15],
        "gender": ["男", "女"],
    }
)

df2 = pd.DataFrame(
    {
        "name": ["小紅", "小華"],
        "score": [99, 100],
    }
)

df1 = df1.set_index("name")
df2 = df2.set_index("name")
df = df1.join(df2, how="inner")
df.reset_index()

image.png
注意,這里顯示了joinmerge的一個區別,join默認是依據索引(index)來合并DataFrame的,
所以,先把name設定為索引之后才合并的,合并之后又通過reset_index重置了索引,得到了和merge同樣的結果,

outer合并:兩個DataFramename都保留下來,合并后缺失值的填充NaN

df1 = df1.set_index("name")
df2 = df2.set_index("name")
df = df1.join(df2, how="outer")
df.reset_index()

image.png
注意,最后的資料雖然和merge一樣,但是順序有些區別,

left合并:df1name全部保留下來,缺失的值填充NaN

df1 = df1.set_index("name")
df2 = df2.set_index("name")
df = df1.join(df2, how="left")
df.reset_index()

image.png
left的結果和merge一樣,

right合并:df2name全部保留下來,缺失的值填充NaN

df1 = df1.set_index("name")
df2 = df2.set_index("name")
df = df1.join(df2, how="right")
df.reset_index()

image.png
right的結果和merge一樣,

3. 總結回顧

總的來說,pandas資料集拆分和合并的意義在于高效利用資料,提高資料分析的質量和效率,進一步實作資料驅動的業務增長,

本篇主要介紹了資料集拆分和合并最常用的幾種基本方法,根據具體的業務組合這些基本方法,就能夠進行更復雜的資料集拆分和合并,

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/552811.html

標籤:其他

上一篇:實驗三 Java類的繼承與派生

下一篇:返回列表

標籤雲
其他(159269) Python(38156) JavaScript(25435) Java(18070) C(15228) 區塊鏈(8267) C#(7972) AI(7469) 爪哇(7425) MySQL(7197) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5871) 数组(5741) R(5409) Linux(5340) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4573) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2433) ASP.NET(2403) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) .NET技术(1975) 功能(1967) Web開發(1951) HtmlCss(1938) python-3.x(1918) C++(1917) 弹簧靴(1913) xml(1889) PostgreSQL(1878) .NETCore(1861) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • 【pandas基礎】--資料拆分與合并

    資料集拆分是將一個大型的資料集拆分為多個較小的資料集,可以讓資料更加清晰易懂,也方便對單個資料集進行分析和處理。 同時,分開的資料集也可以分別應用不同的資料分析方法進行處理,更加高效和專業。 資料集合并則是將多個資料集合并成一個大的資料集,可以提供更全面的資訊,也可以進行更綜合的資料分析。 同時,數 ......

    uj5u.com 2023-05-19 08:05:56 more
  • 實驗三 Java類的繼承與派生

    ###第1關 類的繼承 package step1; import java.util.Scanner; class Person { /********** Begin **********/ // 自行設計類的實作 //姓名 private String name; //性別 private S ......

    uj5u.com 2023-05-19 08:05:52 more
  • < Python全景系列-4 > 史上最全檔案型別讀寫庫大盤點!什么?還包括

    介紹史上最全PYTHON檔案型別讀寫庫大盤點!包含常用和不常用的大量檔案格式!文本、音頻、視頻應有盡有!廢話不多說!走起來! ......

    uj5u.com 2023-05-19 08:05:47 more
  • 重慶高校平臺刷課軟體(小魚高校平臺助手)相關說明

    ###很久沒有更新博客了,最近忙著接一些js的腳本外包,忙著背各種面經八股文,今天把剛剛更新了的小魚高校平臺助手相關的一些東西說明一下吧 如圖目前掛在github下的軟體的官網被bing給收錄了,github內的原始碼地址也同樣被收錄其中,這讓我有一些驚喜 那么言歸正傳關于軟體出現的一些問題進行一下答 ......

    uj5u.com 2023-05-19 08:05:00 more
  • python包管理工具:Conda和pip比較

    Conda和pip通常被認為幾乎完全相同。雖然這兩個工具的某些功能重疊,但它們設計用于不同的目的。 Pip是Python Packaging Authority推薦的用于從Python Package Index安裝包的工具。 Pip安裝打包為wheels或源代碼分發的Python軟體。后者可能要求 ......

    uj5u.com 2023-05-19 08:04:51 more
  • python標準模塊介紹 -Base64: Base64, Base85等資料編碼

    簡介 功能:RFC 3548: Base16, Base32, Base64 資料編碼。轉換二進制資料為適合明文協議傳輸的 ASCII 序列。轉換 8bits 為每個位元組包含 6,5 或 4bits 的有效資料,比如 SMTP, URL 的一部分或者 HTTP POST 的一部分。參考: RFC 3 ......

    uj5u.com 2023-05-19 08:04:05 more
  • 2023最佳python編輯器和IDE

    IDE沒有統一的標準,自己習慣就是最好的。本文列出一些較常用的IDE,供大家參考。 一般而言,WingIDE、PyCharm、Spyder、Vim是比較常用的IDE。 Spyder Spyder是Python(x,y)的作者為它開發的一個簡單的集成開發環境。和其他的Python開發環境相比,它最大的 ......

    uj5u.com 2023-05-19 08:03:31 more
  • Python字串替換的3種方法

    Python字串替換筆記主要展示了如何在Python中替換字串。Python中有以下幾種替換字串的方法,本文主要介紹前三種。 replace方法(常用) translate方法 re.sub方法 字串切片(根據Python字串切片方法替換字符) 1.replace方法 Python rep ......

    uj5u.com 2023-05-19 08:03:02 more
  • Python從零到壹丨影像增強的頂帽運算和底帽運算

    摘要:這篇文章詳細介紹了頂帽運算和底帽運算,它們將為后續的影像分割和影像識別提供有效支撐。 本文分享自華為云社區《[Python從零到壹] 四十九.影像增強及運算篇之頂帽運算和底帽運算》,作者:eastmount。 數學形態學(Mathematical Morphology)是一種應用于影像處理和模 ......

    uj5u.com 2023-05-19 08:01:24 more
  • 【pandas基礎】--資料拆分與合并

    資料集拆分是將一個大型的資料集拆分為多個較小的資料集,可以讓資料更加清晰易懂,也方便對單個資料集進行分析和處理。 同時,分開的資料集也可以分別應用不同的資料分析方法進行處理,更加高效和專業。 資料集合并則是將多個資料集合并成一個大的資料集,可以提供更全面的資訊,也可以進行更綜合的資料分析。 同時,數 ......

    uj5u.com 2023-05-19 08:01:10 more