简介
背景
Pandas 是 Python 的一个工具库，用于数据分析。由 AQR Capital Management 于 2008 年 4 月开发，2009 年开源，最初被作为金融数据分析工具而开发出来。Pandas 名称来源于 panel data（面板数据）和 Python data analysis（Python 数据分析）。适用于金融、统计等数据分析领域。
特点：两大数据结构
Series 和 DataFrame
（1）Series：一维数据（列+索引）
pandas.Series(['东汉', '马腾', '?', 212], index=['国家', '姓名', '出生年份', '逝世年份'])
（2）DataFrame：二维数据（表格：多个列+行/列索引）
pandas.DataFrame([
['东汉', 300],
['魏国', 800],
['蜀国', 400],
['吴国', 600],
['西晋', 1000]
], columns=['国家', '国力'])
安装
如果你使用的是数据科学的 Python 发行版：Anaconda，可以使用 conda 安装
conda install pandas
如果是普通的 Python 环境，可以使用 pip 安装
pip install pandas
实战
我们先看看数据长啥样，数据存在 sanguo.csv 文档中
$ head sanguo.csv
（1）导入模块
import pandas as pd
（2）读取 csv 数据
# 当前目录下的 sanguo.csv 文件，na_values 指定哪些值为空
df = pd.read_csv('./sanguo.csv', na_values=['na', '-', 'N/A', '?'])
1）查看数据
# 查看前 5 条
df.head(5)
# NaN 为空值
# 查看后 5 条
df.tail(5)
2）查看数据概况
df.dtypes
# 查看数据类型
df.info()
# 有 25 行，5 列
# 各列的名称（kindom、name、birth、die、character）、非空数目、数据类型
df.describe()
# 查看数值型列统计值：总数、平均值、标准差、最小值、25%/50%/75% 分位数、最大值
3）数据操作
设置列名
df.columns = ['国家', '姓名', '出生年份', '逝世年份', '角色']
df.head()
添加新列
# 计算年龄
df['年龄'] = df['逝世年份'] - df['出生年份']
df.head(10)
计算列平均值、中位数、众数、最/小值
| 功能 | 函数 | |
|---|---|---|
| 平均值 | df['年龄'].mean() | 50.57142857142857 |
| 中位数 | df['年龄'].median() | 53.0 |
| 众数 | df['年龄'].mode() | 72.0 |
| 最大值 | df['年龄'].max() | 72.0 |
| 最小值 | df['年龄'].min() | 12.0 |
列筛选
# 筛选年轮小于 50 的数据
df[df['年龄'] < 50]
# 筛选曹姓的数据
df[df['姓名'].str.startswith('曹')]
分组
df.groupby('国家')['姓名'].count()
# 类似于 SQL: SELECT 国家, COUNT(姓名) FROM x GROUP BY 国家
apply 函数
df['状态'] = df['年龄'].apply(lambda x: '长寿' if isinstance(x, (int, float)) and x > 50 else '一般')
df.head()
取数据：loc、iloc
df.loc[4] | 取第 5 行数据（索引从 0 开始） |  |
df.loc[4:5] | 取第 5~6 行数据 |  |
df.loc[4, '姓名']或 df.iloc[4, 1] | 取第 5 行姓名列 或第 5 行第 2 列 |  |
df.loc[4, ['姓名', '年龄']]或 df.iloc[4, [1, 5]] | 取第 5 行姓名、年龄列 或第 5 行第 2 列、第 6 列 |  |
df.loc[4:5, ['姓名', '年龄']]或 df.iloc[[4, 5], [1, 5]]或 df.iloc[4:6, [1, 5]] | 取第 5~6 行姓名、年龄列 或取第 5~6 行第 2 列、第 6 列 |  |
df.iloc[4:9, 1:4] | 取 5~10 列第 2~5 列 |  |
追加、合并数据
concat
# 创建列
newpeople = pd.Series(['东汉', '马腾', '?', 212, '?'], index=['国家', '姓名', '出生年份', '逝世年份', '年龄'])
# 将 Series 转为 DataFrame，并对 DataFrame 转置（列转行）
newpeople = newpeople.to_frame().T
# 追加行（axis=0），重置索引（ignore_index=True）
df2 = pd.concat([df, newpeople], axis=0, ignore_index=True)
df2.tail()
merge
# 创建表格
kindom_power = pd.DataFrame([
['东汉', 300],
['魏国', 800],
['蜀国', 400],
['吴国', 600],
['西晋', 1000]
], columns=['国家', '国力'])
# 按国家列进行两个表格（左 df，右 kindom_power）合并
df3 = pd.merge(left=df, right=kindom_power, on='国家')
df3.head(10)
4）导出数据
# 写入 sanguo_result.csv 中，不输出索引值
df.to_csv('sanguo_result.csv', index=False)
参考
- https://pandas.pydata.org/
- https://www.runoob.com/pandas/pandas-tutorial.html
- https://github.com/xchenhao/code-notes/blob/master/data/sanguo.csv
sanguo.csv 数据
