Pandas教程（四）—— 分层索引及数据联合

1.分层索引

分层索引就是在一个轴上拥有多个（两个及以上）索引级别，能以低维度形式处理高维度数据。

1.1 分层索引的创建

1.1.1 方式一：直接设置

1）在创建series、dataframe或读取文件时时，行名或列名输入一个二维的列表；
2）使用语句：data.set_index（） 括号中输入一个含多个列名的列表

set_index会生成一个新的dataframe，使用一个或多个列作为索引

reset_index是它的反函数，分层索引中的索引层级会被移动到列中

import pandas as pd
data = {"城市":["北京","上海","深圳","广州"],
         "同比":[120.7,127.3,119.4,140.9],
         "环比":[101.5,101.2,101.3,120.0],
         "定基":[121.4,127.8,120.0,145.5]}

# 法一
data1 = pd.DataFrame(data,
                    index = [["A","A","B","B"],[1,2,1,4]],  #第一层中相同的要放在一起
                    columns =["城市","同比","环比","定基"])

# 法二
data2 = pd.DataFrame(data,columns =["城市","同比","环比","定基"])
data2 = data2.set_index(['城市','同比'])

输出结果如下：

我们得到的就是一个以 MutiIndex 对象 作为索引的美化视图

print(data.index) #打印dataframe的索引

返回结果如下：

1.1.2 利用方法属性创建

以下方法只是创建出多维索引 Mutiindex 对象，还需要在定义时将其赋给Dataframe

创建语法：pd. MutiIndex.下述方法（）

方法	描述
from_arrays	接收一个多维数组，高维指定高层索引，低维指定底层索引
from_tuples	接收一个元组的列表，每个元组指定每个对应索引（高维索引，低维索引）如上图
from_product	接收一个可迭代对象的列表，使用笛卡尔积的方式创建

方法

描述

from_arrays

接收一个多维数组，高维指定高层索引，低维指定底层索引

from_tuples

接收一个元组的列表，每个元组指定每个对应索引

（高维索引，低维索引）如上图

from_product

接收一个可迭代对象的列表，使用笛卡尔积的方式创建

补充：笛卡尔积

两个集合X和Y的笛卡尔积（X × Y）是指第一个对象是X的成员而第二个对象是Y的所有可能有序对的其中一个成员

例如：A={a, b}，B={0, 1, 2}，则笛卡尔积为{(a, 0), (a, 1), (a, 2), (b, 0), (b, 1), (b, 2)}

import pandas as pd
# 利用数组设置
mult1 = pd.MultiIndex.from_arrays([['a', 'a', 'b', 'b'], [1, 2, 1, 2]],names = ["x","y"])
print(mult1)

# 利用元组设置
mult2 = pd.MultiIndex.from_tuples([('a', 1),('a', 2),('b', 1),('b', 2)],names = ["x","y"])
print(mult2)

# 推荐：利用可迭代对象设置
mult3 = pd.MultiIndex.from_product([[2019,2020],[1,2]])
mult3.names = ["年","月"] # 也可以这样设置索引名
print(mult3)


# 将mutiindex赋给数据
mult4 = pd.MultiIndex.from_product([["山东","北京"],["土豆","茄子"]],names=['城市', '蔬菜'])
data = pd.DataFrame(np.random.random(size=(4,4)),
                    index = mult3,
                    columns = mult4)
print(data)

1.2 分层索引的切片或索引

首先我们先创建一个多层索引的dataframe，并以此为例讲解

（参考了该文章：https://blog.csdn.net/qq_35318838/article/details/102469320）

import pandas as pd
mult3 = pd.MultiIndex.from_product([[2019,2020],[1,2]])
mult3.names = ["年","月"]
mult4 = pd.MultiIndex.from_product([["山东","北京"],["土豆","茄子"]],names=['城市', '蔬菜'])
data = pd.DataFrame(np.random.random(size=(4,4)),index = mult3,columns = mult4)
print(data)

1.2.1 对列标签层次化索引

最外层列标签的索引：data [ "外层列名" ]
内层列标签的索引： data [ "外层标签"，"内层标签" ]

print(data["山东"]) # 索引山东列
print("-"*50)
print(data["山东","土豆"]) #索引山东的土豆列

1.2.2 对行标签层次化索引

最外层行标签的索引：data.loc [ "外层行名" ]
内层行标签的索引： data.loc [ "外层标签"，"内层标签" ]

print(data.loc[2019]) # 索引2019年 行
print("-"*50)
print(data.loc[2019,1]) # 索引2019一月 行

1.2.3 使用xs进行索引

pandas 中的 xs 方法在索引时可以直接指定层次化索引中元素和层级

语法：data.xs（ x , level=, axis=1)

参数说明：

x：标签或标签的元组

level：层级名（本例中行索引层级包括：蔬菜、城市列索引层级包括：年、月）

axis：哪个轴向上的层级

print(data.xs(1,level="月",axis=0)) # 列切片 月层级上所有1月
print("-"*50)
print(data.xs("土豆",level="蔬菜",axis=1))  # 行切片 蔬菜层级上所有土豆

1.2.4 使用loc和slice方法切片

在列索引中，“ ：”代表选取全部列，但冒号不能在行索引中使用；

行索引中应该使用slice（None）代表选取所有行

print(data.loc[(slice(None),1),:]) # 选取所有1月
print(data.loc[slice(None),(slice(None),"茄子")]) # 选取所有的茄子

1.3 重排序和层级排序

方法	描述
data.swaplevel（“key1”，“key2”）	传入两个层级序号或层级名称，互换这两个层级的位置
data.sort_index（level =）	传入一个层级，使结果按照层级进行字典排序

2.联合与合并数据集

基础知识：四种连接方式

内连接(inner)、左连接(left)、右连接(right)、全外连接（outer 全部都要)

2.1 Merge函数

merge函数有点类似sql中的join，主要用于将两个Dataframe根据一些共有的列连接起来

语法： pd.merge（data1，data2，参数）

常用参数：

how： 数据连接的方式：inner（默认）、left、right、outer（即上面四种）

on： 用来连接的列名，必须是在两边的df中都有的列名；若使用多个键进行合并，

传入一个含多个列名的列表，把多个键看作一个元组数据当作单个键处理即可

suffixes：对于左右表中的重名列，添加后缀进行区分，默认为（"_x"，"_y"）

left_on / right_on： 左（右）表中用作连接键的列名

left_index / right_index：将左（右）表的行索引index用作连接键，布尔值默认F

2.1.1 根据单个连接键合并

pd.merge(数据1,数据2,on='姓名',how='inner')

import pandas as pd
数据1= pd.DataFrame({'姓名':['叶问','李小龙','孙兴华','李小龙','叶问','叶问'],'出手次数1':np.arange(6)})
数据2 = pd.DataFrame({'姓名':['黄飞鸿','孙兴华','李小龙'],'出手次数2':[1,2,3]})
数据3 = pd.merge(数据1,数据2,on='姓名',how='inner')
print(数据3)

2.1.2 根据多个连接键合并

根据多个键进行合并时，on参数需传入一个含多个列名的列表，把多个键看作一个元组数据当作单个键处理即可

import pandas as pd
数据1 = pd.DataFrame({'姓名': ['张三', '张三', '王五'],'班级': ['1班', '2班', '1班'],'分数': [10,20,30]})
数据2 = pd.DataFrame({'姓名': ['张三', '张三', '王五','王五'],'班级': ['1班', '1班', '1班','2班'],'分数': [40,50,60,70]})

数据3 = pd.merge(数据1,数据2,on=['姓名','班级'],how='outer',suffixes=('_left','_right'))   # 外连接（并集）的结果
print(数据3)

2.1.3 索引作为键进行合并

如果我们希望以df的索引作为合并的键，只需传递参数 left_index / right_index = True 即可

import pandas as pd
import numpy as np
data1 = pd.DataFrame({"key1":["Ohio","Ohio","Ohio","Nevada","Nevada"],
                      "key2":[2000,2001,2002,2001,2002],
                      "data":np.arange(5)})

data2 = pd.DataFrame(np.arange(12).reshape(6,2),
                     index = [["Nevada","Nevada","Ohio","Ohio","Ohio","Ohio"],
                              [2001,2000,2000,2000,2001,2002]],
                     columns = ["first","second"])

data3 = pd.merge(data1,data2,left_on=["key1","key2"],right_index=True,how="outer")
print(data3)

2.2 join函数

join函数可以便捷的进行横向连接，它默认以索引为连接键，且默认左连接

语法：left_data . join（right_data，on = None，how = 'left'）
若要一次组合多个dataframe，只需传入一个列表即可。例如：result = left.join([right, right2])

import pandas as pd
left = pd.DataFrame({'姓名1':['叶问','李小龙','孙兴华'],'年龄1':[127,80,20]})
right = pd.DataFrame({'姓名2':['大刀王五','霍元甲','陈真'],'年龄2':[176,152,128]})

print(left.join(right))

2.3 concat函数

contact函数主要负责数据组合中的拼接、绑定或堆叠，也可以总结为沿轴向对数据进行连接

语法：contact（[ data1，data2... ]，axis = ，join = ，keys = ...）

常用参数：

axis ：沿哪个轴进行数据连接，默认为0，纵向连接

join ：选择连接方式，inner（默认）或outer

join_axes ：可以指定根据那个轴来对齐数据，代替join的作用

ignore_index：是否忽略原索引，产生一段新的索引（默认False，不忽略）

keys：输入一个列表，增加一个区分数据组的键，形成分层索引