1.Pandas简介
pandas是一个强大的Python数据分析的工具包,它是基于Numpy构建的。
Pandas的主要功能:
1)具备对其功能的数据结构DataFrame,Series
2)集成时间序列功能
3)提供丰富的数学运算和操作
4)灵活处理缺失数据
安装方法:pip install pandas
引用方法:import pandas as pd
2.Series
series是一种类似于一维数组的对象,由一组数据和一组与之相关的数据标签(索引)组成。
(1)创建Series对象的四种方法
第一种: pd.Series([4,5,6]) 执行结果: 0 4 1 5 2 6 dtype: int64 # 将数组索引以及数组的值打印出来,索引在左,值在右。由于没有为数据指定索引,会自动创建一个整数型索引,取值的时候可以通过索引取值。 ----------------------------------------------- 第二种: li = pd.Series([4,5,6],index=['a','b','c']) li 执行结果: a 4 b 5 c 6 dtype: int64 # 自定义索引,index是一个索引列表,里面包含的是字符串。 >>>li[1] # 通过自定义索引取值 5 >>>li['b'] # 通过默认索引取值 5 ----------------------------------------------- 第三种: pd.Series({"a":1,"b":2}) # 指定索引 执行结果: a 1 b 2 dtype: int64 ----------------------------------------------- 第四种: pd.Series(0,index=['a','b','c']) 执行结果: a 0 b 0 c 0 dtype:int64 # 创建一个都是0的数组。
(2)创建一个缺失数据
# 第一步创建一个字典,通过Series方式创建一个Series对象 a = {"aa":18,"bb":19,"cc":20} li = pd.Series(a) li 运行结果: aa 18 bb 19 cc 20 dtype: int64 ------------------------------------------ # 第二步 b = {'aa','bb','dd'} # 定义一个索引变量 ------------------------------------------ #第三步 lili = pd.Series(a,index=b) lili # 将第二步定义的a变量作为索引传入 # 运行结果: dd NaN aa 18.0 bb 19.0 dtype: float64 # 因为 dd 没有出现在a的键中,所以返回的是缺失值
(3)处理nan缺失值的方式
# 1. lili.isnull() # 是缺失值返回Ture 运行结果: dd True bb False aa False dtype: bool ------------------------------------------ # 2.lili.notnull() # 不是缺失值返回Ture 运行结果: dd False bb True aa True dtype: bool ------------------------------------------ # 3、过滤缺失值 # 布尔型索引 obj1[obj1.notnull()] 运行结果: cloud 21.0 yang 19.0 sean 18.0 dtype: float64 ------------------------------------------ # 4.lili.dropna(inplace=True) # inplace=True确保nan可以被成功过滤掉 运行结果: bb 19.0 aa 18.0 dtype: float64 ------------------------------------------ # 5.lili.fillna(0,inplace=True) # inplace=True确保nan可以填充成功 运行结果: bb 19.0 aa 18.0 dd 0.0 dtype: float64
(4)整数索引
li 运行结果: sean 18.0 rocky 0.0 yang 19.0 cloud 21.0 dtype: float64 -------------------------------------------------- >>>li['rocky'] 0.0 >>>li.iloc[1] # iloc:索引位置解释 0.0 >>>li.loc['rocky'] # loc:标签解释 0.0
(5)Series数据对齐
pandas在运算时,会按索引进行对齐然后计算。如果存在不同的索引,则结果的索引是两个操作数索引的并集。若某个索引对应的是nan,那该索引无论怎么相加都是nan。此时我们需要将缺失值设置为0;如sr1.add(sr3,fill_value=0)。
3.DataFrame
DataFrame是一个表格型的数据结构,相当于是一个二维数组,含有一组有序的列。他可以被看做是由Series组成的字典,并且共用一个索引。
创建方式
创建一个DataFrame数组可以有多种方式,其中最为常用的方式就是利用包含等长度列表或Numpy数组的字典来形成DataFrame:
# 第一种: pd.DataFrame({'one':[1,2,3,4],'two':[4,3,2,1]}) # 产生的DataFrame会自动为Series分配所索引,并且列会按照排序的顺序排列 运行结果: one two 0 1 4 1 2 3 2 3 2 3 4 1 > 指定列 可以通过columns参数指定顺序排列 data = pd.DataFrame({'one':[1,2,3,4],'two':[4,3,2,1]}) pd.DataFrame(data,columns=['one','two']) # 打印结果会按照columns参数指定顺序 ------------------------------------------------------------------------- # 第二种: pd.DataFrame({'one':pd.Series([1,2,3],index=['a','b','c']),'two':pd.Series([1,2,3],index=['b','a','c'])}) 运行结果: one two a 1 2 b 2 1 c 3 3
查看属性
pd.DataFrame({'one':pd.Series([1,2,3],index=['a','b','c']),'two':pd.Series([1,2,3],index=['b','a','c'])}) # 这样一个数组df one two a 1 2 b 2 1 c 3 3 ------------------------------------------------------------------------- df.index # 获取行索引 运行结果: Index(['a', 'b', 'c'], dtype='object') ------------------------------------------------------------------------- df.columns # 获取列索引 运行结果: Index(['one', 'two'], dtype='object') ------------------------------------------------------------------------- df.T # 转置 运行结果: a b c one 1 2 3 two 2 1 3 ------------------------------------------------------------------------- df.values # 获取值索引 运行结果: array([[1, 2], [2, 1], [3, 3]], dtype=int64) ------------------------------------------------------------------------ df.describe() # 获取快速统计 运行结果: one two count 3.0 3.0 mean 2.0 2.0 std 1.0 1.0 min 1.0 1.0 max 3.0 3.0
4.时间对象处理
灵活处理时间对象:dateutil包
# dateutil.parser.parse() import dateutil dateutil.parser.parse("2019 Jan 2nd") # 这中间的时间格式一定要是英文格式 运行结果: datetime.datetime(2019, 1, 2, 0, 0)
成组处理时间对象:pandas
pd.to_datetime(['2018-03-01','2019 Feb 3','08/12-/019']) 运行结果: DatetimeIndex(['2018-03-01', '2019-02-03', '2019-08-12'], dtype='datetime64[ns]', freq=None) # 将一个字符串格式转换为一个DatetimeIndex格式
产生时间对象数组:data_range
pd.date_range("2019-1-1","2019-1-10") # 取1到10号范围内的所有天数 运行结果: DatetimeIndex(['2019-01-01', '2019-01-02', '2019-01-03', '2019-01-04','2019-01-05', '2019-01-06', '2019-01-07', '2019-01-08', '2019-01-09', '2019-01-10'], dtype='datetime64[ns]', freq='D') # freq 时间频率,默认为'D',