首页 文章详情

Pandas必会的方法汇总,数据分析必备!

i小码哥 | 392 2021-09-19 12:57 0 0 0
UniSMS (合一短信)
来源丨Python极客专栏

用Python做数据分析光是掌握numpy和matplotlib可不够,Pandas是必须要掌握的一个重点,numpy虽然能够帮我们处理处理数值型数据,但是这还不够,很多时候,我们的数据除了数值之外,还有字符串,还有时间序列等,比如:我们通过爬虫获取到了存储在数据库中的数据。

今天来分享一些Pandas必会的用法,让你的数据分析水平更上一层楼。

一、Pandas两大数据结构的创建

序号方法说明
1pd.Series(对象,index=[ ])创建Series。对象可以是列表\ndarray、字典以及DataFrame中的某一行或某一列
2pd.DataFrame(data,columns = [ ],index = [ ])创建DataFrame。columns和index为指定的列、行索引,并按照顺序排列

举例:用pandas创建数据表:

df = pd.DataFrame({"id":[1001,1002,1003,1004,1005,1006], 
 "date":pd.date_range('20130102', periods=6),
  "city":['Beijing ''SH'' guangzhou ''Shenzhen''shanghai''BEIJING '],
 "age":[23,44,54,32,34,32],
 "category":['100-A','100-B','110-A','110-C','210-A','130-F'],
  "price":[1200,np.nan,2133,5433,np.nan,4432]},
  columns =['id','date','city','category','age','price'])

二、DataFrame常见方法

序号方法说明
1df.head()查询数据的前五行
2df.tail()查询数据的末尾5行
3pandas.qcut()基于秩或基于样本分位数将变量离散化为等大小桶
4pandas.cut()基于分位数的离散化函数
5pandas.date_range()返回一个时间索引
6df.apply()沿相应轴应用函数
7Series.value_counts()返回不同数据的计数值
8df.reset_index()重新设置index,参数drop = True时会丢弃原来的索引,设置新的从0开始的索引,常与groupby()一起用

举例:重新索引

df_inner.reset_index()

三、数据索引

序号方法说明
1.values将DataFrame转换为ndarray二维数组
2.append(idx)连接另一个Index对象,产生新的Index对象
3.insert(loc,e)在loc位置增加一个元素
4.delete(loc)删除loc位置处的元素
5.union(idx)计算并集
6.intersection(idx)计算交集
7.diff(idx)计算差集,产生新的Index对象
8.reindex(index, columns ,fill_value, method, limit, copy )改变、重排Series和DataFrame索引,会创建一个新对象,如果某个索引值当前不存在,就引入缺失值。
9.drop()删除Series和DataFrame指定行或列索引。
10.loc[行标签,列标签]通过标签查询指定的数据,第一个值为行标签,第二值为列标签。
11df.iloc[行位置,列位置]通过默认生成的数字索引查询指定的数据。

举例:按索引提取单行的数值

df_inner.loc[3]

四、DataFrame选取和重新组合数据的方法

序号方法说明
1df[val]从DataFrame选取单列或一组列;在特殊情况下比较便利:布尔型数组(过滤行)、切片(行切片)、或布尔型DataFrame(根据条件设置值)
2df.loc[val]通过标签,选取DataFrame的单个行或一组行
3df.loc[:,val]通过标签,选取单列或列子集
4df.1oc[val1,val2]通过标签,同时选取行和列
5df.iloc[where]通过整数位置,从DataFrame选取单个行或行子集
6df.iloc[where_i,where_j]通过整数位置,同时选取行和列
7df.at[1abel_i,1abel_j]通过行和列标签,选取单一的标量
8df.iat[i,j]通过行和列的位置(整数),选取单一的标量
9reindex通过标签选取行或列
10get_value通过行和列标签选取单一值
11set_value通过行和列标签选取单一值

举例:使用iloc按位置区域提取数据

df_inner.iloc[:3,:2#冒号前后的数字不再是索引的标签名称,而是数据所在的位置,从0开始,前三行,前两列。

五、排序

序号函数说明
1.sort_index(axis=0, ascending=True)根据指定轴索引的值进行排序
2Series.sort_values(axis=0, ascending=True)只能根据0轴的值排序。
3DataFrame.sort_values(by, axis=0, ascending=True)参数by为axis轴上的某个索引或索引列表。

举例:按照索引列排序

df_inner.sort_index()

六、相关分析和统计分析

序号方法说明
1.idxmin()计算数据最小值所在位置的索引(自定义索引)
2.idxmax()计算数据最大值所在位置的索引(自定义索引)
3.argmin()计算数据最小值所在位置的索引位置(自动索引)
4.argmax()计算数据最大值所在位置的索引位置(自动索引)
5.describe()针对各列的多个统计汇总,用统计学指标快速描述数据的概要
6.sum()计算各列数据的和
7.count()非NaN值的数量
8.mean( )计算数据的算术平均值
9.median()计算算术中位数
10.var()计算数据的方差
11.std()计算数据的标准差
12.corr()计算相关系数矩阵
13.cov()计算协方差矩阵
14.corrwith()利用DataFrame的corrwith方法,可以计算其列或行跟另一个Series或DataFrame之间的相关系数。
15.min()计算数据的最小值
16.max()计算数据的最大值
17.diff()计算一阶差分,对时间序列很有效
18.mode()计算众数,返回频数最高的那(几)个
19.mean()计算均值
20.quantile()计算分位数(0到1)
21.isin()用于判断矢量化集合的成员资格,可用于过滤Series中或DataFrame列中数据的子集
22.unique()返回一个Series中的唯一值组成的数组。
23.value_counts()计算一个Series中各值出现的频率。

举例:判断city列的值是否为北京

df_inner['city'].isin(['beijing'])

七、分组的方法

序号方法说明
1DataFrame.groupby()分组函数
2pandas.cut()根据数据分析对象的特征,按照一定的数值指标,把数据分析对象划分为不同的区间部分来进行研究,以揭示其内在的联系和规律性。

举例:.groupby用法

group_by_name=salaries.groupby('name'
print(type(group_by_name))

输出结果为:

<class 'pandas.core.groupby.DataFrameGroupBy'>

八、读写文本格式数据的方法

序号方法说明
1read_csv从文件、URL、文件型对象中加载带分隔符的数据。默认分隔符为逗号
2read_table从文件、URL、文件型对象中加载带分隔符的数据。默认分隔符为制表符(t)
3read_ fwf读取定宽列格式数据(也就是说,没有分隔符)
4read_clipboard读取剪贴板中的数据,可以看做read_table的剪贴板版。再将网页转换为表格时很有用
5read_excel从ExcelXLS或XLSXfile 读取表格数据
6read_hdf读取pandas写的HDF5文件
7read_html读取HTML文档中的所有表格
8read_json读取JSON字符串中的数据
9read_msgpack二进制格式编码的pandas数据
10read_pickle读取Python pickle格式中存储的任意对象
11read_sas读取存储于SAS系统自定义存储格式的SAS数据集
12read_sql读取SQL 查询结果为pandas的DataFrame
13read_stata读取Stata文件格式的数据集
14read_feather读取 Feather二进制文件格式

举例:导入CSV或者xlsx文件

df = pd.DataFrame(pd.read_csv('name.csv',header=1))
df = pd.DataFrame(pd.read_excel('name.xlsx'))

九、处理缺失数据

序号方法说明
1.fillna(value,method,limit,inplace)填充缺失值
2.dropna()删除缺失数据
3.info()查看数据的信息,包括每个字段的名称、非空数量、字段的数据类型
4.isnull()返回一个同样长度的值为布尔型的对象(Series或DataFrame),表示哪些值是缺失的

举例:查看数据表基本信息(维度、列名称、数据格式等等)

df.info()

十、数据转换

序号方法说明
1.replace(old, new)用新的数据替换老的数据,如果希望一次性替换多个值,old和new可以是列表。默认会返回一个新的对象,传入inplace=True可以对现有对象进行就地修改。
2.duplicated()判断各行是否是重复行,返回一个布尔型Series。
3.drop_duplicates()删除重复行,返回删除后的DataFrame对象。

举例:删除后出现的重复值:

df['city'].drop_duplicates()

结语

文章中总结的是都是一些Pandas常用的方法,至于一些基础的概念还需要你学到Pandas的时候去理解,例如Series是什么?DataFrame是什么?如果你已经清楚了Pandas的这些基础东西之后,搭配上文章中的这些方法,那你用Pandas去做数据处理和分析必然会游刃有余。

零基础学 Python,来这里


 只需7天时间,跨进Python编程大门,已有3800+加入

【基础】0基础入门python,24小时有人快速解答问题;
【提高】40多个项目实战,老手可以从真实场景中学习python;
【直播】不定期直播项目案例讲解,手把手教你如何分析项目;
【分享】优质python学习资料分享,让你在最短时间获得有价值的学习资源;圈友优质资料或学习分享,会不时给予赞赏支持,希望每个优质圈友既能赚回加入费用,也能快速成长,并享受分享与帮助他人的乐趣。
【人脉】收获一群志同道合的朋友,并且都是python从业者
【价格】本着布道思想,只需 69元 加入一个能保证学习效果的良心圈子。

【赠予】后续圈主将开发python,0基础入门在线课程,免费送给圈友们,供巩固和系统化复习

(三重福利)最近入圈送大礼包:

1、2.7G、308份最新数据分析报告
2、40G 人工智能算法  视频课
3、Python爬虫课,共14课

更多精彩


在公众号后台对话框输入以下关键词

查看更多优质内容!


PM2.5 | 世界杯 | 惊喜 | 附书代码


转载 / 投稿请联系:data_circle_yoni

优秀的读者都知道,“点赞”传统美德不能丢 
good-icon 0
favorite-icon 0
收藏
回复数量: 0
    暂无评论~~
    Ctrl+Enter