相信接触过Excel的小伙伴都知道,Excel有一个非常强大的功能“数据透视表”,使用数据透视表可以自由选择不同字段,用不同的聚合函数进行汇总,并建立交叉表格,用以从不同层面观察数据。这么强大的功能,在Python中怎么去实现呢?
不用担心,Python的"数据分析小能手"Pandas很贴心地为我们提供了一个快速实现数据透视表功能的方法——pivot_table()。事不宜迟,让我们赶紧看看如何在Python中实现数据透视表!
为帮助大家更好地理解,在讲解如何使用pivot_table( )实现透视表前,我们先导入示例数据,在接下来的讲解中都使用此数据作为例子。
# 导入示例数据 <<< data =pd.read_csv("data.csv") <<< data.head() 月份 项目 部门 金额 剩余金额 0 1月 水费 市场部 1962.37 8210.58 1 2月 水费 市场部 690.69 9510.60 2 2月 电费 市场部 2310.12 5384.92 3 2月 电费 运营部 -1962.37 7973.10 4 2月 电费 开发部 1322.33 6572.16
下面我将带大家使用pivot_table( )一步一步实现数据透视表的操作。
首先,原数据有5个字段,我们在做数据透视表之前必须理解每个字段的意思,明确清楚自己需要得到什么信息。
假设我们想看看不同月份所花费的水电费金额是多少,这时我们需要把字段“月份”设置为索引,将字段“金额”设置为我们需要看的值,具体代码如下:
<<< data.pivot_table(index=['月份'],values=['金额']) 金额 月份 10月 3723.940000 11月 2900.151667 12月 10768.262857 1月 1962.370000 2月 1432.280000 3月 3212.106667 4月 4019.175000 5月 4051.480000 6月 6682.632500 7月 11336.463333 8月 17523.485000 9月 10431.960000
参数index为设置的索引列表,即分组依据,需要用中括号[ ]将索引字段括起来;参数values为分组后进行计算的字段列表,也需要用中括号[ ]括起来。这两个参数的值可以是一个或多个字段,即按照多个字段进行分组和对多个字段进行计算汇总。例如,设置index=['项目','部门']代表求不同项目不同部门下的金额。
<<< data.pivot_table(index=['项目','部门'],values=['金额']) 金额 项目 部门 水费 市场部 3614.318125 开发部 2358.205000 运营部 5896.213333 电费 市场部 6094.748235 开发部 1322.330000 运营部 7288.615000 采暖费 市场部 5068.380000 运营部 55978.000000
若设置values=['金额','剩余金额'],即求不同项目不同部门下金额和剩余金额的值。
<<< data.pivot_table(index=['项目','部门'],values=['金额','剩余金额']) 剩余金额 金额 项目 部门 水费 市场部 7478.423125 3614.318125 开发部 6866.490000 2358.205000 运营部 7224.033333 5896.213333 电费 市场部 7645.535882 6094.748235 开发部 6572.160000 1322.330000 运营部 8821.895000 7288.615000 采暖费 市场部 6572.030000 5068.380000 运营部 7908.560000 55978.000000
同时,如果我们想以交叉表的形式查看不同项目和不同部门下的消费金额,这时就要将字段‘部门’设置为列名,进行交叉查看,具体代码如下:
<<< data.pivot_table(index=['项目'],columns=['部门'],values=['金额']) 金额 部门 市场部 开发部 运营部 项目 水费 3614.318125 2358.205 5896.213333 电费 6094.748235 1322.330 7288.615000 采暖费 5068.380000 NaN 55978.000000
通过上面的示例,我们可以看到某个分组下不存在记录会被标记为NAN,例如上述中采暖部和开发部不存在金额这一字段的记录,则会标记为NAN。如果不希望被标记为NAN,我们可以通过设置参数fill_value=0来用数值0替代这部分的缺失值。
<<< data.pivot_table(index=['项目'],columns=['部门'],values=['金额'],fill_value=0) 金额 部门 市场部 开发部 运营部 项目 水费 3614.318125 2358.205 5896.213333 电费 6094.748235 1322.330 7288.615000 采暖费 5068.380000 0.000 55978.000000
在上面的示例中,我们都是默认分组后对值进行求平均值计算,假如我们想查看不同项目不同部门下金额的总和该怎么实现呢?
通过设置参数aggfunc=np.sum即可对分组后的值进行求和操作,参数aggfunc代表分组后值的汇总方式,可传入numpy库中的聚合方法。
<<< data.pivot_table(index=['项目'],columns=['部门'],values=['金额'],fill_value=0,aggfunc=np.sum) 金额 部门 市场部 开发部 运营部 项目 水费 57829.09 4716.41 17688.64 电费 103610.72 1322.33 29154.46 采暖费 5068.38 0.00 55978.00
除了常见的求和、求平均值这两种聚合方法,我们还可能接触到以下这几种:
描述方法标准差np.std()方差np.var()所有元素相乘np.prod()中数np.median()幂运算np.power()开方np.sqrt()最小值np.min()最大值np.max()以e为底的指数np.exp(10)对数np.log(10)
与前面介绍的参数index,columns,value一样,参数aggfunc传入的值也是一个列表,表示可传入一个或多个值。当传入多个值时,表示对该值进行多种汇总方式,例如同时求不同项目不同部门下金额的求和值和平均值:
<<< data.pivot_table(index=['项目'],columns=['部门'],values=['金额'],fill_value=0,aggfunc=[np.sum,np.max]) sum amax 金额 金额 部门 市场部 开发部 运营部 市场部 开发部 运营部 项目 水费 57829.09 4716.41 17688.64 16807.58 2941.28 6273.56 电费 103610.72 1322.33 29154.46 18239.39 1322.33 26266.60 采暖费 5068.38 0.00 55978.00 5068.38 0.00 55978.00
同时,如果我们想对不同字段进行不同的汇总方式,可通过对参数aggfunc传入字典来实现,例如我们可以同时对不同项目不同部门下,对字段金额求总和值,对字段剩余金额求平均值:
<<< data.pivot_table(index=['项目'],columns=['部门'],values=['金额','剩余金额'],fill_value=0,aggfunc={'金额':np.sum,'剩余金额':np.max}) 剩余金额 金额 部门 市场部 开发部 运营部 市场部 开发部 运营部 项目 水费 9510.60 8719.34 7810.38 57829.09 4716.41 17688.64 电费 9625.27 6572.16 9938.82 103610.72 1322.33 29154.46 采暖费 6572.03 0.00 7908.56 5068.38 0.00 55978.00
另外,在进行以上功能的同时,pivot_table还为我们提供了一个求所有行及所有列对应合计值的参数margins,当设置参数margins=True时,会在输出结果的最后添加一行'All',表示根据columns进行分组后每一项的列总计值;以及在输出结果的最后添加一列'All',表示根据index进行分组后每一项的行总计值。
<<< pd.set_option('precision',0) <<< data.pivot_table(index=['项目'],columns=['部门'],values=['金额','剩余金额'],fill_value=0,aggfunc={'金额':np.sum,'剩余金额':np.max},margins=True) 剩余金额 金额 部门 市场部 开发部 运营部 All 市场部 开发部 运营部 All 项目 水费 9511 8719 7810 9511 57829 4716 17689 80234 电费 9625 6572 9939 9939 103611 1322 29154 134088 采暖费 6572 0 7909 7909 5068 0 55978 61046 All 9625 8719 9939 9939 166508 6039 102821 275368
上面详细介绍了如何在python中通过pivot_table( )方法实现数据透视表的功能,那么,与数据透视表原理相同,显示方式不同的‘数据透视图’又该怎么实现呢?
实现方法非常简单,将上述进行pivot_table操作后的对象进行实例化,再对实例化后的对象进行plot绘图操作即可,具体代码如下:
<<< df=data.pivot_table(index=['项目'],columns=['部门'],values='金额',fill_value=0) <<< df.plot(kind='bar')
数据分析咨询请扫描二维码
CDA数据分析师在中国航信高科技产业园进行了面向测试度量的数据分析培训课程,培训人数近2 ...
2024-05-01CDA数据分析师走进深圳迈瑞生物医疗电子股份有限公司,在迈瑞总部展开了为期两天的培训,本次课程参训人员线上及线下近百人, ...
2024-05-01CDA数据分析师在合肥市对合肥阳光新能源科技有限公司开展了为期8天的企业内训。 合肥阳光新能源科技 ...
2024-05-01CDA数据分析师走进海尔大学,进行了《数据治理与数据中台建设的道与术》专题培训,培训现场爆满,近百人参加了此次培训。 ...
2024-05-01在中国银行苏州分行培训中心开始数据分析师培训,此次培训课程共10天内容,包括Excel、MySQL、概率论与数理统计、SPSS等内容, ...
2024-05-01从实际的业务需求出发,结合行业的典型应用特点,围绕实际的商业问题,探讨数据挖掘、机器学习模型在金融领域的应用,包括获客、信用评分、细分画像、交叉销售、反欺诈、违规识别、时序预测、运筹优化、流程挖掘九个方面,形成 ...
2024-05-01本次培训课程为线上+线下的模式,由于学员编程能力不一、部分学员没有编程基础,故提供统计学、python基 ...
2024-05-01华夏银行信用卡中心-机器学习培训 1、课程亮点 取材于业界一流企业和顶级咨询公司的行业实践;已经被证明是人人 ...
2024-05-01主 题:数据中台建设及数据分析应用主题分享 1. 数据中台市场洞察 2. 主流数据中台产品比较 3. 某企业数据中 ...
2024-05-01围绕“数据驱动”战略,全力打造我行 300 人数字化人才梯队,着力培养数字化管理人才、大数据专业团队 ...
2024-05-01在当今数据驱动的商业环境中,数据分析成为了企业决策的重要依据。通过对大量数据的收集、处理和分析,企业能够更好地理解市场 ...
2024-04-29在人工智能(AI)的世界里,提示词(Prompt)是一种强大的工具,它能够引导AI按照用户的需求产生特定的输出。本文将深入探讨AI ...
2024-04-29CDA立足未来职场,拓展前沿视野——对外经贸大学保险学院举办“三全育人大讲堂”分享行业最新动态。 ...
2024-04-294月2日,CDA数据分析师创始发起人兼协会理事长赵坚毅博士受邀在浙江万里学院举办了一场以“数字化能力在职场中的作用” ...
2024-04-29随机森林(Random Forests)现在机器学习中比较火的一个算法,是一种基于Bagging的集成学习方法,能够很好地处理分类和回归的问 ...
2022-12-23方差分析是数据分析中常用的一种统计分析方法,接下来让我们简单了解一下方差分析的基本思想和原理吧。 方差分析(Analysis ...
2022-12-23来源:关于数据分析与可视化 关于streamlit-aggrid 数据排序 表格样式的调整 数据 ...
2022-08-03作者:麦叔 定义 「把上面晦涩的概念汇成一句话就是:」 ❝ 回调函数就是一个被作为参 ...
2022-08-03现今,高学历人群日益增多,物以稀为贵的高学历光环淡去。无论本科生还是研究生,甚至博士生,求职竞争力都大不如前,就业压力越来越大。
2022-06-01某家企业10个人面试,有9个本科生……如何脱颖而出,除得体的举止和良好的沟通力外,证书成重要筹码,这也是很多人考证的关键所在。
2022-04-14