京公网安备 11010802034615号
经营许可证编号:京B2-20210330
python易混淆知识系列:pandas字符串方法和字符串内建函数,使用python的一个优势就是字符串处理起来比较容易。
Python的初学者在学习字符串内建函数的时候往往会很困惑:字符串的内建函数是对单个字符串对象处理,如果要对成千上万个字符串对象处理该怎么办?
不少已经使用Python工作很长时间的同学,即使已经学会使用Pandas对象的.apply()方法来处理字符串,依然会时常忘记:其实Pandas已经自带功能强大的向量化字符串操作。
即使知道Pandas字符串方法的同学,使用的时候也经常与字符串内建函数混淆。
而熟练使用Pandas字符串方法的同学往往会觉得,其方法的代码简洁性与运行效率都远高于其他的写法。真相到底如何?Pandas字符串方法和字符串内建函数有什么不同?运算效率真的像传闻那么高吗?
今天我们就好好捋一下这块Python易混淆的知识点。
1. 快速入门向量化字符串操作
初学Python字符串内建函数的同学肯定知道有个叫.lower()的方法可以将字符串中的大写英文字母转化为小写,比如将字符串对象’ABCD’转化为小写:
点击添加图片描述(最多60个字)编辑
如果字符型的Series对象中的字符串要转化为小写呢?比如:
点击添加图片描述(最多60个字)编辑
此时,我们就可以使用Series的str方法中的.lower()来处理:
点击添加图片描述(最多60个字)编辑
同理,如果要将Series对象中的所有的大写字母变成小写,可以使用.str.upper()。
看到这里,相信很多没有使用过Pandas字符串方法的同学会惊奇地发现,这跟字符串对象的内建函数差不多呀?只不过多了一个通过.str()方法调用函数的过程。
确实,大多数Pandas的字符串方法借鉴了Python字符串内建函数的内容,这里给大家梳理一下,两种处理字符串方法基本相同的地方:
· 求字符串长度
§ .str.len()
· 字符检索
§ .str.find()和.str.rfind()
§ .str.index()和.str.rindex()
· 字符转换
§ .str.lower()和.str.upper()
§ .str.title()和.str.capitalize()
§ .str.swapcase()
· 字符类型判断
§ .str.islower()和.str.isupper()
§ .str.isnumeric()、.str.isalnum()、.str.isdecimal()、.str.isalpha()、.str.isdigit()
§ .str.isspace()
§ .str.istitle()
· 字符对齐与填充
§ .str.startswith()和.str.endswith()
§ .str.center()
§ .str.ljust()和.str.rjust()
· 字符分隔
§ .str.split()和.str.rsplit()
§ .str.partition()和.str.rpartition()
· 字符整理
§ .str.strip()、.str.rstrip()、.str.lstrip()
以上方法都是Pandas字符串方法与Python字符串内建函数中基本一致的部分,无论是方法名还是调用过程,只有少部分有少许区别。
2. 其他字符串方法
除了与字符串内建函数类似的方法以外,Pandas还有一些功能强大的字符串方法。
(1) 向量化字符串的取值和切片操作
很多同学会很疑惑,字符串对象可以进行取值和切片操作,但是Pandas对象中的字符串如何进行相同的操作?比如以上面的Series对象为例:
点击添加图片描述(最多60个字)编辑
如果想把上面Series对象中所有字符串中的前三个字母取出来,可以通过调用.str属性后,返回的对象直接使用和字符串切片一样的方法:
点击添加图片描述(最多60个字)编辑
此外还可以使用.str.slice()方法,其参数与切片方法的类似:
点击添加图片描述(最多60个字)编辑
但是如果想根据字符串索引来取单个字符元素,可以通过.str.get()方法来进行。比如上面的Series对象a中,我们想要取里面所有字符串索引值为1的元素,可以写a.str.get(1):
点击添加图片描述(最多60个字)编辑
(2) 字符串拼接
Python中多个字符串对象拼接非常简单,直接使用加法运算符就可以了,比如:
点击添加图片描述(最多60个字)编辑
这种便捷的方法,Series对象也同样沿用下来,可以将多个字符型Series对象用加法运算符直接相加:
点击添加图片描述(最多60个字)编辑
但是Pandas字符串方法中有更加强大的字符串拼接功能,那就是.str.cat()方法。
实现上面同样的字符串拼接,如果我们使用.str.cat()方法,可以这样写:
点击添加图片描述(最多60个字)编辑
也就是说,第一个Series对象调用.str.cat()方法,该方法第一个参数可以用列表的形式来把其他需要合并的Series对象写进来。
当然,.str.cat()方法功能强大,比如可以选择使用参数sep来自定义分隔符来合并,我们使用“|”来连接上面的三个Series对象:
点击添加图片描述(最多60个字)编辑
(3) 字符替换操作
字符串内建函数有便捷的字符替换方法.replace(),比如我们想字符串’abcd’中的’a’替换成’A’:
点击添加图片描述(最多60个字)编辑
同样地,Pandas字符串方法也有一样的操作:
点击添加图片描述(最多60个字)编辑
当然,如果想通过索引值或者切片来指定替换呢?比如我们想将str_01中的所有字符串中索引值0到2的元素替换成符号‘*’,我们就需要使用.str.slice_replace(),替换对象以参数repl来指定:
点击添加图片描述(最多60个字)编辑
(4) 快速独热编码
独热编码无论在特征工程中还是问卷数据处理中都应用广泛,我们需要转码的字符如下图表示,该怎么办?
点击添加图片描述(最多60个字)编辑
想看到这,熟练使用Pandas的apply()方法的同学会开始绞尽脑汁写自定义函数来完成这么复杂的编码规则。其实,我们可以直接使用Pandas字符串方法.str.get_dummies()来完成独热编码,如下:
点击添加图片描述(最多60个字)编辑
如果非常不幸,我们的字符串中的分隔符”|”都不存在,该怎么办?
点击添加图片描述(最多60个字)编辑
此时我们可以使用搭配使用.str.join()方法,将“|”插入到上面Series对象中每个字符串对象的每个元素之间:
点击添加图片描述(最多60个字)编辑
上面生成的对象最后再次调用.str.get_dummies()方法即可:
点击添加图片描述(最多60个字)编辑
3. 代码量与运算效率PK
从上面我们可以看到,Pandas的字符串方法实现了很多我们意想不到的操作的同时,大大简化了代码书写的复杂程度。
接下来,我们对比一下,在文本数据量较大的时候,使用Pandas字符串方法和使用字符串内建函数,在代码量上和代码运算效率上作一番比较。
我们以最为常用的几个使用场景来举例子,分别是字符切片、替换、拼接、去除前后特殊字符。
下面用到的内存分析魔法函数,需要先在pip安装扩展memory_profiler:
pip install memory_profiler
然后还需要在notebook中导入这个扩展:
%load_ext memory_profiler
(1) 字符串切片方法对比
我们先建立一个长度为一千万的字符型Series对象:
点击添加图片描述(最多60个字)编辑
我们尝试使用两种方法,对Series对象中的所有字符对象取前两个元素:
点击添加图片描述(最多60个字)编辑
上面我们会发现第一种方法使用列表推导式配合字符串切片方法,会比第二种使用Pandas字符串方法占用内存要大且运算时间稍慢。
同时,Pandas字符串方法的代码简洁很多。
(5) 字符串替换方法对比
同理按照以上的方法,我们对比一下两种字符串方法的在字符串替换上的运算效率:
点击添加图片描述(最多60个字)编辑
上图可以看到,无论是代码简洁性、可阅读性,还是运算效率方面,Pandas的字符串方法都要好很多。
(6) 字符串拼接方法对比
多个字符型Series对象拼接在一起,同时使用分隔符“|”拼接,我们对比一下两种写法:
点击添加图片描述(最多60个字)编辑
可以看到在拼接方法上,虽然代码的简洁性与拓展性,Pandas的字符串方法要好很多,但是其运算效率要比第一种方法要低很多。
这主要是因为第一种方法使用了广播机制,加快了运算效率。
(7) 去除前后特殊字符
去除字符串前后的特殊字符,比如空格,是字符串处理的常见操作,我们看看使用Pandas的.str.strip()方法是否在各方面要好很多。
先建一个例子:
点击添加图片描述(最多60个字)编辑
第一种方法我们依然使用列表推导式与字符串内建函数:
点击添加图片描述(最多60个字)编辑
第二种方法:
点击添加图片描述(最多60个字)编辑
第二种方法我们会看到,虽然运算时间稍微比第一种方法高了一点,但是代码简洁性和可阅读性要比第一种方法好很多,而且运算内存消耗要低很多。
4. 小结
从上面这么多的例子我们会发现,Pandas的字符串方法无论是在代码可阅读性还是运算效率方面,在实现各种字符串处理场景时,基本上都要比其他方法要好很多。而在实现特定字符串处理场景,比如独热编码时,Pandas特有的字符串方法就更加便捷。
作为实用主义者,我们在处理文本数据的时候,可以优先使用Pandas字符串方法。遇到尤为棘手的处理需求时,结合字符串内建函数与Pandas的apply(),你就可以建立一个功能强大无比的字符串处理程序来清洗自己数据了。
CDA学员免费下载查看报告全文:2026全球数智化人才指数报告【CDA数据科学研究院】.pdf
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在互联网运营、产品优化、用户增长等领域,次日留存率是衡量产品价值、用户粘性与运营效果的核心指标,更是判断新用户是否认可产 ...
2026-05-09相关性分析是数据分析领域中用于探究两个或多个变量之间关联强度与方向的核心方法,广泛应用于科研探索、商业决策、医疗研究、社 ...
2026-05-09 数据分析师八成以上的时间在和数据表格打交道,但许多人拿到Excel后习惯性地先算、先分析,结果回头发现漏了一列关键数据, ...
2026-05-09在数据驱动运营的时代,指标是连接业务目标与实际行动的核心桥梁,是企业解读业务现状、发现问题、预判趋势的“量化标尺”。一套 ...
2026-05-08在存量竞争日趋激烈的商业时代,“以客户为中心”早已从口号落地为企业运营的核心逻辑。而客户画像作为打通“了解客户”与“服务 ...
2026-05-08 很多数据分析师每天与Excel打交道,但当被问到“什么是表格结构数据”“它和表结构数据有什么区别”“表格结构数据有哪些核 ...
2026-05-08在数据分析、计量研究等场景中,回归分析是探究变量间量化关系的核心方法,无论是简单的一元线性回归,还是复杂的多元线性回归、 ...
2026-05-07在数据分析、计量研究等场景中,回归分析是探究变量间量化关系的核心方法,无论是简单的一元线性回归,还是复杂的多元线性回归、 ...
2026-05-07 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-05-07在数字化时代,商业竞争的核心已从“经验驱动”转向“数据驱动”,越来越多的企业意识到,商业分析不是简单的数据统计与报表呈现 ...
2026-05-06在Excel数据透视表的实操中,“引用”是连接透视表与公式、辅助数据的核心操作,而相对引用作为最基础、最常用的引用方式,其设 ...
2026-05-06 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-05-06在Excel数据分析中,数据透视表是汇总、整理海量数据的高效工具,而公式则是实现数据二次计算、逻辑判断的核心功能。实际操作中 ...
2026-04-30Excel透视图是数据分析中不可或缺的工具,它能将透视表中的数据快速可视化,帮助我们直观捕捉数据规律、呈现分析结果。但在实际 ...
2026-04-30 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-04-30在中介效应分析中,人口统计学变量(如年龄、性别、学历、收入、职业等)是常见的控制变量或调节变量,其处理方式直接影响分析结 ...
2026-04-29在SQL数据库实操中,日期数据的存储与显示是高频需求,而“数字日期”(如20240520、20241231、45321)是很多开发者、数据分析师 ...
2026-04-29 很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当 ...
2026-04-29在手游行业竞争日趋白热化的当下,“流量为王”早已升级为“留存为王”,而付费用户留存率更是衡量一款手游盈利能力、运营质量的 ...
2026-04-28在日常MySQL数据库运维与开发中,经常会遇到“同一台服务器上,两个不同数据库(以下简称“源库”“目标库”)的表数据需要保持 ...
2026-04-28