来源：早起Python
作者：刘早起
前两天，有一位读者在知识星球提出了一个关于 pandas 数据清洗的问题。
他的数据大致如下
现在希望分别做如下清洗
“A列中非字符行B列中非日期行C列中数值形式行(包括科学计数法的数值）D列中非整数行删掉C列中大小在10%-90%范围之外的行”
其实本质上都是「数据筛选」的问题，先来模拟下数据
如上图所示，基本上都是根据数据类型进行数据筛选，下面逐个解决。
让我们从第 4 题开始，取出 D 列全部非整数行，其实在 pandas 中可以使用.is_integer() 判断一个元素是否为整数。
这样我们就能结合 apply 函数找到全部整数行
再使用 ~ 取其补集即可得到答案
df[~df[['D']].apply(lambda x: x[0].is_integer(), axis=1)]
第 3 题要求取出 C 列所有数值形式的行。
在 pandas 同样有直接判断的函数 .isdigit() 判断是否为数值。
所以同上可以结合 apply 函数轻松搞定～
df[df['C'].str.isdigit().isnull()].dropna()
至于第 2 题，pandas 中虽有直接判断时间格式函数，但由于存在其他类型数据，该列为object，并不能直接判断。
所以只要我们将该列转换为时间格式（见习题 8-12）就会将不支持转换的格式修改为缺失值
这样在转换后删除确实值即可
至于第 1 题，我们可以借助 Python 中 isinstance 函数判断一个变量是否为字符串格式
再同样借助 apply 函数即可找到全部字符串的行，然后使用 ～ 取其补集即可
直接计算该列的指定范围，并多条件筛选即可。
数据分析咨询请扫描二维码
若不方便扫码，搜微信号：CDAshujufenxi
在金融行业的数字化转型进程中，SQL作为数据处理与分析的核心工具，贯穿于零售银行、证券交易、保险理赔、支付结算等全业务链条 ...
2025-12-24在数据分析领域，假设检验是验证“数据差异是否显著”的核心工具，而独立样本t检验与卡方检验则是其中最常用的两种方法。很多初 ...
2025-12-24在企业数字化转型的深水区，数据已成为核心生产要素，而“让数据可用、好用”则是挖掘数据价值的前提。对CDA（Certified Data An ...
2025-12-24数据分析师认证考试全面升级后，除了考试场次和报名时间，小伙伴们最关心的就是报名费了，报 ...
2025-12-23CDA中国官网是全国统一的数据分析师认证报名网站，由认证考试委员会与持证人会员、企业会员以及行业知名第三方机构共同合作，致 ...
2025-12-23在Power BI数据可视化分析中，矩阵是多维度数据汇总的核心工具，而“动态计算平均值”则是矩阵分析的高频需求——无论是按类别计 ...
2025-12-23在SQL数据分析场景中，“日期转期间”是高频核心需求——无论是按日、周、月、季度还是年度统计数据，都需要将原始的日期/时间字 ...
2025-12-23在数据驱动决策的浪潮中，CDA（Certified Data Analyst）数据分析师的核心价值，早已超越“整理数据、输出报表”的基础层面，转 ...
2025-12-23在使用Excel数据透视表进行数据分析时，我们常需要在透视表旁添加备注列，用于标注数据背景、异常说明、业务解读等关键信息。但 ...
2025-12-22在MySQL数据库的性能优化体系中，索引是提升查询效率的“核心武器”——一个合理的索引能将百万级数据的查询耗时从秒级压缩至毫 ...
2025-12-22在数据量爆炸式增长的数字化时代，企业数据呈现“来源杂、格式多、价值不均”的特点，不少CDA（Certified Data Analyst）数据分 ...
2025-12-22在企业数据化运营体系中，同比、环比分析是洞察业务趋势、评估运营效果的核心手段。同比（与上年同期对比）可消除季节性波动影响 ...
2025-12-19在数字化时代，用户已成为企业竞争的核心资产，而“理解用户”则是激活这一资产的关键。用户行为分析系统（User Behavior Analys ...
2025-12-19在数字化转型的深水区，企业对数据价值的挖掘不再局限于零散的分析项目，而是转向“体系化运营”——数据治理体系作为保障数据全 ...
2025-12-19在数据科学的工具箱中，析因分析（Factor Analysis, FA）、聚类分析（Clustering Analysis）与主成分分析（Principal Component ...
2025-12-18自2017年《Attention Is All You Need》一文问世以来，Transformer模型凭借自注意力机制的强大建模能力，在NLP、CV、语音等领域 ...
2025-12-18在CDA（Certified Data Analyst）数据分析师的时间序列分析工作中，常面临这样的困惑：某电商平台月度销售额增长20%，但增长是来 ...
2025-12-18在机器学习实践中，“超小数据集”（通常指样本量从几十到几百，远小于模型参数规模）是绕不开的场景——医疗领域的罕见病数据、 ...
2025-12-17数据仓库作为企业决策分析的“数据中枢”，其价值完全依赖于数据质量——若输入的是缺失、重复、不一致的“脏数据”，后续的建模 ...
2025-12-17在CDA（Certified Data Analyst）数据分析师的日常工作中，“随时间变化的数据”无处不在——零售企业的每日销售额、互联网平台 ...
2025-12-17
京公网安备 11010802034615号
经营许可证编号：京B2-20210330
