京公网安备 11010802034615号
经营许可证编号:京B2-20210330
作者:小K
来源:麦叔编程
❝
Python三分钟第132篇让大家从协程爬虫和计算密集型和IO密集型两个主题中选取一个来讲解,很多小伙伴表示太难了。
小孩子才做选择,不能全要吗?
❞
感谢大家的支持,今天的Python三分钟给大家介绍下计算密集型和IO密集型。
这个知识比较偏硬件,如果掌握这两个知识点,相信大家在异步、并发、并行编程会有更大的进步。
❝
今天的文章也不会出现任何代码,也适合不会Python的同学食用。
❞
CPU密集型也叫计算密集型,这部分工作基本上都是都是CPU完成的。
例如用电脑计算1亿个数的平均数。
CPU密集表示某任务有着大量的运算且没有阻塞(休息时间),CPU始终全速运行。
最直观的体现形式是任务开启后,CPU温度将急剧上升,散热风扇运转速度也会变快。
与CPU密集型不同,IO密集型工作基本是由磁盘等储存设备完成的。
IO是输入、输出的缩写(Input、Output)。
像我们用U盘往电脑拷贝大型文件,那是最经典的IO密集型任务。
这个问题不太好回答,要从实际情况进行分析,如果爬虫需要突破对方服务器的安全措施(反爬),可能也会涉及大量的解密计算。
这样的爬虫应该要被分到CPU密集型任务里去的。
如果就像上篇文章中的协程爬虫那样,只是负责发送请求和接收请求,CPU参与度不高。
这样的爬虫应该要被分到IO密集型任务里去的。
但是协程爬虫存在大量的计算任务,那。。。。。没啥必要用协程了。
❝
如果Baidu的服务器响应速度能再快一点,我相信我们的协程爬虫速度也会更快一点。
❞
说到计算密集型就不得不提Python的GIL(全局解释器锁)。
因为GIL的存在,CPython解释器只能运行在一个进程之中,CPython没有真正的多进程,所以硬件上CPU核心再怎么多也没什么用,CPython只能用到一个核。
计算密集型是CPython的软肋。
但是CPython在处理IO密集型任务还是非常棒的,尤其引入了协程之后。
如果你对GIL的概念一知半解,请留言GIL,我将会专门开一期对其讲解。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据指标体系搭建工作中,从业者常困惑于指标搭建的核心逻辑:究竟是依托一线零散数据自下而上汇总指标,还是基于战略目标自上 ...
2026-07-31在数据分析、问卷研究、实验复盘、业务建模的工作中,大多数人最关注的是“用什么统计方法”:是做T检验、方差分析、卡方检验, ...
2026-07-31 许多数据分析师精通Excel函数和SQL查询,但当面对一张上万行的销售明细表,要快速回答“哪个地区销量最高”“哪款产品增长最 ...
2026-07-31在问卷调研的数据分析流程中,“先检验信效度,再开展进阶统计分析”是通用的规范逻辑。很多从业者会听到“问卷效度高,后续可以 ...
2026-07-30【核心关键词】大数据、统计学、专业、毕业生、论文、课程、计算机、建模、知识、数据分析、机器学习、数据科学、大数据技术、 ...
2026-07-30 很多数据分析师掌握了Excel函数、会写SQL查询,但当被问到“数据从哪里来”“数据加工有哪些步骤”“如何使用分析工具连接数 ...
2026-07-30在业务数据分析中,按天拆分统计夜间时段的数据是高频需求——比如电商夜间订单监测、平台夜间用户活跃度分析、运维系统夜间异常 ...
2026-07-29在机器学习建模与特征工程实践中,判断不同特征对模型预测效果的贡献度,是特征筛选、模型解释、业务归因的核心环节。特征置换重 ...
2026-07-29 很多数据分析师精通Excel单元格操作,但当被问到“表结构数据的基本处理单位是什么”“字段和记录的本质区别”“为什么表结 ...
2026-07-29【核心关键词】岗位、数字化、经验、课程、方法论、决策、企业、大方向、数据分析、销售管理、理论知识、思维方式、分析销售、 ...
2026-07-28在问卷调研、用户分群、效果对比等业务数据分析中,分类变量的关联性与差异性验证是高频需求。卡方检验作为针对离散分类数据的经 ...
2026-07-28 数据分析师八成以上的时间在和数据表格打交道,但许多人拿到Excel后习惯性地先算、先分析,结果回头发现漏了一列关键数据, ...
2026-07-28在Excel数据分析与报表制作中,数据透视表是快速完成多维度汇总、分组统计的核心工具。很多从业者在得到透视表汇总结果后,为了 ...
2026-07-27 很多数据分析师每天与Excel打交道,但当被问到“表格结构数据的基本处理单位是什么”“数据类型误判会引发哪些分析错误”“ ...
2026-07-27当下,我们已然步入数据要素价值全面释放的智能时代。数据不再只是零散的数字记录,更是驱动新质生产力运转的核心动能、滋养人工 ...
2026-07-27【核心关键词】客户、数据分析、指标体系、数据采集、数据指标、业务数据、分析思路、业务需求、分析方法 【专访摘要】本次 CDA ...
2026-07-24在数据分析、业务建模与数字化运营体系中,原始业务数据普遍存在缺失、重复、异常、口径不一致等质量问题,直接用于分析与建模会 ...
2026-07-24 很多数据分析师能熟练计算均值、标准差,但当被问到“如何用一张图让业务方3秒内看懂核心结论”“面对不同数据类型该怎么选 ...
2026-07-24在数据驱动的精细化运营体系中,指标是业务判断、效果复盘、策略优化的核心依据。随着企业数据化程度提升,指标数量持续膨胀,但 ...
2026-07-23在用户运营与产品增长体系中,留存是衡量产品真实价值与用户粘性的核心标尺,也是决定用户生命周期价值、获客投产比的底层因素。 ...
2026-07-23