京公网安备 11010802034615号
经营许可证编号:京B2-20210330
数据科学团队的自测题
数据科学家具备很多相邻领域的技能,至少是基本技能(比如工程、开发和运维、产品管理、数学、研究、写作、商业等等),团队最容易出问题的地方之一,就是他们无法专注于那些需要动用这一整套技能才能完成的工作 团队是否拥有足够的数据,以及相应的工具来高效地处理这些数据。如果处理数据时困难重重:因为和生产系统相冲突,没有被文档化,或者收集方式前后不一致,甚至根本就不存在……这个时候,数据科学团队要及时出业绩就很难了。 团队必须能自信地报告负面结果,否则正面结果也会失去大家的信任。数据科学团队需要能“抓关键”的决策者,而这些决策者必须实事求是地面对数据和证据。
原文翻译:
虽然数据科学风头正盛,但它依然是一个比较年轻的学科,还有很多基础性的问题有待解答。数据科学家究竟是做什么的?成为数据科学家应当接受怎样的教育培训?数据科学家的职业道路是什么样的?最近,我一直在思考一个相关的问题:一个高效的数据团队的标志是什么?
说起出色的数据科学工作,我们最先想到的最重要的标准往往是“有没有大量的数据?”而我主张采用一个涵盖面更广的清单,涉及团队采用的流程、为团队提供支持的基础设施,以及团队与公司其余部分之间的界限。如果这些事情安排妥当,让团队专注于他们自己的问题,并减少围绕这些问题产生的摩擦,那么,数据科学家就会拿出优异的表现。
这种方法借鉴自joelonsoftware.com的乔尔提出的软件工程团队测试方式。你应当能快速对每个问题作出肯定或否定的回答。肯定答案越多,情况就越乐观。
这是对团队基本状况的衡量,优秀的团队可能存在其他各个方面的差异。这些问题既是关于团队本身,也是关于团队所处的生态系统,但依照我的经验,数据科学团队由于深深植根于公司内部,它必须敏锐地关注周遭的环境。你还可以换一个角度思考:假如你想加入这个团队,你会问些什么问题?
问题
1.你们绝大部分时间都在做耗时一天以上的项目吗?
2.公司有专门的工程师负责数据基础设施吗?
3.公司其他人可以不经过数据科学家,直接访问基本数据吗?
4.你们可以在不影响生产系统表现的情况下访问数据吗?
5.你们做分析的时间多于等待数据的时间吗?
6.重大架构会文档化吗?
7.测量手段会被视为最小可发布产品的一部分吗?
8.对于在收集到的数据中发现并修复错误,你们有设专门的流程吗?
9.已经完成的研究工作会被文档化并存放在某个中心位置吗?
10.团队在将工作共享出去之前,有一个常规的审查流程吗?
11.你会通过做实验去检测决策带来的影响吗?
12.你能没有后顾之忧地报告负面结果吗?
13. CEO(或其他负责人)能说出团队在当季做出的至少一个贡献吗?
14.公司在进行产品和业务规划流程时,会来咨询数据科学家吗?
优秀的数据科学工作是建立在一组基本需求层次之上的:强大且受到良好维护的数据基础设施,免受杂事干扰的环境,高质量的数据,强大的团队研究流程,能“抓关键”的开明决策者。
第一组问题(1-3)的重点是考察数据科学团队是否免受一些周边问题的干扰,通过改善基础设施、改进工具或交由专门人员处理,这些周边问题就能得到更好的解决。因为数据科学是一个跨学科领域,数据科学家具备很多相邻领域的技能,至少是基本技能(比如工程、开发和运维、产品管理、数学、研究、写作、商业等等),团队最容易出问题的地方之一,就是他们无法专注于那些需要动用这一整套技能才能完成的工作。如果大部分时间都用来响应临时请求、为简单的数据访问提供支持,或是管理数据管线,那就会挤占真正的数据科学工作。正因为他们可以很好地胜任这些周边工作,公司才需要设置严格的规定,确保他们不必去做。
没有丰富的数据,数据团队的工作就是盲目的,而第4-8个问题就考察了团队是否拥有足够的数据,以及相应的工具来高效地处理这些数据。如果处理数据时困难重重:因为和生产系统相冲突,没有被文档化,或者收集方式前后不一致,甚至根本就不存在……这个时候,数据科学团队要及时出业绩就很难了。这些问题也衡量了团队在公司里得到的信任程度;如果产品团队不能从数据科学团队那里得到好处,对建立和维护数据收集系统的重视程度就会打折扣。
团队内部流程(第9-11个问题)保证团队所做的是高质量的研究工作,这些工作能建立并维护它在公司内部得到的信任。数据科学团队所服务的对象大多没有能力去验证团队的工作成果,所以,团队自身要负责记录自己的工作,使之接受严格的同行评议,并将结果传播出去。这一点不言而喻:受控实验是数据科学武器库中最重要的一项工具,一个团队若不经常使用它,那一定是有问题的。
如果数据科学团队被强制要求,即使相关证据显示产品有问题,也必须让产品显得完美,那就是公司领导层出了问题。团队必须能自信地报告负面结果,否则正面结果也会失去大家的信任。数据科学团队需要能“抓关键”的决策者,而这些决策者必须实事求是地面对数据和证据。具体怎么衡量呢?可以看公司内部是否需要数据科学团队的参与,领导者能否快速确定,数据科学如何帮助自己的团队取得成功。最后的第12-14题试图考察这些方面。
这份清单显然是不彻底的,也并不完全适合推而广之。数据科学的界限划分仍然是人们争论不休的话题。纯粹着眼于构建数据产品的团队应该会有非常不同的观点,那些刻意模糊数据科学和工程数据界限的人应该也有不同意见。所有数据团队之间究竟有没有共同点呢?请畅所欲言,提出新的问题,或告诉我们,上述哪几个问题并不广泛适用。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
指标体系是企业数字化分析、业务监控、经营决策的核心基础框架,是将零散数据转化为可衡量、可对比、可落地业务价值的关键体系。 ...
2026-10-08随着市场竞争日趋饱和,同质化低价竞争逐渐陷入内卷僵局,传统以价格、渠道、促销为核心的营销模式边际效益持续递减。在此背景下 ...
2026-10-08 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-10-08你有没有想过,手机里点外卖、刷社交软件、转一笔账,背后到底是谁在替你"记着账"? 答案其实很简单:数据库,以及跟它对话的那 ...
2026-10-07CDA数据分析师 出品 作者:李诗怡 一、数据分析四大思维 1. 对比思维:没有对比就没有分析 核心观点:单独一个数字没有意义,有 ...
2026-10-05Kimball 是方法,星型模型是它产出的形状。 很多人把"Kimball vs 星型模型"当成一道选择题——这本身就是个误会:Kimball 是动词 ...
2026-10-05写在开头 老板在微信上甩来一句: "帮我看下为什么销量跌了。" ” 你回工位,打开 SQL,开始写。查订单表、拉近三个月、按 ...
2026-10-03CDA数据分析师 出品 作者:李诗怡 1. 事实表 vs 维度表 对比维度 事实表 维度表 核心问题 记录“业务发生了什么事” 描述 ...
2026-10-02做数据聚合时,PySpark的groupBy()确实能完成统计,这也是它的本职工作。但它有一个根本性局限:每一组数据,最终只能返回一行 ...
2026-10-01热力地图是数据可视化中极具辨识度与实用性的空间分析图表,结合地理空间维度与数据密度特征,通过颜色深浅、色阶渐变直观展示数 ...
2026-09-30 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-09-30同样是“银行数据岗”,在国有大行总行数据中心、在一家城商行的零售部、在银行系金融科技子公司、在保险公司,工作内容、成长节 ...
2026-09-29在数据分析与统计学研究中,数据往往不是独立存在的,不同变量之间普遍存在相互关联、相互影响的关系。相关性统计分析是挖掘变量 ...
2026-09-29 导读:大多数人只把 dataclasses 当成偷懒工具,用来少写 __init__、__repr__ 这类魔法方法。但它的能力远不止于此。本文带 ...
2026-09-29 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-09-29在MySQL数据库运维与业务开发中,行业普遍存在“数据达到千万级就必须分表”的说法。但在实际生产环境中,千万条数据并不是强制 ...
2026-09-28CDA数据分析师 出品 作者:李诗怡 1. 5W1H 分析法 定义:经典系统性思维框架,通过六个核心维度对问题进行全方位拆解与剖析,确 ...
2026-09-28 很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当 ...
2026-09-28CDA数据分析师 出品 作者:李诗怡 1. 用户标签体系 定义: 通过一系列高度精炼的特征标识,对用户属性、行为与偏好进行量化刻画 ...
2026-09-24Pandas是Python生态中用于表格数据处理的核心库,广泛应用于数据清洗、统计运算、报表输出、数据分析建模等场景。在处理极大数值 ...
2026-09-24