
作者 | Jeremie Harris
翻译 | Mika
CDA 数据分析师原创作品,转载需授权
我在一家数据科学培训公司工作。对于学员,我常常给出的建议并不是推荐库或者工具,而是让他们首先明确自己想成为什么样的数据科学家,确定自己的方向。
当中的原因在于,数据科学并不是单一且定义明确的领域,公司并不会雇用所谓的全能型数据科学家,而是会选择有拥专业技能的个人。
为了更好的理解,假设你们公司想聘请数据科学家。那么,你们肯定有明确的问题需要解决,而这需要具体的技术知识和专业知识。例如,有些公司将简单模型应用于大型数据集;有些公司将复杂模型应用于小型模型;有些公司需要动态训练模型;有些公司根本不使用(传统)模型。
以上这些都需要完全不同的技能。对于想进入数据科学领域的人群收到的建议往往是:学习使用Python,构建分类/回归/聚类等项目在开始找工作,这其实是不太合理的。
数据科学家在工作中承担了很多责任。人们会将过多的内容归入“数据科学”的范畴。为生产构建强大的数据管道,这应该是数据科学方面的问题。开发一种新的神经网络,这应该是数据科学方面的问题。
这种现象并不好,因为这会让有抱负的数据科学家失去方向和对特定问题的关注。
为了避免成为全能型数据科学家,再次之前让我们先了解数据科学领域主要有哪些职位,以及他们常常被混淆的原因:
1. 数据工程师
> 职位描述
为处理大量数据的公司管理数据管道。这意味着在数据需要从源头进行有效地收集和检索,而且在使用前需要进行清理和预处理。
> 重要性
如果你只使用过存储在.csv或.txt文件中的相对较小的数据集(小于5G),那么你可能很难理解为什么需要专人维护数据管道。
当中的原因在于:1)计算机很难承载大小为50 G的数据集,因此需要以其他方式将其提供给模型;2)大量数据可能需要花费大量时间来处理,并且经常需要冗余存储。进行管理存储需要专业的技术知识。
> 技能要求
你需要使用Apache Spark、Hadoop、Hive和Kafka。还需要有扎实的SQL的基础。
> 处理的问题
如何构建每分钟能处理1万个请求的管道?
如何在不将其全部加载到RAM的情况下清理该数据集?
2. 数据分析师
> 职位描述
将数据转化为可操作的商业见解。你通常会成为技术团队和商业策略业,销售或营销团队之间的中间人。数据可视化是你日常工作的重要组成部分。
> 重要性
有些人很难理解为什么数据分析师如此重要,但他们确实如此。数据分析师需要将经过训练和测试的模型,以及大量用户数据转换为易于理解的格式,以便转化为围商业策略。数据分析师帮助确保数据科学团队不会浪费时间来解决无法提供商业价值的问题。
> 技能要求
技能包括Python,SQL,Tableau和Excel。你还需要出色的沟通能力。
> 处理的问题
是什么带来了用户增长?
如何向管理层解释最近的使用费让用户望而却步?
3. 数据科学家
> 职位描述
清理和探索数据集,并进行能带来商业价值的预测。你的日常工作包括训练和优化模型,并将其部署到生产中。
> 重要性
当你有大量难以被解析的数据,你需要从中提取出可理解的分析见解。这是数据科学家的基本工作:将数据集转换为易于理解的结论。
> 技能要求
包括Python、scikit-learn、Pandas、SQL、也许还需要掌握Flask、Spark、TensorFlow、PyTorch。有些数据科学职位纯粹是技术性的,但大多数人要求你具备一定的商业意识。
> 处理的问题
我们有多少种不同的用户类型?
是否能建立一个模型来预测哪些产品将销售给哪些用户?
4. 机器学习工程师
> 职位描述
构建、优化机器学习模型,以及部署到生产。你的工作离不开机器学习模型,而且需要将其放入全栈应用程序或硬件中,但也需要自己设计模型。
> 技能要求
需要掌握Python、Javascript、scikit-learn,TensorFlow 、PyTorch,以及SQL或MongoDB。
> 处理的问题
如何将此Keras模型集成到我们的Javascript应用程序中?
如何减少推荐系统的预测时间和预测成本?
5. 机器学习研究员
> 职位描述
找到解决数据科学和深度学习中的挑战性问题的新方法。你不会使用开箱即用的解决方案,而是需要创建解决方案。
> 技能要求
需要用到Python、TensorFlow、PyTorch和SQL。
> 处理的问题
如何将模型的准确性提高到最高水平?
自定义优化器有助于减少训练时间吗?
结语
我在这里列出的五个职位绝对不是孤立的。例如,在早期创业公司,数据科学家也需要充当数据工程师或数据分析师的角色。但是大多数工作会按类别分类,公司规模越大,类别则越具体。
总的来说,为了找到心仪的工作,你需要明确具体的方向。如果你想成为一名数据分析师,就不用学习TensorFlow;如果你想成为一名机器学习研究员,那么不用先学Pyspark。
可以思考一下你希望为公司带来哪方面的价值,并朝着这个方向努力,这是入门的最佳方式。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在 “神经网络与卡尔曼滤波融合” 的理论基础上,Python 凭借其丰富的科学计算库(NumPy、FilterPy)、深度学习框架(PyTorch、T ...
2025-10-23在工业控制、自动驾驶、机器人导航、气象预测等领域,“状态估计” 是核心任务 —— 即从含噪声的观测数据中,精准推断系统的真 ...
2025-10-23在数据分析全流程中,“数据清洗” 恰似烹饪前的食材处理:若食材(数据)腐烂变质、混杂异物(脏数据),即便拥有精湛的烹饪技 ...
2025-10-23在人工智能领域,“大模型” 已成为近年来的热点标签:从参数超 1750 亿的 GPT-3,到万亿级参数的 PaLM,再到多模态大模型 GPT-4 ...
2025-10-22在 MySQL 数据库的日常运维与开发中,“更新数据是否会影响读数据” 是一个高频疑问。这个问题的答案并非简单的 “是” 或 “否 ...
2025-10-22在企业数据分析中,“数据孤岛” 是制约分析深度的核心瓶颈 —— 用户数据散落在注册系统、APP 日志、客服记录中,订单数据分散 ...
2025-10-22在神经网络设计中,“隐藏层个数” 是决定模型能力的关键参数 —— 太少会导致 “欠拟合”(模型无法捕捉复杂数据规律,如用单隐 ...
2025-10-21在特征工程流程中,“单变量筛选” 是承上启下的关键步骤 —— 它通过分析单个特征与目标变量的关联强度,剔除无意义、冗余的特 ...
2025-10-21在数据分析全流程中,“数据读取” 常被误解为 “简单的文件打开”—— 双击 Excel、执行基础 SQL 查询即可完成。但对 CDA(Cert ...
2025-10-21在实际业务数据分析中,我们遇到的大多数数据并非理想的正态分布 —— 电商平台的用户消费金额(少数用户单次消费上万元,多数集 ...
2025-10-20在数字化交互中,用户的每一次操作 —— 从电商平台的 “浏览商品→加入购物车→查看评价→放弃下单”,到内容 APP 的 “点击短 ...
2025-10-20在数据分析的全流程中,“数据采集” 是最基础也最关键的环节 —— 如同烹饪前需备好新鲜食材,若采集的数据不完整、不准确或不 ...
2025-10-20在数据成为新时代“石油”的今天,几乎每个职场人都在焦虑: “为什么别人能用数据驱动决策、升职加薪,而我面对Excel表格却无从 ...
2025-10-18数据清洗是 “数据价值挖掘的前置关卡”—— 其核心目标是 “去除噪声、修正错误、规范格式”,但前提是不破坏数据的真实业务含 ...
2025-10-17在数据汇总分析中,透视表凭借灵活的字段重组能力成为核心工具,但原始透视表仅能呈现数值结果,缺乏对数据背景、异常原因或业务 ...
2025-10-17在企业管理中,“凭经验定策略” 的传统模式正逐渐失效 —— 金融机构靠 “研究员主观判断” 选股可能错失收益,电商靠 “运营拍 ...
2025-10-17在数据库日常操作中,INSERT INTO SELECT是实现 “批量数据迁移” 的核心 SQL 语句 —— 它能直接将一个表(或查询结果集)的数 ...
2025-10-16在机器学习建模中,“参数” 是决定模型效果的关键变量 —— 无论是线性回归的系数、随机森林的树深度,还是神经网络的权重,这 ...
2025-10-16在数字化浪潮中,“数据” 已从 “辅助决策的工具” 升级为 “驱动业务的核心资产”—— 电商平台靠用户行为数据优化推荐算法, ...
2025-10-16在大模型从实验室走向生产环境的过程中,“稳定性” 是决定其能否实用的关键 —— 一个在单轮测试中表现优异的模型,若在高并发 ...
2025-10-15