
数据科学有助于数据挖掘,数据分析
“数据科学家”这一术语尚未失去吸引力,据Metamarkets公司的共同创始人及首席技术官Michael Driscoll说。Metamarkets是一家为数字、社交和移动媒体公司提供预测分析的创业公司。
当Driscoll 用这个术语描述在分析和商业智能领域出新出现的一种角色时,其他人并不打算这样做,并且这个头衔倍受争议。
Driscoll把数据科学家们形容成土木工程师。
“土木工程师一部分是物理学家,一部分是建筑工人,”他说。同时,数据科学家必须能够在数据领域里找到理论和实践之间的平衡。
最近业务调查分析公司与Driscoll一起谈论了数据科学家以及他们如何利用预测分析阐明未来。
什么是数据科学?
Michael Driscoll:数据科学是一种新词语,因此像所有的新词一样,它是一个进化的术语和标题。实际上,数据科学家是那些将数学家和统计学家的理论专业知识和注重实践的软件开发人员的工程操作相结合的人。在过去的十年里,处于统计分析、应用数学和计算机科学交叉领域的机器学习正在复兴。但要让所有这些理论被利用,最后还需要进行编码。所以数据科学家能将这些理论和实际相结合的人。
当你谈论数据科学的实践这一块时,你指的是什么?
Driscoll:我一般以三种技能来描述数据科学,首先,“数据转型”,它包括切片和切块的能力,转换,提取和以一种轻便、流动的方式处理数据。第二个技能是数据建模,它主要是得到一组数据并能够在数据中开发一种模式的假设,再利用统计工具对这一假设进行测试。第三个技能是数据可视化。一旦你将数据转换成可利用的形式 ( 第一个技能), 你就已经开发出一种关于一些数据特征的模型可能涉及到一系列观察,一些数据的结果 ( 第个二技能)。然后你需要以一种决策制定者能了解的方式传达这样的洞察力。这需要能够讲一个故事或建立一种视觉叙事的能力,而这正是数据可视化要解决的问题。
为什么是建立一种叙述是如此的重要?
Driscoll:如果一位数据科学家正致力于这个海量信息及大量信息输出的时代,我们需要一种以同等高效率来消费这些信息的方法。数据可视化是其中的方式之一。事实上,它可能是我们可以一种非常高的效率来消费信息的最重要的方式。
预测分析如何与数据科学组合在一起?
Driscoll:数据做数据的事情。所有这些数据科学的目标最终是预测系统和消费者的行为。实际上,仅拥有数据表面的洞察力是不够的。你希望能够对下一步会发生什么进行预测。据Karl Popper说,科学的整体目标是做出可以否定的预测。而做出预测真的是数据科学家所有工作的最终目标。它是前瞻,而不是后顾。有人或许会说,商业智能和这种报表的领域都是关于过去的;预测分析是关于未来的。
然而,一些人说预测分析需要回顾才能预测未来。
Driscoll:绝对的。数据挖掘,预测分析的目标是研究过去,但最终能生成对未来的预测。我举个例子。Facebook尝试去了解在Facebook 系统上什么类型的用户行为会导致更高的参与平台,才可能会在注册后三个月保持活跃。所以他们查看了所有用户的过去。他们查看用户的性别,有多少朋友,他们都在什么样的学校。他们查看所有的这些不同用户特征的观察,然后,三个月之后,他们研究了这些被观察到的特征中有哪些最有可能会响应不久后的高层次的活动。他们发现导致三个月后更活跃地使用Facebook的最高相关特征是你拥有的朋友数量。这就是一种预测力解析的洞察力。结果,一旦人们在Facebook上注册,他们就努力建议尽可能多的人加入你的网络。预测分析本质上是将观察的事件和结果之间建立联系;这可能是最简单的解决方式。有很多方法来切分它,但最终,你是在建立一个系统的数学模型。为了测试数学模型是否是正确的,你做出预测,然后观察未来事件是否能证实或反驳你对系统做出的假设。
但是,你真的需要一个数据科学家来建立你的模型吗?
Driscoll:这里有一个预测模型的例子:你想看看用信用卡购物的行为特征以及是否它是欺骗性的采购。让我们假设你的两个特征是一天之中的时间和采购所处的国家。在某些情况下,通过国家进行的信用卡欺诈行为的简单可视化数据会跳到你面前。任何在爱沙尼亚发生的采购,如果信用卡持有人在美国,就会是欺诈购买。你不需要一个统计模型告诉你这一切。它只是对数据的测绘。事实是当差异变小了,那么你需要依靠统计来告诉你是否观察到的趋势是有意义的。显而易见的事情是容易的。归结为更加细致入微的区别时,需要统计区分出噪音和信号之间的区别。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在 “神经网络与卡尔曼滤波融合” 的理论基础上,Python 凭借其丰富的科学计算库(NumPy、FilterPy)、深度学习框架(PyTorch、T ...
2025-10-23在工业控制、自动驾驶、机器人导航、气象预测等领域,“状态估计” 是核心任务 —— 即从含噪声的观测数据中,精准推断系统的真 ...
2025-10-23在数据分析全流程中,“数据清洗” 恰似烹饪前的食材处理:若食材(数据)腐烂变质、混杂异物(脏数据),即便拥有精湛的烹饪技 ...
2025-10-23在人工智能领域,“大模型” 已成为近年来的热点标签:从参数超 1750 亿的 GPT-3,到万亿级参数的 PaLM,再到多模态大模型 GPT-4 ...
2025-10-22在 MySQL 数据库的日常运维与开发中,“更新数据是否会影响读数据” 是一个高频疑问。这个问题的答案并非简单的 “是” 或 “否 ...
2025-10-22在企业数据分析中,“数据孤岛” 是制约分析深度的核心瓶颈 —— 用户数据散落在注册系统、APP 日志、客服记录中,订单数据分散 ...
2025-10-22在神经网络设计中,“隐藏层个数” 是决定模型能力的关键参数 —— 太少会导致 “欠拟合”(模型无法捕捉复杂数据规律,如用单隐 ...
2025-10-21在特征工程流程中,“单变量筛选” 是承上启下的关键步骤 —— 它通过分析单个特征与目标变量的关联强度,剔除无意义、冗余的特 ...
2025-10-21在数据分析全流程中,“数据读取” 常被误解为 “简单的文件打开”—— 双击 Excel、执行基础 SQL 查询即可完成。但对 CDA(Cert ...
2025-10-21在实际业务数据分析中,我们遇到的大多数数据并非理想的正态分布 —— 电商平台的用户消费金额(少数用户单次消费上万元,多数集 ...
2025-10-20在数字化交互中,用户的每一次操作 —— 从电商平台的 “浏览商品→加入购物车→查看评价→放弃下单”,到内容 APP 的 “点击短 ...
2025-10-20在数据分析的全流程中,“数据采集” 是最基础也最关键的环节 —— 如同烹饪前需备好新鲜食材,若采集的数据不完整、不准确或不 ...
2025-10-20在数据成为新时代“石油”的今天,几乎每个职场人都在焦虑: “为什么别人能用数据驱动决策、升职加薪,而我面对Excel表格却无从 ...
2025-10-18数据清洗是 “数据价值挖掘的前置关卡”—— 其核心目标是 “去除噪声、修正错误、规范格式”,但前提是不破坏数据的真实业务含 ...
2025-10-17在数据汇总分析中,透视表凭借灵活的字段重组能力成为核心工具,但原始透视表仅能呈现数值结果,缺乏对数据背景、异常原因或业务 ...
2025-10-17在企业管理中,“凭经验定策略” 的传统模式正逐渐失效 —— 金融机构靠 “研究员主观判断” 选股可能错失收益,电商靠 “运营拍 ...
2025-10-17在数据库日常操作中,INSERT INTO SELECT是实现 “批量数据迁移” 的核心 SQL 语句 —— 它能直接将一个表(或查询结果集)的数 ...
2025-10-16在机器学习建模中,“参数” 是决定模型效果的关键变量 —— 无论是线性回归的系数、随机森林的树深度,还是神经网络的权重,这 ...
2025-10-16在数字化浪潮中,“数据” 已从 “辅助决策的工具” 升级为 “驱动业务的核心资产”—— 电商平台靠用户行为数据优化推荐算法, ...
2025-10-16在大模型从实验室走向生产环境的过程中,“稳定性” 是决定其能否实用的关键 —— 一个在单轮测试中表现优异的模型,若在高并发 ...
2025-10-15