京公网安备 11010802034615号
经营许可证编号:京B2-20210330
人工智能、大数据与深度学习之间的关系和差异
网络上从不缺乏对数据科学术语进行比较和对比的文章。文笔各异的人写出了各式各样的文章,以此将他们的观点传达给任何愿意倾听的人。这几乎是势不可挡的。
所以我也记录一下,对于那些疑惑此文是否也是雷同的帖子。对,是这样的。
为什么再来一帖?我是这样想的,尽管可能有很多分散观点在定义和比较这些关联术语,但事实上是,这些术语中的大部分是流动变化的,并不完全约定俗成,坦率地说,与他人观点一同暴露是测试和优化自己的观点的最好方法之一。
所以,虽然大家可能不会完全(甚至是极低限度地)同意我对这些术语的大部分看法,但仍然能从中获得一些东西。数据科学中的一些核心概念需要被解释,或者至少在我看来是重要的,我会尽力阐述他们如何关联,以及答疑这些个体概念组合在一起时遇到的困惑。
在独立地思考概念之前,有个不同观点的例子,KDnuggets的Gregory Piatetsky-Shapiro的维恩图,概述了我们将要讨论的数据科学术语之间的关系。建议读者将此维恩图与目前Drew Conway的著名的数据科学维恩图,以及我下面的讨论和帖子底部的修改过程/关系图进行比较。我认为,尽管存在差异,但这些概念具有一定的相似性。
现在我们将对上述维恩图中圈选的6个核心概念进行分析,并提供一些关于如何将它们融入数据科学的洞察。我们很快就会摒弃过去十年最热门的一些术语。
大数据(Big Data)
有各种各样的文章在定义大数据,我不打算花太多时间在这个概念上。简单地来说,大数据通常被定义为“超出常用软件工具捕获,管理和处理能力”的数据集。 大数据是一个移动目标; 这个定义既模糊又准确,足以捕捉其主要特征。
至于其他的概念,我们将通过调查,很好的获得搜索字词的流行度和N-gram频率模型的一些初步了解,以便将这个难点与热点炒作分开。鉴于这两个概念相对较新,从1980年至2008年,N-gram频率模型作为一个“旧”的概念如上图所示。
最近的Google趋势显示2个新词上升,另外2个保持持续上升,以及最后一个逐渐下降但有明显的下降。请注意,由于已经对数据进行了定量分析,‘大数据’未包含在上述图形中。继续阅读,以便进一步了解观测结果。
机器学习(Machine learning)
据Tom Mitchell在关于这个主题的创作书中阐述,机器学习“关心的问题是如何构建计算机程序使用经验自动改进”。机器学习本质上是跨学科的,采用计算机科学,统计学和人工智能等方面的技术。机器学习研究的主要工作是促进经验自动改进的算法,可以应用于各种不同领域。
我不认为有人会怀疑机器学习是数据科学的核心组成。我在下面给出数据科学的详细描述,如果你认为在一个非常高的水平上其目标是从数据中获取洞察力,其实机器学习是允许此过程自动化的。机器学习与古典统计学有很多共同点,因为它使用样本来推断和概括。数据统计更多地侧重于描述性(尽管可以通过外推来预测),机器学习对描述性分析的关注很少,并且仅将其用作中间步骤以便能够进行更好预测。机器学习通常被认为是模式识别的同义词;真的不会从我这里发生太多的分歧,我相信,‘模式识别’这个术语意味着实际上是一个比机器学习更不复杂和更简单化的过程,这就是为什么我倾向于回避它。
数据挖掘(Data Mining)
Fayyad,Piatetsky-Shapiro&Smyth将数据挖掘定义为“从数据中提取模式的特定算法的应用”。这表明,在数据挖掘中,重点在于算法的应用,而不是算法本身。我们可以定义机器学习和数据挖掘之间的关系如下:数据挖掘是一个过程,在此过程中机器学习算法被用作提取数据集中的潜在有价值模式的工具。
‘数据挖掘’作为机器学习的姊妹术语,也是数据科学的关键。在数据科学术语爆发泛滥之前,事实上,数据挖掘’在Google搜索术语中取得了更大的成功。看看Google趋势比上图显示的还要早5年,数据挖掘’曾经更受欢迎。然而,今天,数据挖掘’似乎被划分为机器学习和数据科学之间的概念。若有人同意上述解释,数据挖掘是一个过程,那么将数据科学视为数据挖掘的超集,那么后续的术语都是有意义的。
深度学习(Deep Learning)
尽管在早期的在线搜索急剧爆发之前它已经存在,‘深度学习’仍是一个相对较新的术语。由于学术研究和工业的蓬勃发展,其在不同领域取得了巨大成就,深度学习是应用深层神经网络技术(即具有多个隐藏层的神经网络架构)来解决问题。深度学习是一个类似数据挖掘的过程,它采用深层神经网络架构,这是特定类型的机器学习算法。
深度学习已经取得了令人印象深刻的成就。有鉴于此,至少在我看来,务必要注意几点:
深度学习不是灵丹妙药 – 对于每个问题来说,并不是一个简单一刀切的解决方案。
这不是传说中的万能算法 – 深度学习不会取代所有其他机器学习算法和数据科学技术,至少还没有被证明是这样。
适度的期望是必要的 – 尽管最近在各种类型的分类问题上,特别是计算机视觉和自然语言处理以及强化学习等领域已经取得了巨大的进步,但当代深度学习并没有扩大到非常复杂的问题,例如“解决世界和平”。
深度学习和人工智能不是同义词。
深度学习可以帮助数据科学以附加过程和工具的形式解决问题,而在这种观察中,深入学习是数据科学领域的一个非常有价值的补充。
人工智能
大多数人发现人工智能很难用一个精确的,甚至是广泛的定义讲出来。我不是一个人工智能研究者,所以我的答案可能与其他领域的人差别很大。多年来通过对AI的思想哲学研究,我得出的结论是,人工智能,至少我们通常认为的想法的概念,实际上并不存在。
在我看来,AI是一个标尺,一个移动目标,一个渴望而不可及的目标。每当我们迈向AI成就之路,不知何故,这些成就似乎又变成了被称为其他的东西。
我曾经读过如下内容:如果你在上世纪60年代问AI的研究人员,他们对AI的想法是什么,他们可能会一致认为,可以帮助我们预测下一步行动和欲望,所有人类知识可以随时获取,一个适合我们口袋的小型设备就是真实的AI。但是今天我们都携带智能手机,很少有人会把它们称为人工智能。
AI适合数据科学?嗯,正如我所说,我不认为AI真的是有形的,我想很难说它适合任何地方。但,一些数据科学和机器学习相关领域,人工智能可以提供助力,有时与实体一样有价值;计算机视觉肯定会引起注意,现代深度学习研究也是如此,得益于人工智能的精神气质,若不是无限期的话。
AI可能是研究和开发设备,从来没有在同名行业中产生任何东西。我想说,从AI到数据科学的这条路径可能不是查看两者之间的关系的最佳方式,但是两个实体之间的许多中间步骤已经被AI以某种形式开发和完善了。
数据科学(Data Science)
那么,在讨论这些相关概念和数据科学的地位之后,数据科学究竟是什么呢?对我来说,这是试图精确定义的一个最难的概念。数据科学是一个多方面的学科,包括机器学习和其他分析过程,统计学和相关的数学分支,越来越多地从高性能科学计算中借鉴,以便最终从数据中发现洞察,并使用这些新发现的信息来讲述故事。这些故事通常伴随着图片(我们称之为可视化),并针对行业,研究甚至是我们自己,目的是从数据中获取一些新的想法。
数据科学采用相关领域的各种不同工具(请参阅上面所有内容)。数据科学既是数据挖掘的同义词,也是数据挖掘概念的超集。
数据科学产生各种不同的结果,但它们都具有共同的洞察力。数据科学是这一切,而且对你而言,它可能还有别的东西,而且甚至还没有涵盖获取,清理,判别和预处理数据!顺便说一下,什么是数据呢?它总是大吗?
我认为我的关于数据科学困惑的观点,至少可以通过上图的版本来代表它,以及这篇文章的顶部的Piatetsky-Shapiro的维恩图。我也建议大多数与Drew Conway的数据科学维恩图一致,尽管我会补充一点:我认为他非常合理且实用的图像实际上是指数据科学家,而不是数据科学。这可能是吹毛求疵,但我不认为数据科学本身包含黑技能;我相信这是科学家拥有的技能,以便能够进行数据科学。诚然,这可能是对语义的嘲弄,但在我心中是有道理的。
当然,这不是一个宏图的全景,它在不断地演变。例如,我记得不久以前的一次阅读,数据挖掘是商业智能的一个子领域。即使有不同的意见,我真的不能想象今天这是一个有效的想法(坦率地说,几年前很难接受)。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
一、RFM模型概述 RFM模型是由 George Cullinan 提出、营销领域公认的经典客户价值细分模型,依托客户交易行为数据,从三个核心维 ...
2026-10-28“不用学历可以考的资格证”这个说法,实际混着两类情况:一类是证书本身对学历没有硬性要求,报名时只看年龄、身份或培训经历; ...
2026-10-28“2025年考什么证含金量高”这个问题,很难用一张榜单回答。同一本证书,对想进会计师事务所的人有价值,对想做行政的人可能用处 ...
2026-10-2837岁考什么证,先别急着看“女生适合考什么”的榜单。这个年龄处在职业中期,优势是已有工作经验和行业理解,约束是时间精力有限 ...
2026-10-28一、卡方分布是什么 卡方分布(Chi-square Distribution,χ²分布)是统计学中一种常用的概率分布,它和正态分布、t分布一样, ...
2026-10-28职业证书的作用不能一概而论。它既不是“考了就能找到好工作”的通行证,也不是“花钱买张纸”的摆设。真正决定一张证书有多大用 ...
2026-10-28产品岗没有统一的法定准入证书,招聘时也很少把某张证书写成硬性门槛。所以“真正有用”不能看广告里的名头,而要看三件事:它对 ...
2026-10-28“一般可以考什么证书”很难给出一份通用榜单。同为“证书”,有的是法律规定的准入资格,无证不能上岗;有的是职称评聘参考;有 ...
2026-10-28“现在大学生要什么证书好”,这个问题没有统一答案。同一张证书,对想进银行的学生可能是加分项,对准备考公的学生可能完全用不 ...
2026-10-28“十大证书含金量最高”这类榜单,最大的问题不是排名不准,而是没有交代排名依据。准入类和加分类混在一起排,高壁垒的和低门槛 ...
2026-10-28“什么证容易考且有用”,这个问题本身藏着一个容易踩的坑:把“容易考”和“有用”当成两个独立打分项,各找几个高分证书拼在一 ...
2026-10-28想考一个证书,第一步不是买教材,而是先确认它属于哪一类证书、由谁发证、在哪里报名。考取证书的通用流程可以概括为六步:确定 ...
2026-10-28“女生考什么证”这个问题,网上常见的答案是“教师资格证、会计证、普通话证”,理由往往是“稳定”“适合女孩子”。这类回答的 ...
2026-10-28“女的考什么证书比较实用”这个问题,本身藏着一个容易走偏的前提:把性别当成筛选证书的依据。证书不认性别,岗位也不按性别分 ...
2026-10-28“哪些考试含金量高”这个问题,很难有一张适合所有人的总榜。同一个考试,对想进医院的人和对想做运营的人,价值完全不同。含金 ...
2026-10-28“国家认可的技能证书”日常被用得很宽:有人指职业资格,有人指职业技能等级,也有人把培训结业证、企业认证一并算入。口径不统 ...
2026-10-28工作后考市场营销证书,容易陷入两种极端:要么被“高薪就业”“行业必备”的宣传推着走,要么觉得证书都没用、不如攒经验。更实 ...
2026-10-28核心资源推荐 CDA教材(2025):https://edu.cda.cn/goods/show/3151CDA模拟题(2025):https://edu.cda.cn/goods/show/2845CD ...
2026-10-28大专学历能报的证书不少,但真正值得投入的,要先过两道筛子:第一道是“允不允许你报”,第二道是“报了对目标岗位有没有用”。 ...
2026-10-28“软考哪个证书吃香”很难一句话回答。软考全称计算机技术与软件专业技术资格(水平)考试,含初级、中级、高级多个资格。不同资 ...
2026-10-28