
古往今来,人类一直在探求科技的极限。随着信息技术在21世纪的爆发,数据科学与人工智能技术迎来自己的春天,尤其是以深度学习为基础的人工智能技术可谓是大放异彩,在诸多领域远胜人类,并且如人脸识别这样的技术也纷纷落地,甚至悲观者认为,机器智能时代来临,倘若某天机器有了自主思维,人类将会面临灭顶之灾。可是,深度学习就如此无所不能吗?答案是否定的!深度学习是利用深层神经网络的技术,虽然在图像识别等方面已经能够超越人类,但是它仍然有许多方面是不能完成的,本文列举深度学习目前不能实现的一些领域,希望能够帮大家打开思维,更好地认识深度学习。
既是学霸,又是游戏王
一般来说,多数人每年可以看300篇文献,而IBM的Watson系统在10分钟里就可以阅读2000万的文献,显而易见,深度学习的学习能力是远远大于人类的,是个十足的“学霸”。与此同时,在游戏领域,不管是围棋还是dota2,深度学习有足够的能力碾压人类。所以深度学习既是学霸,又是游戏王。
多才多艺
下棋,写诗,作曲,艺术画······2016年,阿尔法狗大胜李世石,2017年微软小冰出版第一部诗集,随后又开始转向音乐创作·····深度学习已经慢慢变成琴棋书画样样精通,多才多艺全能王。
从深度学习所取得的成果来看,它似乎已经无所不能,在诸多方面超过了人类。
算法输出不稳定,容易被攻击
在图像识别领域,我们可能在一张图像中只改变一个像素点的值,那么输出结果会发生巨大改变,这就是算法输出不稳定导致的,这种细微的改变在人类看来微不足道,对于算法模型来说确不同。不仅在图像领域,自然语言处理领域也有这样的问题。在问答系统中,在原始文本中随机得加入一些简单的词,模型的理解能力大大降低。这种问题不仅出现在深度学习,传统机器学习更容易被攻击。
模型复杂度高,难以纠错或调试
在2016年阿法狗与李世石的大战中,李世石赢了一局。在李世石的78手后,阿法狗的胜率便直线下降。如果可以投降的话,那么在李世石的第78手后,阿法狗应该会选择投降,而并不会针对这一手进行相应的改进。此外,在深度学习进行翻译时,不管是给模型什么数据输入,都会有一个有意义的输出。此前的谷歌翻译曾遇到过这样的问题,在翻译结果有明显错误的时候,翻译部门的工程师也很难去对模型修改,可见深度学习模型的复杂。
层级复合程度高,参数不透明
在图像识别领域,我们在模型的中间层中尽力去抓取图像的特征。在第一层的卷积层计算后,我们对结果进行可视化,可以很容易看出结果与原图像有很大相似性。然后,随着层数的加深,对中间其他层的可视化,我们完全不能看出中间层所代表的意义。主要原因在于感受野的复合,而且每层的卷积核也会产生复合,加上一些模型会有自己特有的复合,如inception模块的复合,残差的复合,让我们难以从中间层的可视化中看到模型具体运行的结果。
对数据依赖性强,模型增量性差
深度学习是端到端结构,灵活性非常低。我们将单个图像拼接在一起,人类很容易识别的内容,深度学习确无能为力,可见其迁移能力较差。在“语义标注”和“关系检测”这类问题中,人类可以通过完成一个任务中的多个子任务,并将子任务整合的方式解决问题,而对于深度学习来说,多个子任务与一个总任务是完全不同的两个任务,需要不同的模型去解决问题。在数据量较小的情况下,模型拟合能力较差。
专注直观感知类问题,对开放性问题无能为力
我们小时候都曾学习过关于乌鸦喝水的故事。乌鸦在面对半瓶水,而自己的嘴够不着水时,会往瓶子里丢入石子,使得水面上升从而喝到水。此外,乌鸦在无法拨开坚果时,它会把坚果丢在马路上,让来往的车辆碾压从而迟到果实,在此过程中,乌鸦能够通过观察人行道的情况学会判断车辆是否会行驶以保障自己的安全。而鹦鹉也有自己的智能,在听过人类重复说过的话后,鹦鹉能够很好地模仿人类说话。深度学习只能做到鹦鹉的智能,而做不到乌鸦的智能,可见其泛化能力之低。此外,深度学习也难以理解图像背后的寓意。当一幅图中出现奥巴马与一群大象时,深度学习仅仅能辨认图中是一个男人与一群大象,显然图作者却是想透过图片暗喻美国的两党之争,一般来说,大象喻指美国民主党。
机器偏见难以避免,人类知识难以有效监督
这可能是目前深度学习面临的最大问题。数据是深度学习的基础,而数据的可靠程度决定了模型的可靠程度。微软层开发聊天机器人Tay,模仿年轻网民的语言模式。但是试用24小时后便被引入歧途,成为偏激的种族主义者,甚至发出了“希特勒无罪”的消息。原因在于年轻的网民本身的语料库并不是纯净的,是人就会有偏见,这种偏见在网络中尤其严重,这样便导致了Tay用来训练的数据带有偏见,并使得Tay误入歧途,而人类知识的监督很难有效采用,这就无法避免机器的偏见。另一个例子,美国法院用以评估犯罪风险的算法COMPAS,也被证明对黑人造成了系统性歧视。机器偏见无法消除,日后可能会给人类带来严重的后果。
不可否认,深度学习可以在特定领域超过人类,有很好的效果,但它并非万能。某种意义上说,它离智能还差很远。目前,对深度学习的泛化性与可解释性的呼声越来越高。2017年7月,国务院在《新一代人工智能发展规划》中提出“实现具备高可解释性,强泛化能力的人工智能”。或许下一代人工智能技术还是在深度学习基础之上展开,但是希望新的技术能够很好地解决现在深度学习的不能,更好地造福人类!
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
用 SQL 生成逆向回滚 SQL:数据操作的 “后悔药” 指南 在数据库操作中,误删数据、错改字段或误执行批量更新等问题时有发生。 ...
2025-07-14如何考取数据分析师证书:以 CDA 为例 在数字化浪潮席卷各行各业的当下,数据分析师已然成为企业挖掘数据价值、驱动决策的 ...
2025-07-14t检验与Wilcoxon检验的选择:何时用t.test,何时用wilcox.test? t 检验与 Wilcoxon 检验的选择:何时用 t.test,何时用 wilcox. ...
2025-07-14AI 浪潮下的生存与进阶: CDA数据分析师—开启新时代职业生涯的钥匙(深度研究报告、发展指导白皮书) 发布机构:CDA数据科 ...
2025-07-13LSTM 模型输入长度选择技巧:提升序列建模效能的关键 在循环神经网络(RNN)家族中,长短期记忆网络(LSTM)凭借其解决长序列 ...
2025-07-11CDA 数据分析师报考条件详解与准备指南 在数据驱动决策的时代浪潮下,CDA 数据分析师认证愈发受到瞩目,成为众多有志投身数 ...
2025-07-11数据透视表中两列相乘合计的实用指南 在数据分析的日常工作中,数据透视表凭借其强大的数据汇总和分析功能,成为了 Excel 用户 ...
2025-07-11尊敬的考生: 您好! 我们诚挚通知您,CDA Level I和 Level II考试大纲将于 2025年7月25日 实施重大更新。 此次更新旨在确保认 ...
2025-07-10BI 大数据分析师:连接数据与业务的价值转化者 在大数据与商业智能(Business Intelligence,简称 BI)深度融合的时代,BI ...
2025-07-10SQL 在预测分析中的应用:从数据查询到趋势预判 在数据驱动决策的时代,预测分析作为挖掘数据潜在价值的核心手段,正被广泛 ...
2025-07-10数据查询结束后:分析师的收尾工作与价值深化 在数据分析的全流程中,“query end”(查询结束)并非工作的终点,而是将数 ...
2025-07-10CDA 数据分析师考试:从报考到取证的全攻略 在数字经济蓬勃发展的今天,数据分析师已成为各行业争抢的核心人才,而 CDA(Certi ...
2025-07-09【CDA干货】单样本趋势性检验:捕捉数据背后的时间轨迹 在数据分析的版图中,单样本趋势性检验如同一位耐心的侦探,专注于从单 ...
2025-07-09year_month数据类型:时间维度的精准切片 在数据的世界里,时间是最不可或缺的维度之一,而year_month数据类型就像一把精准 ...
2025-07-09CDA 备考干货:Python 在数据分析中的核心应用与实战技巧 在 CDA 数据分析师认证考试中,Python 作为数据处理与分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 检验:数据趋势与突变分析的有力工具 在数据分析的广袤领域中,准确捕捉数据的趋势变化以及识别 ...
2025-07-08备战 CDA 数据分析师考试:需要多久?如何规划? CDA(Certified Data Analyst)数据分析师认证作为国内权威的数据分析能力认证 ...
2025-07-08LSTM 输出不确定的成因、影响与应对策略 长短期记忆网络(LSTM)作为循环神经网络(RNN)的一种变体,凭借独特的门控机制,在 ...
2025-07-07统计学方法在市场调研数据中的深度应用 市场调研是企业洞察市场动态、了解消费者需求的重要途径,而统计学方法则是市场调研数 ...
2025-07-07CDA数据分析师证书考试全攻略 在数字化浪潮席卷全球的当下,数据已成为企业决策、行业发展的核心驱动力,数据分析师也因此成为 ...
2025-07-07