古往今来,人类一直在探求科技的极限。随着信息技术在21世纪的爆发,数据科学与人工智能技术迎来自己的春天,尤其是以深度学习为基础的人工智能技术可谓是大放异彩,在诸多领域远胜人类,并且如人脸识别这样的技术也纷纷落地,甚至悲观者认为,机器智能时代来临,倘若某天机器有了自主思维,人类将会面临灭顶之灾。可是,深度学习就如此无所不能吗?答案是否定的!深度学习是利用深层神经网络的技术,虽然在图像识别等方面已经能够超越人类,但是它仍然有许多方面是不能完成的,本文列举深度学习目前不能实现的一些领域,希望能够帮大家打开思维,更好地认识深度学习。
既是学霸,又是游戏王
一般来说,多数人每年可以看300篇文献,而IBM的Watson系统在10分钟里就可以阅读2000万的文献,显而易见,深度学习的学习能力是远远大于人类的,是个十足的“学霸”。与此同时,在游戏领域,不管是围棋还是dota2,深度学习有足够的能力碾压人类。所以深度学习既是学霸,又是游戏王。
多才多艺
下棋,写诗,作曲,艺术画······2016年,阿尔法狗大胜李世石,2017年微软小冰出版第一部诗集,随后又开始转向音乐创作·····深度学习已经慢慢变成琴棋书画样样精通,多才多艺全能王。
从深度学习所取得的成果来看,它似乎已经无所不能,在诸多方面超过了人类。
算法输出不稳定,容易被攻击
在图像识别领域,我们可能在一张图像中只改变一个像素点的值,那么输出结果会发生巨大改变,这就是算法输出不稳定导致的,这种细微的改变在人类看来微不足道,对于算法模型来说确不同。不仅在图像领域,自然语言处理领域也有这样的问题。在问答系统中,在原始文本中随机得加入一些简单的词,模型的理解能力大大降低。这种问题不仅出现在深度学习,传统机器学习更容易被攻击。
模型复杂度高,难以纠错或调试
在2016年阿法狗与李世石的大战中,李世石赢了一局。在李世石的78手后,阿法狗的胜率便直线下降。如果可以投降的话,那么在李世石的第78手后,阿法狗应该会选择投降,而并不会针对这一手进行相应的改进。此外,在深度学习进行翻译时,不管是给模型什么数据输入,都会有一个有意义的输出。此前的谷歌翻译曾遇到过这样的问题,在翻译结果有明显错误的时候,翻译部门的工程师也很难去对模型修改,可见深度学习模型的复杂。
层级复合程度高,参数不透明
在图像识别领域,我们在模型的中间层中尽力去抓取图像的特征。在第一层的卷积层计算后,我们对结果进行可视化,可以很容易看出结果与原图像有很大相似性。然后,随着层数的加深,对中间其他层的可视化,我们完全不能看出中间层所代表的意义。主要原因在于感受野的复合,而且每层的卷积核也会产生复合,加上一些模型会有自己特有的复合,如inception模块的复合,残差的复合,让我们难以从中间层的可视化中看到模型具体运行的结果。
对数据依赖性强,模型增量性差
深度学习是端到端结构,灵活性非常低。我们将单个图像拼接在一起,人类很容易识别的内容,深度学习确无能为力,可见其迁移能力较差。在“语义标注”和“关系检测”这类问题中,人类可以通过完成一个任务中的多个子任务,并将子任务整合的方式解决问题,而对于深度学习来说,多个子任务与一个总任务是完全不同的两个任务,需要不同的模型去解决问题。在数据量较小的情况下,模型拟合能力较差。
专注直观感知类问题,对开放性问题无能为力
我们小时候都曾学习过关于乌鸦喝水的故事。乌鸦在面对半瓶水,而自己的嘴够不着水时,会往瓶子里丢入石子,使得水面上升从而喝到水。此外,乌鸦在无法拨开坚果时,它会把坚果丢在马路上,让来往的车辆碾压从而迟到果实,在此过程中,乌鸦能够通过观察人行道的情况学会判断车辆是否会行驶以保障自己的安全。而鹦鹉也有自己的智能,在听过人类重复说过的话后,鹦鹉能够很好地模仿人类说话。深度学习只能做到鹦鹉的智能,而做不到乌鸦的智能,可见其泛化能力之低。此外,深度学习也难以理解图像背后的寓意。当一幅图中出现奥巴马与一群大象时,深度学习仅仅能辨认图中是一个男人与一群大象,显然图作者却是想透过图片暗喻美国的两党之争,一般来说,大象喻指美国民主党。
机器偏见难以避免,人类知识难以有效监督
这可能是目前深度学习面临的最大问题。数据是深度学习的基础,而数据的可靠程度决定了模型的可靠程度。微软层开发聊天机器人Tay,模仿年轻网民的语言模式。但是试用24小时后便被引入歧途,成为偏激的种族主义者,甚至发出了“希特勒无罪”的消息。原因在于年轻的网民本身的语料库并不是纯净的,是人就会有偏见,这种偏见在网络中尤其严重,这样便导致了Tay用来训练的数据带有偏见,并使得Tay误入歧途,而人类知识的监督很难有效采用,这就无法避免机器的偏见。另一个例子,美国法院用以评估犯罪风险的算法COMPAS,也被证明对黑人造成了系统性歧视。机器偏见无法消除,日后可能会给人类带来严重的后果。
不可否认,深度学习可以在特定领域超过人类,有很好的效果,但它并非万能。某种意义上说,它离智能还差很远。目前,对深度学习的泛化性与可解释性的呼声越来越高。2017年7月,国务院在《新一代人工智能发展规划》中提出“实现具备高可解释性,强泛化能力的人工智能”。或许下一代人工智能技术还是在深度学习基础之上展开,但是希望新的技术能够很好地解决现在深度学习的不能,更好地造福人类!
数据分析咨询请扫描二维码
CDA数据分析师在中国航信高科技产业园进行了面向测试度量的数据分析培训课程,培训人数近2 ...
2024-05-01CDA数据分析师走进深圳迈瑞生物医疗电子股份有限公司,在迈瑞总部展开了为期两天的培训,本次课程参训人员线上及线下近百人, ...
2024-05-01CDA数据分析师在合肥市对合肥阳光新能源科技有限公司开展了为期8天的企业内训。 合肥阳光新能源科技 ...
2024-05-01CDA数据分析师走进海尔大学,进行了《数据治理与数据中台建设的道与术》专题培训,培训现场爆满,近百人参加了此次培训。 ...
2024-05-01在中国银行苏州分行培训中心开始数据分析师培训,此次培训课程共10天内容,包括Excel、MySQL、概率论与数理统计、SPSS等内容, ...
2024-05-01从实际的业务需求出发,结合行业的典型应用特点,围绕实际的商业问题,探讨数据挖掘、机器学习模型在金融领域的应用,包括获客、信用评分、细分画像、交叉销售、反欺诈、违规识别、时序预测、运筹优化、流程挖掘九个方面,形成 ...
2024-05-01本次培训课程为线上+线下的模式,由于学员编程能力不一、部分学员没有编程基础,故提供统计学、python基 ...
2024-05-01华夏银行信用卡中心-机器学习培训 1、课程亮点 取材于业界一流企业和顶级咨询公司的行业实践;已经被证明是人人 ...
2024-05-01主 题:数据中台建设及数据分析应用主题分享 1. 数据中台市场洞察 2. 主流数据中台产品比较 3. 某企业数据中 ...
2024-05-01围绕“数据驱动”战略,全力打造我行 300 人数字化人才梯队,着力培养数字化管理人才、大数据专业团队 ...
2024-05-01在当今数据驱动的商业环境中,数据分析成为了企业决策的重要依据。通过对大量数据的收集、处理和分析,企业能够更好地理解市场 ...
2024-04-29在人工智能(AI)的世界里,提示词(Prompt)是一种强大的工具,它能够引导AI按照用户的需求产生特定的输出。本文将深入探讨AI ...
2024-04-29CDA立足未来职场,拓展前沿视野——对外经贸大学保险学院举办“三全育人大讲堂”分享行业最新动态。 ...
2024-04-294月2日,CDA数据分析师创始发起人兼协会理事长赵坚毅博士受邀在浙江万里学院举办了一场以“数字化能力在职场中的作用” ...
2024-04-29随机森林(Random Forests)现在机器学习中比较火的一个算法,是一种基于Bagging的集成学习方法,能够很好地处理分类和回归的问 ...
2022-12-23方差分析是数据分析中常用的一种统计分析方法,接下来让我们简单了解一下方差分析的基本思想和原理吧。 方差分析(Analysis ...
2022-12-23来源:关于数据分析与可视化 关于streamlit-aggrid 数据排序 表格样式的调整 数据 ...
2022-08-03作者:麦叔 定义 「把上面晦涩的概念汇成一句话就是:」 ❝ 回调函数就是一个被作为参 ...
2022-08-03现今,高学历人群日益增多,物以稀为贵的高学历光环淡去。无论本科生还是研究生,甚至博士生,求职竞争力都大不如前,就业压力越来越大。
2022-06-01某家企业10个人面试,有9个本科生……如何脱颖而出,除得体的举止和良好的沟通力外,证书成重要筹码,这也是很多人考证的关键所在。
2022-04-14