巴别塔的轰塌
圣经旧约第十一章,讲到了巴别塔的故事:人类联合起来兴建希望能通往天堂的高塔;为了阻止人类的计划,上帝让人类说不同的语言,使人类相互之间不能沟通,人类的宏伟计划因此失败,自此各散东西。
圣经在这里解释了为什么人类会产生不同语言和种族,当然在今天,考古与进化论已经告诉我们原因并不是上帝之怒。当然,无论怎么解释,语言的隔阂对人类社会产生的影响是如此之深与如此之广,以至于时至今天仍然不能例外。
人类对于信息是有着基本的需求,就如吃饭睡觉一样,而语言的产生刚好满足了这些需求,可是不同语言的隔阂却又阻碍了这种基本需求,于是翻译职业成为了沟通两个社会与文化的桥梁。翻译精通各种语言,游走于各种人群中,加强了了不同文化间的各种信息交流。但是精通各个语言的技能对于一个人来讲需要多语言环境与很长时间的训练,而普通人往往无法做到,所以,人类这种基本需求虽然得到了改善,但显然还不够,还需要一种更加容易的方法或载体去满足这个需求。上个世纪计算机的产生,为这种需求提供了一种可能的途径:机器翻译。
机器翻译的序幕与低潮-人类的自我否定
上个世纪之初,图灵大神提出计算机的可行性理论,约翰·冯·诺依曼大神提出了具体实现的方案,1946年,宾夕法尼亚大学的两位教授发明了人类历史的第一台计算机,几乎是在同时,美国洛克菲勒基金会副总裁韦弗在讨论计算机的应用范围时,提出了利用计算机实现语言的自动翻译的想法,并且很多学者与实业家表示支持。可见,人类对信息能够互通的这种渴望有多么强烈!
不同语言都在于描述客观世界与人类社会,其本质一致,唯一不同在于编码与解码的方式。同样是我,英语常用“I”,汉语常用“我”,无非是读音与字形不一。另外,可以尝试通过一个中介语言去统一所有语言的编码从而作为计算机输入输出的中间层从而实现翻译,这也就是韦弗当初的想法,也是当时的主流思想:直接按词翻译。
于是机器翻译大热与政治因素,美国、苏联、欧洲政府都投入了大量的资金支持机器翻译的研究,中国也在1956年将机器翻译列入了全国科学工作发展规划,1957 年,中国科学院语言研究所与计算技术研究所合作开展俄汉机器翻译试验,翻译了9 种不同类型的较为复杂的句子。
但是, 1964年,美国科学院成立语言自动处理咨询委员会,调查机器翻译的研究情况,给出了“在目前给机器翻译以大力支持还没有多少理由”的结论,全面否定了机器翻译的可行性,并建议停止对机器翻译项目的资金支持,这也是由于当时的计算机性能不佳与自然语言本身的复杂所致。由此机器翻译由此陷入低潮,此时上帝笑了,你们永远别想再造巴别塔,那么机器翻译之路就这么被打断吗,人类的动力来自希望,可此时,希望变成了绝望…
基于规则的机器翻译-不尽如人意
到了上个世纪七十年代,计算机性能与全球化的发展使得机器翻译重回人们视野,此时对于实现机器翻译,语言学家乔姆斯在博士论文中,他开始发现自己的一些语言学思想,后来他将这些进一步阐发,写成了他在语言学方面大概最有名的著作《句法结构》,他认为一种语言无限的句子可以由有限的规则推导出来,于是重视句法分析成为机器翻译的主流。
任何一门语言的句子,无论其再长,再难,只要准确得确定其结构,调整好语序,再根据构成句子成分的各个词语的含义,翻译起来就能够非常准确。这里所谓规则,指的就是句法结构与语序特点。其实,这和人类翻译的思路是一脉相承的。人类翻译非常灵活,可以准确无误得翻译哪怕是不服从句法规则的语言,但是机器便有很多问题来了,句子的规则源于人,所以有大有小,有的甚至没规则,这样计算机在面对多样句法的句子中,显得极不稳定,尤其是面对较细的规则。这也是基于规则的机器翻译的致命软肋,也是至今这种方法没有突破进展的原因。
此时上帝又笑了,不过如此嘛…
基于统计的机器翻译-新思路
“MY GOD”-“我勒个擦”
应该没人会认为以上的翻译会出自机器。
1993年,IBM的一个工程师提出了利用统计方法去进行机器翻译的思路,1999年,约翰·霍普金斯大学的研究者实现了统计机器翻译的基石。
既然是统计方法,就需要给出已知的翻译成例以作为训练样本,这便是一个庞大的平行语料库。在现成的翻译的句子中,有些词可以被翻译成多个词,有些则完全不需要翻译,这里一个句子中的每个词语便有各种翻译的概率,并且还有相对于平行文本句子中的位置的概率,于是这些都成了统计学意义上的参数,机器本身并不需要知道词的含义,但如果它知道这些参数,再对于一个需要翻译的句子,给出它各种翻译和其相对位置的概率,然后挑选概率最高的作为输出,得到了翻译结果。从概率论的角度上看,其实便是求多种情况下条件概率最大值的问题。
下面四个例子,说明了这种翻译的效果:
“我是机器人“,显然这句话习惯翻译为I am a ROBOT。但貌似机器给出的结果缺少了谓语,这是为何?加个逗号试试:
呵呵,是不是接近答案啦。这里第一个情况,机器将其识别为一个短语,也就是当成了一个整体,而不是句子,这个时候,参数估计中重要的位置参数便会丢失,于是机器机器将其当短语识别,在平行预料库中,只计算”我是机器人“这个短语的在平行语料库中最大可能的翻译。记得威尔史密斯那部经典的关于人工智能的电影吗?它就叫《I ROBOT》。
加了逗号以后,机器将其识别为一个分句,这时有个位置与翻译概率两者共同决定了最大可能的翻译,命中了。那么,加个句号不就是一个完整的句子了吗,试试:
这次是有谓语,但是时态错了。为啥呢?机器肯定是在寻找了大量平行语料计算条件概率再给出了这个结果,而语料产生于人,在一个完整的句子中,人说自己是机器人,通常是一种虚拟语气,一种情况是你在抱怨任务太多,希望自己是个机器人能够短时间完成任务,于是谓语是was而不是am,意在表达这种情况并非真实,但有此意愿。所以如果是“我不是机器人”这句话,虚拟语气就应该没有问题了,那么我们看看:
这下对了吧,人确实不是机器人嘛,在英语中就不会出现虚拟语气的情况了。
从以上的四个例子,可以看出统计机器翻译的特点:精准但是依赖于平行语料库。平行语料库太少,显然翻译容易出问题,但是如果语料库太多,统计算法会对计算机的性能提出更强大的要求,而这种要求其实就是对于人工智能的要求。
此时,上帝打了个喷嚏,额,我没事,这个貌似有点靠谱,但是你们还是造不出巴别塔。
再造巴别塔-任重道远
虽然统计机器翻译表现出色,但是机器翻译本身还很多问题,机器取代不了人类。中国数学家、语言学家周海中曾在论文《机器翻译五十年》中指出:要提高机译的译文质量,首先要解决的是语言本身问题而不是程序设计问题。也就是说,机器翻译最终还是受制于人类对语言本身的了解,它到底是怎么产生的,大脑中是如何运行的。。。路漫漫其修远兮啊,但还是要有信心,总有一日人类能够重塑圣经,再造巴别塔!
数据分析咨询请扫描二维码
CDA数据分析师在中国航信高科技产业园进行了面向测试度量的数据分析培训课程,培训人数近2 ...
2024-05-01CDA数据分析师走进深圳迈瑞生物医疗电子股份有限公司,在迈瑞总部展开了为期两天的培训,本次课程参训人员线上及线下近百人, ...
2024-05-01CDA数据分析师在合肥市对合肥阳光新能源科技有限公司开展了为期8天的企业内训。 合肥阳光新能源科技 ...
2024-05-01CDA数据分析师走进海尔大学,进行了《数据治理与数据中台建设的道与术》专题培训,培训现场爆满,近百人参加了此次培训。 ...
2024-05-01在中国银行苏州分行培训中心开始数据分析师培训,此次培训课程共10天内容,包括Excel、MySQL、概率论与数理统计、SPSS等内容, ...
2024-05-01从实际的业务需求出发,结合行业的典型应用特点,围绕实际的商业问题,探讨数据挖掘、机器学习模型在金融领域的应用,包括获客、信用评分、细分画像、交叉销售、反欺诈、违规识别、时序预测、运筹优化、流程挖掘九个方面,形成 ...
2024-05-01本次培训课程为线上+线下的模式,由于学员编程能力不一、部分学员没有编程基础,故提供统计学、python基 ...
2024-05-01华夏银行信用卡中心-机器学习培训 1、课程亮点 取材于业界一流企业和顶级咨询公司的行业实践;已经被证明是人人 ...
2024-05-01主 题:数据中台建设及数据分析应用主题分享 1. 数据中台市场洞察 2. 主流数据中台产品比较 3. 某企业数据中 ...
2024-05-01围绕“数据驱动”战略,全力打造我行 300 人数字化人才梯队,着力培养数字化管理人才、大数据专业团队 ...
2024-05-01在当今数据驱动的商业环境中,数据分析成为了企业决策的重要依据。通过对大量数据的收集、处理和分析,企业能够更好地理解市场 ...
2024-04-29在人工智能(AI)的世界里,提示词(Prompt)是一种强大的工具,它能够引导AI按照用户的需求产生特定的输出。本文将深入探讨AI ...
2024-04-29CDA立足未来职场,拓展前沿视野——对外经贸大学保险学院举办“三全育人大讲堂”分享行业最新动态。 ...
2024-04-294月2日,CDA数据分析师创始发起人兼协会理事长赵坚毅博士受邀在浙江万里学院举办了一场以“数字化能力在职场中的作用” ...
2024-04-29随机森林(Random Forests)现在机器学习中比较火的一个算法,是一种基于Bagging的集成学习方法,能够很好地处理分类和回归的问 ...
2022-12-23方差分析是数据分析中常用的一种统计分析方法,接下来让我们简单了解一下方差分析的基本思想和原理吧。 方差分析(Analysis ...
2022-12-23来源:关于数据分析与可视化 关于streamlit-aggrid 数据排序 表格样式的调整 数据 ...
2022-08-03作者:麦叔 定义 「把上面晦涩的概念汇成一句话就是:」 ❝ 回调函数就是一个被作为参 ...
2022-08-03现今,高学历人群日益增多,物以稀为贵的高学历光环淡去。无论本科生还是研究生,甚至博士生,求职竞争力都大不如前,就业压力越来越大。
2022-06-01某家企业10个人面试,有9个本科生……如何脱颖而出,除得体的举止和良好的沟通力外,证书成重要筹码,这也是很多人考证的关键所在。
2022-04-14