首页 > IT业界 > 正文
科学家霍金:全面人工智能发展可能会导致人类终结
2015-01-17         来源:IT863 产经新闻       [我要评论]
在接受媒体记者采访时,霍金不止一次地说:“成功创造人工智能将会是人类历史上的最大事件,但不幸的是,它也可能是最后一件。”
\
   “由于人工智能的巨大潜力,开展如何在规避其潜在陷阱的同时获取其好处的研究十分重要。我们的人工智能系统,必须按照我们的意愿工作。”……

“如今存在的一个广泛共识是,人工智能研究正在稳步进展之中,它对社会的影响也很可能会逐渐增大。人类文明所能提供的一切都是人类智慧的结晶。这种智慧被人工智能可能提供的工具放大后,我们能做到什么是我们无法想象的,不过那样的话根除疾病和贫困将不再是遥不可及的。从这个意义上说,人工智能有巨大的潜在好处。”

以上话语出自近日包括霍金及企业家埃伦·马斯克(Elon Musk)等在内的数位科学家、企业家及与人工智能领域有关的投资者联名发出的一封公开信。

这已经不是霍金或者马斯克第一次公开表达对人工智能或将存在的风险的担忧。在接受媒体记者采访时,霍金不止一次地说:“成功创造人工智能将会是人类历史上的最大事件,但不幸的是,它也可能是最后一件。”马斯克更是直言:“随着人工智能的发展,我们正在召唤恶魔。”

不过,在这一次的公开信中,他们除了警告人们必须更多地注意人工智能(AI)的安全性及其社会效益之外,亦十分谨慎地同时强调了人工智能的积极面。

作为“前沿科学的最精彩成就”(前国科委主任宋健语),人工智能从上世纪50年代起就一直不停地在人们当中引发争论和思考,触及到经济、社会、法治、人文等方方面面。我国在该领域发展现状如何?谨慎而乐观地看,人类未来的图景将如何被描画?我们真的在养虎为患吗?

文/李书娜

近日,英国物理学家霍金的言论“全面人工智能的发展可能会导致人类的终结”,再次引发人们对人工智能的讨论。

人工智能真的会超越人类并取代人类吗?人类应该怎样避免此事情的发生?

目前,随着搜索引擎、大数据分析、深度计算等技术的发展,人工智能已发展到能像真实人类与人进行自然交流。

乔治华盛顿大学计算机科学教授Peter Bock在1993年出版的《人工认知的兴起》(the Emergence of Artificial Cognition) 一书中,虚构了一个类似于人脑的人工智能机器Mada。他在书中介绍说,就像人类认知的过程一样,这一智能机器将可以学习新事物,以使得自己的智能得到不断发展,并且预估这一技术将在2024年实现。

机器人能够代替人类工作、学习、做家务、甚至能够帮忙看护老人,帮助人类解决环境、医疗、贫困等难题,从这个方面来说,人工智能的发展对人类有极大的好处。但是当虚拟现实、人工智能等越来越贴近人类生活,侵犯到人类隐私、信息安全的时候,科技伦理便成了必须回答的问题。“克隆技术会造成人类繁殖能力的退化吗”、“会出现人伦关系混乱、造成性别比例失衡吗”、“可穿戴技术获得的信息能够作为证据吗”等这些问题都是人类在研究开发人工智能时所必须需要解决的。

人类真实的感情,这是科学无法模拟的,也是人类的希望所在。当面对灾难时,人工智能即使对人脑有着高度相似能力,能发出人类哭的声音,但要实现人类流眼泪这样真实的感情,目前来说仍然有很大困难。许多科学家都一致认为,即使真的能开发出全面实现人类智能的机器人,但这在未来相当长的时间内不会成为现实。

人之所以为人,就是能够不断地学习,不断地创造新的事物,并且能控制自己的情感。即使现在有了谷歌制造出了无人驾驶汽车,日本研制出了能够阅读新闻甚至能够模拟人类眨眼和呼吸的机器人,微软开发出了能够与人自然交流的小冰,也许未来会开发出真正能够模拟人脑的机器人,但这些都无法取代人类的情感,无法体会人类的孤独、悲伤、高兴以及人与人之间不用交流只需一个眼神就能明白对方在想什么的情感。

英国系列短剧《黑镜》探讨了在未来世界科技对人性的利用、重构与破坏。在未来世界,人工智能发展到制造一个与真人一模一样的机器人,当你睡觉时,机器人可以代替你做饭、工作、甚至做爱,但却是冷冰冰地、程序化地按照设定内容去完成规定动作。这对人类来说是有益于人类呢还是一种悲哀呢?

加州大学伯克利分校电机工程和计算机教授罗素指出,哪怕我们穷尽一生的时间,也不可能像谷歌那样在不到十分之一秒的时间内检索出数以亿计的文件,如此强大的计算能力,当在面对常识性知识以及情感时,却显示出局限性。

德国哲学家康德曾说,“人应该在任何情况下把自己和他人当做目的,而非手段”。科幻小说家阿西莫夫提出“机器人三定律”:机器人不得伤害人类,或坐视人类受到伤害;除非违背第一法则,机器人必须服从人类的命令;在不违背第一法则和第二法则的情况下,机器人必须保护自己。

也许有一天,人工智能真的发展到像电影《超体》中所展现的“I'm everywhere”(我无处不在)。但不管人工智能发展到何种地步,人都应是其控制者。人工智能的研究,应该服务于人类,成为解决特殊问题的求解器,这应成为人工智能研究开发者的共识。

【如何看待人工智能全在人类自己】

人永远知道自己是人,机器人却不能知道自己是机器人

本报记者 毛小北报道

如果有一天,你发现和你谈恋爱的是机器人,你是否会感到屈辱、惊讶、紧张甚至有一些害怕?据报道,在从事人工智能研究的科学家眼中,机器人终将获取自己的运算能力,从而有了自发的意识,最终可以做自己想做的事情,而这也正是科学家霍金他们所担心的。

近日,包括霍金在内的数位科学家、企业家以及人工智能相关领域的投资者联名发出一封公开信,警告人们必须更多地注意人工智能的安全性及其社会效应。霍金指出,人工智能科技如果不加控制地发展,将超越人类智能,并控制或灭绝人类。这似乎与我们在电影院中看到的情节有些相似,但确实有一定的道理和警示意义。

有人曾经举了个例子,人们叫机器人去做铁钉,机器人按部就班采掘铁矿,通过熔炼加工最终将铁钉制出。但是当他们有了些许自我意识,如果当人类想去阻止他们制造铁钉的时候就可能发生危险。更极端的方向是,机器人把世界上所有铁矿都采掘完毕后通过自我学习发现只有人类身上还含有铁,最终导致人类的灭亡。

虽然存在一定的风险,但人工智能毕竟是科技发展的结果,并且人工智能的发展确实给人类的生活带来了方便与舒适。既然无法阻挡人工智能发展的步伐,那么我们就有必要通过一些方式将他们的发展引领到人类的轨道之中,按照人类预想的蓝图继续发展。

所谓无法不成方圆,面对可能发生的各种问题,首先应该考虑的就是建立健全的法律。由于现阶段并没有出现拥有自我意识的超级人工智能,有关于机器人的法律更多体现在阿西莫夫的机器人定律。该定律虽然还有待完善,但在一定程度上给出了今后制定游戏规则的方向,那就是机器人绝对不可以伤害人类的整体利益。

而相关法律机构也应该对人工智能所涉及的各个行业进行相关立法,并且对人工智能本身的安全性、如何生产复制、人类使用规范等进行细致的规范。比如曾经轰动一时的克隆技术,当时有人提出克隆人遭到了法律机构的严厉禁止。应该建立如何合理使用这些人工智能的相关道德规范,就如同公交车上的文明出行倡议一样。相关法律的完善才可能完全关闭不法分子企图利用人工智能犯罪的大门。

另外,人类还有必要通过经济引导来规避可能出现的风险,当然这可能会建立在一些法律的基础上。比如,都知道一旦某国将人工智能应用在战争中势必可以建立强大的优势,但人工智能的研究是全世界都在进行的,这势必造成新的军事科技竞赛,而且拥有高尖端军事设备的国家很容易信心爆棚,走上错误的战争路线。那么我们只要立法强调人工智能或者是未来可能出现的超级人工智能绝对不可以应用在战争中。即使生产出这样的机器人,也由于有法律约束而无法使用,失去实际的经济价值。

一方面要通过经济引导人们在研究人工智能的时候最终可能变成伤害人类的武器,另一方面还要引导人工智能为人们服务。人们都在使用的汽车导航其实也算是一种人工智能,而汽车导航可以帮助人们更为便捷地找到想要去的地方。智能家居也是人工智能,它可以帮助人们生活得更舒适、更惬意。正因为这些人工智能对人类有切实的好处,所以发展得非常迅速并且获益匪浅。这在一定程度上也反映出,人工智能的发展其实可以通过经济引导来使人们对于那些可能伤害到人类的研究失去兴趣。

其实喜欢科幻片的影迷都有一种感觉,近些年宣扬人与机器人之间亲密共存的电影开始增多。看着那些超级人工智能与他们“主人”亲密生活在一起,许多人都有一种“好想要一只”的感觉。其实就算有一天超级人工智能真的出现了,人们也可以和他们和平共处。

没有出生就会偷东西的人,但是却有可能有刚启动就犯罪的超级人工智能。因为说到底,人工智能是依靠人类给它们编写的初级程序来学习不断完善自己。也就是说,如果开始制造的时候就输入有杀死某人指令的话,超级人工智能就有可能照做。而相反,如果和人类生活了一段时间,通过不断学习和完善自己,超级人工智能反而可能会醒悟到这样做的错误,自行删除这条指令。

人工智能或者是未来出现的超级人工智能是否危险完全取决于我们自己。我们当然想让人工智能一直为我们服务,不要出现任何问题。我们可以使用它们让我们的生活更加方便和便捷,但是也可能使他们变成毁灭我们的武器。而这一切都取决于我们自己如何去想,去做。

人与机器人的区别就在于,人永远知道自己是人,机器人却不能知道自己是机器人。人有时候会抛开自己是人的身份,那时候危险的是他自己。当机器人知道自己是机器人的时候,人却忘记自己是人,那么全人类的危险就临近了。

【人工智能:谨慎乐观下的美妙未来】

本报记者 许睿 何苍报道

智能手机的广泛普及带来了人工智能技术革命的预示,如今人们已经不再奇怪指纹和声音如何被手机识别,各类可以代替人类劳动的扫地、削面、擦玻璃机器人层出不穷。与此同时,无人驾驶汽车、医疗机器人以及各种智能探测器都在紧锣密鼓地开发和研制。人们普遍认为,不久的未来,人类或将迅速迈入人工智能时代。

而近日,霍金与数位科学家、企业家联名发出公开信呼吁人们提防人工智能副作用,人工智能这一话题再次被推到聚光灯下。

模式识别作为最贴近人们生活的人工智能,已然被人们欣然接受,无论是指纹识别、语音识别还是图形识别,如今都普遍地在智能手机上让人们得以体验与接受。在信息时代下,大多数人在互联网络都拥有许多账户,忘记密码的情况更是在所难免,而当人们不用再一遍又一遍地对着自己的手机输入冗长复杂的密码,只要用手指解锁个人账户时,便意味着智能识别使人们与电脑的沟通更加自然与方便。而我们也相信在人工智能技术不断发展的背景下,会有更加科学又便利的识别方式,登录邮箱,转账支付,看戏观影登机等,都可以利用人工智能的识别系统,免除人们忘记密码而造成不便的这类弊端。此外,各类模式识别对于老人生活的改善具有重要的意义。试想,当老人孤身一人,如果可以用语音甚至意念开关电视、拨通电话,用手指的轻微动作甚至眼神驱动轮椅引导自己散步,甚至用意念为自己做康复训练。这将是老年人的福音以及在外儿女的欣慰。这听起来好像离人们很远,但确实有研究者已经着手开始为空巢老人设计研发成果,为老年人带来福音。

在人工智能的应用当中,机器人的范围很广,不仅包括各种外形的智能机器人,还包括一些用于工业生产的、用于代替人类劳动的机器人。机器人的投入使用,不论是工厂还是家庭,都会在一定意义上解放劳动力,同时在一定意义上避免人类作为劳动力而可能会受到的意外伤害。但机器人的大量投入使用是否会导致大量劳务失业问题,进而造成社会结构的动荡,还需要在以后很长的一段时间内经历考验。还有,人工智能在解放人类双手的同时,是否会造成人类智慧的退化?这成为了人类思考的新命题。

种种细节固然琐碎,却能让人切身感受到人工智能的好处。当各个领域、各个层面的利好汇集起来,人工智能之于人类种群的意义就不难想见了。

人口爆炸、粮食危机、能源危机、环境危机、医学难题……当今人类面临的种种问题,也许有些是咎由自取,但更多的是进化的必然,这些问题仅靠人类自身的力量可能会无解,但人工智能的出现却可能是我们的极大助力。

比如,能进入人体血管去治疗疾病的纳米机器人,将可能让“是药三分毒”的俗语成为古话,因为它将能精确地定位,从而使药物精准地在患处发挥作用。若能成熟应用起来,或将让人类谈之色变的疾病甚至是“死神”们退避三舍。

当被《中国产经新闻》记者问及“你认为人工智能可能有哪些好处”时,有人脱口而出地回答“可以解决屌丝问题”。话糙理不糙,伴侣型机器人在科幻电影中已经屡见不鲜,若推向市场,一定会比宠物更受当代“孤单寂寞冷”的人群的欢迎。虽然泰戈尔说“当你独享孤寂,你将不可企及”,但现实生活中,能真正适应独居生活的人类毕竟是少数。有了人工智能,有了亲密的机器人“小伙伴”,生活会有意思得多。而当“人类+智能机器人”这样的小型组合代替现行的两性婚姻家庭成为社会单元的主要存在形式,人口爆炸问题也就迎刃而解了。当然,这样的未来究竟是不是人类想要的,就是见仁见智、并且随着时间可能发生变化的问题了。



相关热词搜索:霍金 人工智能

上一篇:中关村e世界今后不卖电子产品 商户纷纷撤离
下一篇:苹果封杀克里米亚iTunes开发者 进一步制裁俄罗斯

声明:文章内容仅供参考,并不意味着赞同其观点或证实其描述。
新闻排行
关于我们 | 联系方式 | 版权声明 | 招聘信息 |
IT863.COM.CN 版权所有
CopyRight @2011 IT863.COM.CN All Right Reserved