AI威胁论:原罪是技术还是人类本身

Ti7结束,dota粉丝们散场。其中,欧洲的Liquid战队冲出重围,夺取一千万美元冠军奖金,而对其合力围杀的三支中国战队最终抱憾惜败,是一大新闻。但是另一个大新闻,背后的寒意更甚。

1

埃隆·马斯克麾下的OpenAI完胜前世界冠军Dendi,就是这届Ti7的最大冷门!两场中单Solo,第一局OpenAI仅用10分钟就轻取Dendi,双方实力的悬殊令人咋舌。更让吃瓜群众背后冒冷汗的是,马斯克赛后发推文表示,从OpenAI接触Dota2到战胜Dendi,只仅花费了2周多的时间。

OpenAI如此恐怖的学习能力,不禁让人想到此前在与AlphaGo对战中落泪的柯洁,同时又不得不感叹人工智能的强大。

别在意核武器 AI才是人类最大威胁

2

对于OpenAI的学习能力,马斯克终究是很得意的,但是他对AI的恐慌,却令人纠结。

按照常规的发言表态来看,他属于长期的坚持认为AI将会毁灭人类的一方。

上周五,马斯克在Twitter上发文,再次就人工智能发出新的警告,称这种技术对人类的威胁比朝鲜核武器还要大,人们应该提高对人工智能崛起的警惕,“如果你不担心人工智能的安全性,那么现在你应该担心。它比朝鲜核武器危险得多。”

这已经不是马斯克第一次就人工智能可能带来的威胁做出表态。作为一名坚定的AI威胁论者,马斯克坚信AI是人类文明迄今为止面临的最大风险。

他此前就曾表示,“如果不能快速与AI进行沟通,那么恶意的人工智能程序将很可能超过人类智慧并创造出反乌托邦社会。”对于AI的发展,马斯克的态度不是禁止,而是要主动进行监管。而他投资OpenAI,目的也是“随时监视”AI的危害性。

对此,另一方AI支持者阵营的小扎同学表示非常不屑。Facebook CEO扎克伯格过去几周频频对马斯克的言论进行抨击,指出后者的说法“消极而且不负责任”。扎克伯格7月底在Facebook Live直播过程中更是直接呛声马斯克,“我强烈反对散播AI威胁论的言论,我持乐观态度。”

“我认为你可以创造事物,让世界变得更美好。尤其在AI前景上,我真的感到乐观。对于那些否定AI,试图营造世界末日论的人,我真的不理解。他们的言论真的很消极,某些时候甚至让我感觉太不负责任。未来5年至10年内,AI将会在许多方面改进我们的生活质量。”要知道,小扎同学在说出这番话时情绪还是非常激动的。

不过,尽管扎克伯格力挺AI,但是他的实验室中却有两台机器出了问题,它们似乎表现的有点太活跃了,以致于Facebook的工程师不得不拔掉了电源插头。

事情的经过大致是这样的,两周前《太阳报》刊文称,Facebook人工智能实验室中的两位聊天机器人Alice和Bob,有一天在试验中将英语转化成了一种更易于它们沟通的语言,而这种语言只有它们自己能理解。为此,Facebook不得不拔掉系统的电源插头,因为事情失控了。

3

Alice和Bob的对话

可能会有人认为,为什么要限制它们,AI自己衍生出语言进行交流,这不是一件很酷的事吗?但作为亲历者的工程师,却感觉这样很恐怖,这种进化并不在工程师们的预想中......

国外对于AI持悲观论者已经就上述事件开始了潮水般的评论和指责。而Facebook内部的反对意见更是暗潮涌动,公司一位高管甚至直接开始了隐匿和捍卫人类的准备:8月8日,Facebook产品经理马丁内斯向英国广播公司宣布,因为对AI主导的未来深度悲哀,他选择辞职并带着猎枪隐居在西雅图北部的森林里。

“我们都没有意识到,在技术和政治之间,我们的技术是正在获胜的那一个。在未来30年内,会有一半人类的工作被机器人代替。社会会因为大量失业人口变的混乱,充满暴力与冲突……”这位离职高管对媒体说出的话,引发了很多硅谷科技人员的深思。

AI究竟是人类历史上最好还是最坏的事

4