对话马斯克:如何防止人工智能掌控世界

对话马斯克:如何防止人工智能掌控世界

注:特斯拉CEO Elon Musk和YC掌门Sam Altman联合创办了非盈利人工智能项目OpenAI,想要研发“仁慈”的人工智能,同时将研究数据开源,避免人工智能集中在少数人手中。该团队已经招揽了大批世界级人才。本文对OpenAI的两位创始人进行了采访,深入了解他们创立OpenAI的初衷以及运行构想。

人工智能这个领域过去似乎并没有这么火热,而现在,像谷歌、苹果、Facebook、微软,甚至是日本丰田之类的汽车公司都开始争相雇佣人才,踏入这个与众不同的新市常

2015年12月12日,特斯拉CEO Elon Musk在推特上正式宣布启动非盈利人工智能项目OpenAI,立誓公开研究成果,包括代码和专利,和世人共享。一些人担心一旦人工智能超越了人类智能,会发生像电影《终结者》那样的末日之灾。而OpenAI所做的一切就是为了防止这种恐惧成真。

包括Elon Musk、LinkedIn 创始人Reid Hoffman、PayPal联合创始人Peter Thiel、YC创始合伙人Jessica Livingston在内的许多科技名人,以及亚马逊云服务都对OpenAI进行了投资。他们共同承诺会在接下来很长一段时间内,对OpenAI投资10亿美元以上。

OpenAI联合主席是Musk以及YC孵化器CEO Sam Altman。同时YC也是投资方,Sam Altman本人也是创始人。尽管如此,OpenAI还是一家独立公司。

OpenAI在本质上是一个研究实验室。建立这个实验室的目的在于监督企业和政府,以免这两个群体依靠超级人工智能系统过度榨取利润或者谋取权力,并以此压制市民。

这个想法听起来似乎不切实际,但是该团队已经招揽了大批世界级人才,首席技术官是前Stripe首席技术官Greg Brockman,研究总监是世界级研究员 Ilya Sutskever。Ilya Sutskever曾在谷歌任职,是多伦多神经网络大师Geoff Hinton的得意门生。其他员工也都是来自Facebook AI、DeepMind(2014年被谷歌收购的人工智能公司)等大型公司的顶尖人才,年轻有为,简历漂亮。同时,公司还有包括美国计算机科学家Alan Kay在内的一流顾问团。

下面是对两位创始人Elon Musk和Sam Altman的采访内容:

怎样想到要创立OpenAI的呢?

Sam Altman:虽然大约一个半月前,我们才成立了研究实验室YC Research,但我和Elon其实从很早之前就在考虑人工智能的问题了。如果要给未来这个世界最重要的东西做个排行榜,我想好的人工智能可能会位列前茅。所以我们创办了OpenAI,尝试开发一种“仁慈”的人工智能。并且因为它是非盈利的,所以全世界都能免费拥有我们开发出来的技术。

Elon Musk:众所周知,有段时间我一直对人工智能心存担忧。我找Sam、Reid(LinkedIn 创始人Hoffman Reid)、Peter Thiel(PayPal联合创始人)还有其他一些人谈了很多次,当时就在想:“有没有某种方式能够确保,或者是增加人工智能往有利的方向发展的可能性呢?”反复探讨之后我们得出结论,创办一个符合美国税法501c3条款的、非盈利的、没有义务追求利润最大化的公司,应该是个不错的办法。当然,我们也会非常注意安全问题。

然后就有了一个重要的哲学性问题:我们希望人工智能普及开来。有两个意见:你想要多数人拥有人工智能呢?还是希望少数人拥有人工智能?我们认为可能多数人拥有比较好。我们可以把人工智能和人类个体意志的延伸联系在一起。

人类意志?

Musk:因为人工智能是人类自己意志的延伸,所以每个人本质上是与人工智能共生的,不能把人工智能当做独立的中央智库。想一想我们是怎样使用网络的?通过手机应用,我们可以收发邮件,玩转社交媒体,网络让我们有了三头六臂,而我们并不会这种能力当成身外之物,而是把它当成自己的一种延伸。我们可以把人工智能往这个方向引导,这就是我们想要做的。我们现在已经召集了一批这一领域内志同道合的工程师和研究员,他们也有同感。

Altman:我们认为人工智能发展的最好方式是提升个人赋权,造福整个人类,把研究成果免费提供给所有人,人工智能技术如果集中于少数人手中,会致使单个实体的权力百万倍于人类个体,这正是我们想要避免的。此外,因为我们是非盈利公司,不需要费心思盈利取悦股东,会把重心放在对人类未来而言最好的东西上。