YC专访:如何防止人工智能颠覆

编者按:为了防止有朝一日人工智能的发展会颠覆人类,包括 Elon Musk、Reid Hoffman 等诸位美国创新型科技行业的风云人物共同出资超过 10 亿美元,于 12月12日 宣布成立一家非营利的独立研究机构——OpenAI。该组织想要实现人工智能最先进的形态,并将研究结果向公众公开。Medium 专栏作家 Steven Levy 为此采访了 OpenAI 的领导者,看他们如何描述这个计划和它的未来愿景。

本文转载自微信订阅号“新智元”,编译作者为王婉婷和王嘉浚特此感谢。您可关注“新智元”(Al_era)了解更多人工智能最前沿资讯。

为了追求人工智能最先进的形态并将研究结果向公众公开,他们资助了一个新成立的组织,OpenAI。

像是 AI 领域的竞争还不够激烈一样——要知道 Google、Facebook、Microsoft 之类的巨头,甚至还有 Toyota 这样的汽车公司,都在急匆匆地招募研究人员——现在又有了一个新的组织渴求研究者,但又有一些不同之处。

它是一个非营利性的合资组织,叫做 “OpenAI”。今天它被宣布成立,宣称将会向公众公开它所有的研究成果,并且授予它所有的专利买断式授权(royalty-free,译者注:用来宣告一项具有版权、专利或著作权的产品能(永久或特定时段)被使用而不需要支付权利金或执照费(License fee),来自维基百科)。这一切都是为了确保有朝一日计算机超越人类智力的可怕前景,将不会变得像一些人恐惧的反乌托邦(dystopia)那样让人绝望。OpenAI 的资金来自于一群科技行业的权威,包括 Elon Musk、Reid Hoffman、Peter Thiel、Jessica Livingston、以及 Amazon 云服务。他们承诺,将在未来很长一段时间内向这个组织投入总共超过 10 亿美元的资金。这个组织的联合董事长分别是 Elon Musk 和 Sam Altman(Y Combinator 的 CEO)。

众所周知,Musk 是 AI 的批判者,他加入这样一个组织并不让人意外。但 Y Combinator 是什么?没错,这就是那家 10年 前从一个夏季计划中脱胎而出的科技孵化器,当时以给 “拉面工资”、然后反馈美食建议的形式资助了 6 家初创企业,通过这种方式让它们能够快速扩张自己的业务。从那时起,YC 已经帮助创立了接近 1000 家公司,包括 Dropbox、Airbnb、以及 Stripe,并在最近设立了一个研究部门。过去的 2年 间,YC 一直由 Altman 领导着。他的公司 Loopt 曾经是 2005年YC 初创时孵化的公司之一,在 2012年 他以 4340 万美元的价格出售了这家公司。虽然 YC 和 Altman 都是 OpenAI 的创始人,并且 Altman 还担任了联合董事长的职务,但是 OpenAI 的确是一个与这些公司无关的、独立的合资组织。

本质上,OpenAI 是一个研究实验室,旨在削减两类组织的力量:包括因为拥有营利的超级智能系统(super-intelligence systems)而可能获得过多力量的大型组织,以及可能使用 AI 来获取力量甚至用来压迫本国公民的政府机构。这可能听上去非常唐吉坷德,但这个团队已经募集到了一批精英,包括 Stripe 前 CTO Greg Brockman(他将担任 OpenAI 的 CTO)以及世界一流的研究者 Ilya Sutskever。Ilya Sutskever 曾经为 Google 工作过,是在多伦多接受神经网络先驱 Geoff Hinton 指导的年轻科学家团队的一员。他将担任 OpenAI 的研究主管。其他的人马还有一群顶尖的天赋很高的年轻人,他们的简历中囊括了主要的学术团体、Facebook AI 以及 Google 在 2014年 收购的 AI 公司 DeepMind。OpenAI 还有一个星光熠熠的顾问委员会,顶尖的计算机科学家 Alan Kay 也名列其中。

OpenAI 的领导者们对我描述了这个计划和它的未来愿景。整个采访是分成两部分进行的,首先是与 Altman 的对话,然后是与 Altman、Musk、以及 Brockman 一起讨论的部分。我将整个访谈融合在一起,编辑成了简要清晰的格式。

这一切是怎么来的?

Sam Altman:我们大约是在一个半月以前启动 YC 研究部门的,但我一直以来都在思考 AI 的问题,Elon 也是。如果你想想对于世界的未来而言哪些东西最重要,我觉得一个善良的 AI(good AI)可能是这张列表上首当其冲的几项之一。所以我们创立了 OpenAI。这个组织正在尝试研发出一种对人类友好的 AI(human positive AI)。而且因为它是一个非营利性组织,全世界都能享用它的研究成果。