可是，那些大科技公司如IBM、微软、Facebook，尤其是谷歌，都在投入重金和人力去研究这一问题。日前，谷歌斥资4亿美元收购英国公司DeepMind Technologies，网罗到了很多人工智能精英。
我信奉自由企业理念，但是考虑到人工智能潜在的危险性，到底是谁该成为这一科技发展最终的裁量人显然是至关重要的。到底该是由利润和股市表现驱动的企业，是政府，再或者是其他人呢？
谷歌设立了一个道德委员会来监控DeepMind——公司的创始人之一和马斯克一样，也说人工智能是“这个世纪的头号风险”。可是，我们必须看到，华尔街的风险管理部门可曾防止住金融危机？当然没有。当闪烁着巨大利润光晕的重大突破发生时，道德肯定会被抛出窗外的。谷歌方面拒绝对本文发表评论。
罗素在剑桥大学生存风险研究中心顾问委员会中与霍金一同任职，他相信，科学家们应该“理解并消除掉潜在的风险”。他对我表示：“让人工智能的能力发展到越来越强大的过程中，你也必须开发出越来越好的控制机制。”“我们在真正走到那一步之前，是不会真正明白自己做了些什么的。”波克表示，“那道路的终点，对我们而言简直是墓穴一样的危险。”
我们从魔瓶中放出的，到底会是怎样的妖怪？希望我们不会是以最惨痛的方式来接受教训的，这样的错误，我们过去犯下过太多次了。
登陆|注册欢迎登陆本站，认识更多朋友，获得更多精彩内容推荐！