核武器的比喻很带感，但是也挺恰当。核武器是强AI最糟糕的情况。相反，乐观的预计又亮瞎人眼（普遍的经济繁荣、消灭所有疾病），乐观与恐惧都可能让我们产生偏见。
强AI可以帮助几十亿人过上更安全、更健康、更快乐的生活。但是要设计这样的机器，工程师需要对于智能人类和机器所面对的复杂的社会、神经和经济现实有更好的理解力，比如今任何人都更好的理解力。如果我们对现有的大脑进行升级，我们能更好地来理解、打造强AI，并与之共存。
我们可以将人类智能的提升分为三个阶段。第一个阶段，使用类似谷歌搜索的科技来增强和补充人类大脑，这已经在进行中了。我们可以比较一下：1996年一个持有图书馆借书证的五岁小孩，和2016年一个打开了谷歌搜索主页的五岁小孩——只要敲几下键盘，就能获得非常多的人类知识。
如果第一阶段需要用科技来补充大脑，那么第二阶段就要直接放大大脑。适应性学习软件将教育个人化，对课程进行实时调整。如果学生表现出色，教学速度就会加快。如果学生学习比较困难，软件也会放慢节奏、转变教学风格或者告诉老师需要指导。适应性学习和在线教育有可能意味着一刀切教育的终结。融合增强现实和虚拟现实技术，也可以以我们无法想象的方式放大智能。
智能提升的第三阶段需要从根本上改变大脑。经颅磁刺激（TMS）是一项美国食品药品监督管理局（FDA）批准的无创治疗方法，治疗中会将一个电磁线圈应用在头上。TMS目前被用于治疗创伤后应激障碍（PTSD）、自闭症和抗药性的严重抑郁症。例如加州大脑治疗中心以及肯塔基州路易斯维尔大学这样的机构中，样本数量不大，而且影响的持续时间还未知，但是出现好转的个体比例很高——在比例最高的试验中，200个较高功能的自闭症病人中有90%实现了好转。早期迹象显示，TMS可能对于看起来没有相关性的大量神经学症状会有疗效。如果我们能对受伤的的或者非神经正常的大脑产生积极影响，也许不久后，我们就能提升健康大脑内的联接，实现普遍提升智能。
强AI已经出现在地平线上，但是目前来说，我们只有自己的大脑可以用。提升我们自己的智能，是创造未来智能机器并与之共存的第一步。
你没法让机器学会常识
至少现在还不能。这仍然是真正人工智能最大的障碍。
预测性学习也叫作无监督学习，是动物和人类理解世界的首要模式。我们可以看看这个句子：“约翰拿起他的电话并离开房间。”经验告诉你，电话可能是移动模式的，约翰可能是从门里走出去的。而机器缺少对于世界常态及其限制的良好表征，也许永远没法推测出以上的信息。机器中的预测性学习——一个非常重要但是还有待发展的特征——会让AI不需要人类监督，可以自主学习，就像小孩子学习一样。但是，要让机器学会常识不只是一个技术问题，这是一个可能要花上几十年的科学和数学挑战。在那之前，我们的机器没法成为真正智能的机器。——Yann LeCun。
via 《华尔街日报》
登陆|注册欢迎登陆本站，认识更多朋友，获得更多精彩内容推荐！