【问】：你和我谈过有关AI的话题，并说过在四五十年之后，可能需要量子计算机帮助计算。你提到了马斯克及其对生存威胁的恐惧。他认为，显然我们已经非常接近于通用人工智能（AGI），这就是他的恐惧所在，这也是霍金所关心的。你说过：“我同意这种担忧，如果我们搞砸了，那就是生存威胁。”你如何看待这个问题：我们40年内会有AGI吗？
萨克森纳：我认为你不需要AGI来创造一个生存威胁。有两个不同的维度。你可以通过建立一个极不可靠的自动武器系统来制造生存威胁，这种系统对通用智能一无所知，它只知道如何寻找和杀戮。而在错误的人手中，这可能真的是生存威胁。你可以在互联网上创建一种病毒，它可以摧毁所有公共设施和应急系统，而它不需要了解任何关于通用智能的信息。如果这种方式在没有适当的测试或控制的情况下被释放，就有可能拖垮经济和社会。我认为，这些都是我们必须要意识到的结果。这些都是我们必须开始制定规则、指导方针和强制执行的原因。这就是我认为我们今天远远落后的两个领域，也可以说是技能。
AI是一种全新的学习方式
【问】：OpenAI计划的目的是让AI成为单独参与者无法开发的技术。在这种情况下，也就是指AGI，但会始终都这样吗？你认为这是一个好的开端吗？
萨克森纳：是的，绝对如此。我认为OpenAI可能需要其他几百个类似的项目，以专注于AI的不同方面。就像我们的AI Austin和AI Global项目所做的那样。我们关注的是在符合道德规范的情况下使用AI。拥有无人驾驶汽车是一回事儿，而拥有智能导弹则是另一回事儿。你如何驾驶载有4人的无人驾驶汽车，你如何在“证人箱”中交叉检验它呢？AI的解释能力如何？谁来负责？因此，在将这些知识应用于智能产品时，我们需要考虑一整套新的伦理和法律。几乎就像保险商实验室的AI那样，需要将其融入到每个产品和每个流程中。这些都是我们的政府需要了解的事情，我们的监管者需要保持警惕。
【问】：有一种理论认为，如果要依赖政府，我们都会处于糟糕的状态，因为科学发展的速度要快于立法机构作出反应的能力。你有解决这个问题的办法吗？
萨克森纳：我认为有很多事实可以说明，尤其是我们最近围绕技术在政府所看到的东西，存在很多优点。我相信，我们所取得的成就和我们使用AI产生的结果，将取决于我们作为个体公民的行为，我们作为商业领袖的做法，以及我们作为慈善家所做的事情。美国最美妙的事情之一，就是有像盖茨和巴菲特这样的慈善家正在做的事情，他们现在拥有的资产比很多国家都多，而且他们也在负责任地利用这些财富。所以，我对美国创新的期望是，如果可以的话，也要以负责任的方式应用AI。我相信，我们所有人都有能力去教育和管理这些事情，我们有责任传播这些技术，并且能够向前一步，开始提供帮助，并引导AI被以负责任的方式投入使用。
【问】：让我们来看看你的“什么不是AI”清单，你列举了五件事。其中一个你说“AI不是自然语言处理”，显然，这是真的。你认为图灵测试有价值吗？如果我们制造一台能够通过它的机器，这是一个基准吗？在这种情况下，我们做了什么了不起的事？
萨克森纳：当我在运行沃特森的时候，我曾经认为它有价值，但我不再那么相信它了。我认为它的适用性很有限，主要有两个原因：一是，在你用机器代替人脑的特定过程中，你绝对需要进行某种测试来进行证明。更令人兴奋的不是自动化或重复人类功能，而是人类大脑没有想到或者没有做过的事情。我给大家举个例子：CognitiveScale正与一家非常大的媒体公司联手，我们正在分析“超级碗”电视广告，通过让AI阅读视频广告，找出到底是什么类型的创意（孩子、小狗还是名人）、在什么时候对创造最好的电视广告会产生最大的影响。令人着迷的是，我们只是让AI去做，而没有告诉它该寻找什么。没有图灵测试证明这“是好是坏。”从联系角度来看，AI带回来的东西有十到十二层的深度，这是人类大脑通常不会想到的东西。我们仍然无法描述为什么会有这样的联系。