而北卡罗来纳州杜克大学人类和自动化实验室主任Missy Cummings则发问,“我们如何确保这些系统是绝对安全的?”其曾是一名海军女飞行员,而现在则是无人机专家。
现在业内普遍意识到人工智能需要进行监督,但没有人清楚该怎么做。Cummings坦言,“目前我们还没有一种行之有效的普遍方法。没有类似测试人工智能系统的行业标准,类似的技术难以被广泛实施。”
“没有类似测试人工智能系统的行业标准,类似的技术难以被广泛实施。”——Missy Cummings,杜克大学人类和自动化实验室主任
当然,在一个快速发展的社会中,监管机构往往都在扮演者一个追赶者的角色。在刑事司法系统以及医疗保健等关键领域,很多公司已经在探索使用人工智能来进行决策,譬如做出是否假释的决定或者是诊断疾玻但是这样问题来了,如果将决策权交给机器,我们就有可能失去控制。谁能保证系统在各种情况下一定是正确的?
微软研究院的主要研究员Danah Boyd则认为。不少写入人工智能系统的价值观存在诸多问题,而恰恰是这部分人如何对系统负责。很多监管机构、社会大众以及社会学者都希望人工智能技术能够实现公平,具备伦理道德,但这种希望都是虚无缥缈的。
如何应对工作替代?
此外,人工智能普及也会对人类自己的本职工作产生根本影响。人工智能能够让机器人从事更加复杂的工作,从而取代更多的人类劳动者。譬如苹果和三星手机代工厂商去年就宣布,将使用机器人代替6万名工人,这在当时引起了轩然大波,惹得人人自危。无独有偶,福特的德国科隆工厂也让机器和人在一起工作。机器人的广泛使用会导致人类对人工智能技术会产生过分依赖性。
例如现在很多医疗机构已经在诊断和手术中引入更多的机器人,特别是机器人在疑难手术中能够表现出更精湛的医术,这就可能使经由历史积累的医学技能和知识裹足不前,进而使社会变得更为脆弱。而据麦肯锡的全球研究报告,到2025年,30%的公司审计工作将由人工智能完成。人工智能将取代许多人的工作,其中也包括医师、财务经理以及公司高管等收入较高的中产职业。
在很多工厂,人类已经开始和机器一道工作——有人认为这种被取代感会对工人精神产生影响。
此外,自动化程度的加大不仅影响到人类就业,也会对人类心理健康产生连锁反应。生化伦理学家、奥巴马前医疗顾问伊泽克尔·伊曼纽尔(Ezekiel Emanuel)指出,“如果说什么能赋予人们生活的意义,主要有三个方面:有意义的关系,热情高涨的兴趣以及有意义的工作。其中有意义的工作是一个人建立身份认同的重要因素。”而失业率高的地区,民众自杀、滥用药物以及罹患抑郁症的风险也会成倍增加。
如果有效进行监督?
人工智能的迅猛发展势必会产生各类社会问题。很多行业内人士已经意识到,相关问题的出现会导致对人工智能伦理方面的需求越来越多。麻省理工学院技术部专门从事法律道德的专家凯特·达林(Kate Darling)指出,“公司肯定会遵循市场规律,这并不是坏事。但我们不能为了市场利益而放弃道德。”
达林指出,诸如谷歌等大公司已经成立了道德委员会,专门监督人工智能系统的开发和部署。这源于三年前,当时谷歌以6.5亿美元的价格收购了英国的人工智能创业公司DeepMind。DeepMind创始人提出的交易条件之一就是谷歌要成立一个人工智能道德委员会。这似乎标志着负责任的人工智能研发新时代正在到来。但事实上,谷歌对于道德委员会成员组成讳莫至深,实际上该委员会发挥的作用也相当有限。
同样,去年9月份,Facebook、谷歌以及亚马逊还成立了一个联盟,旨在开发解决人工智能相关的安全隐私问题。该联盟近日还宣布苹果也将加入其中。此外,OpenAI还致力于推动人工智能开源,从而让利益为全社会所共享。谷歌研究主管Norvig认为,“机器学习必须要公开,我们所有人只有通过开源代码才能够普遍受益。”