伦理的陷阱:人工智能与虚拟现实

翟振明将《阿凡达》中的“替身”翻译成“人替”,他认为在使用虚拟现实系统之前,我们主要是用键盘、鼠标、手柄之类的东西来操作。有了虚拟现实头盔等可穿戴设备,虚拟现实不久就可以整到这里来了,你的人替也不再是第三人称视角的对象,而是变成第一人称视角。所以,远在纽约的人替虽然没有自我意识,而是作为A的自身存在,A的所有感知和行动都体现在人替上。

这带来了直接性的伦理挑战。按照翟振明的分析,在“人联网”与“物联网”无缝衔接之后,假如A的人替在纽约犯罪,将会造成纷繁复杂的困境:例如A在现实中是男性,但虚拟世界中选择女性,在虚拟世界中性骚扰一位女性,可能造成法律不适用;又如人替与人的关系,人替是身体的一部分,还是属于财产,处罚时如何处理人替和人;超越国界的使用,也会挑战政治的边界,犯罪的A到底是在美国还是中国,这些都值得讨论。

在虚拟和现实之间的边界变得模糊不清之后,所制造的伦理困境还有非常多,这里只是列举了其中一小部分。但最为终极的伦理问题不是别的,而是翟振明所忧虑的:在人联网和物联网无缝融合成一个巨型系统之前,我们最迫切的任务就是要想办法保住每个人类个体的自主性,杜绝有人试图把大家用作操作物联网的工具,也就是防止控制了物联网的某个寡头或一小撮寡头联合体把所有的其他人当作实现其权力意志的永久性工具。在这个地方,我们的决策差之毫厘,就有可能导致人类未来走向失之千里。

的确,假使短期内技术取得很大进展的虚拟现实技术获得普及,带来的绝不是文章开头担心的某一行业、某些工种受到冲击的问题,而是整个社会权力的重新配置,那些占得先机又肆无忌惮的寡头,将获得控制的途径,并发生新的专制暴政的问题。学者、媒体和公民,以及充满忧患意识的科技人员,有义务在虚拟现实时代降临之前,秉持人文理性,倡导建立起新世界的规范与伦理。

感谢翟振明教授对本文核心逻辑形成的贡献,也对参与讨论的茱茱、S ophia、B arnett一并表示谢谢。

登陆|注册欢迎登陆本站,认识更多朋友,获得更多精彩内容推荐!