DeepMind获取数据违规 人工智能难进医疗体系

钱童心

[去年4月,《新科学家》科技杂志曝光了DeepMind通过非法交易获得160万NHS患者病历。]

在AlphaGo打败了全球所有的围棋冠军后,DeepMind准备进军更具现实意义的科学领域,解决人们的实际问题。

在DeepMind的英国大本营,一场关于患者医疗数据的争议正愈演愈烈。

经过数月的合法性调查,英国信息专员办公室(ICO)裁定谷歌旗下的人工智能部门DeepMind与英国国家医疗服务体系NHS皇家自由信托(NHSRoyalFreeTrust)之间的数据传输不符合数据保护法案(DataProtectionAct)的规定。这也令英国政府医疗体系首次利用人工智能等先进技术来治疗患者的尝试受到打击。

160万患者病历系非法获得

去年4月,《新科学家》科技杂志曝光了DeepMind通过非法交易获得160万NHS患者病历。通过这些患者数据,DeepMind开发了一款名为Streams的移动应用。Streams项目的目的是改善急性肾衰竭的检测和护理。如果该病人有急性肾损伤(AKI)的风险,Streams会以最快的速度提醒医疗团队,为医生发送最全面、最及时的临床信息。医生能根据这些最新信息,在患者病情恶化之前提供精准治疗。Streams也是谷歌DeepMind首次和NHS合作推出的应用,未来还将用于重大疾病预警。

Steams的一大好处是实现医院的无纸化操作,减轻他们的工作压力。现在Streams正由皇家自由信托免费使用,它将患者信息整合在一起,并在发现问题时自动发出警报。

现在的问题在于,当患者的数据被共享给DeepMind时,就默认患者已经同意其病历出于“直接护理”的目的被共享。不过健康护理领域的“英国监护卫士”(NationalDataGuardian)菲奥娜·卡尔迪克特爵士(DameFionaCaldicott)认为这种说法并不具有合法的依据。“患者并没有预料到他们的病历会出于这个目的而被共享。”卡尔迪克特在一封邮件中写道,这封邮件随后被SkyNews公开。

英国去年公布了一份针对2000位病人做的调研,发现他们大多对自己的数据被共享不知情,有17%的病人表示,他们永远不会同意公开自己的数据,即使是以匿名的方式用于研究领域。

英国数据保护官、信息专员伊丽莎白·德纳姆(ElizabethDenham)在周一公布的一份声明中称:“通过调查我们发现在这项合作中,患者的数据记录分享存在多方面明显的缺陷。患者甚至不知道他们的数据会以这种方式被使用。因此,皇家自由信托必须要对患者更加透明。”

针对这份声明,DeepMind的首席临床医生多米尼克·金(DominicKing)回应道:“我们完全理解NHS的复杂性和用户数据的使用法规,同时也理解用户对于科技公司掌握其数据的担忧。但我们的重心是为医护人员开发新的工具,而不是去考虑患者和公众的需求如何影响我们的计划。”

金还表示,在任何情况下,任何患者的数据都不能与谷歌的其他产品或服务共享,或被用于商业目的。“我们承认,有一件事我们可以做得更好,那就是保证公众真正了解他们的数据是被如何使用的。”他说道。

去年Google方面就表示,将会引入最高级别的数据安全和审核系统,只要有数据访问都会被记录,并接受包括NHS以及DeepMindHealth在内的9个独立审核机构的审查。GoogleDeepmind的软件和数据中心也将由独立审核机构的专家进行技术审核。

创新与数据安全并行

这并不意味着Steams项目必须关闭。德纳姆强调,只要皇家自由信托做出改变,解决目前的缺陷,他们的合作还是会受到欢迎。“数据保护法案并不是创新的障碍,但是当涉及公民信息时,我们有义务保障它们的安全性。”德纳姆说道。

这项调查决定公布前不久,NHS刚受到网络病毒Wannacry的严重感染,旗下48个医疗机构在此次网络攻击中受影响,感染面积达五分之一。网络安全更加引起有关方面的重视。

华大基因首席科学官茅矛对第一财经记者表示:“在处理用户数据时,要格外小心谨慎,注重细节,并依照法律规定来实施。”他还表示,目前全球对数据保护的法律框架已经趋于完善。