这份报告超前沿:医疗AI是不是“电子人”,医疗数据如何“脱敏”

21世纪经济报道 21财经APP 王峰 北京
2019-11-01 17:47

AI正在进军医疗领域,推动智慧医疗发展。但与此同时,医疗AI的监管及法律问题也相伴出现。

10月31日,腾讯集团法务部发布了《医疗人工智能产业监管及法律研究》(以下简称《报告》),这是国内首份医疗AI领域的法律与监管主题研究报告。

医疗AI的产品类别日趋多样,应用场景也更加丰富。从最初的医疗数据存储、医疗数据分析,已发展到给出辅助诊断意见或实施医疗诊断行为。

《报告》指出,医疗AI面临的法律及监管问题包括:医疗人工智能产品在进入市场时是否需要作为医疗器械进行注册,在医疗人工智能产品的研发及运行过程中如何对健康医疗数据、个人信息进行合法使用,如何确认医疗人工智能产品在使用过程中的产品责任和医疗损害责任,如何对医疗人工智能产品的知识产权进行保护,如何面对和规避医疗人工智能产品所带来的医学伦理问题等。

医疗大数据如何保护隐私

医疗AI无论是在研发阶段还是应用阶段,不可避免地会收集、使用到个人的健康信息,比如某些健康管理型的AI产品会采集和利用用户健康信息、某些癌症的CT影像或MRI照片会被用于医疗AI模型训练。

如何在保证个人信息和隐私安全的前提下做到数据的开放共享,探索大数据挖掘的合理边界,成为医疗AI发展面临的关键问题。

“当前法律规定,收集和使用个人信息要满足公开透明、最小够用原则,但医疗AI使用信息的复杂性和黑箱测试的不可知性使得上述原则很难被满足。而且,医疗AI的开发者从第三方获取数据时面临的审查义务边界,法律也没有明确规定”,面对这些困境,《报告》指出,目前国际上通用的合规做法是“去标识化”。

“去标识化”是指通过对个人信息的技术处理,使其在不借助额外信息的情况下,无法识别到个人信息主体的过程,经过“去标识化”处理的个人信息即成为“去标识化信息”。使用“去标识化信息”有助于降低数据安全风险,更有利于保障个人的信息安全。

但《报告》显示,我国对健康医疗数据去标识化的标准在具体执行上还尚未统一,开发者很难判断信息被处理到什么程度才属于去标识化信息。

有专家表示,希望相关部门尽快出台医疗健康信息去标识化的标准,并可适当放宽使用去标识化信息的限制要求,以促进医疗AI技术的合规发展。

医疗大数据跨境传输必须合规

在跨境传输方面,国际间的交流合作是医疗AI技术进步不可或缺的要素。但《报告》指出,从国家利益角度看,健康医疗大数据已然成为了重要的国家资产,因此各国几乎都采取了较为谨慎的出境管制态度。

我国于2014年5月5日发布施行的《人口健康信息管理办法(试行)》规定人口健康信息仅能 在境内存储,不能以任何形式储存于境外。

国家卫健委通过《国家健康医疗大数据标准、安全和服务管理办法(试行)》第三十条进一步规定:“健康医疗大数据应当存储在境内安全可信的服务器上,因业务需要确需向境外提供的,应当按照相关法律法规及有关要求进行安全评估审核。”

《报告》认为,如何能够在保障公民和国家利益的同时,持续推动健康医疗大数据的流动和相关科技产业的健康发展,是今后值得继续深入探索的现实命题。

医疗AI的伦理问题

未来的医疗AI产品可能具备人类的情感、性格、习惯,不同程度地参与到医疗健康相关的活动中,甚至可以代替医生独立从事诊疗行为。这时,是否应当保护以及如何保护医疗AI的伦理地位和法律权利,将是未来需要考虑的问题。

欧盟对人工智能机器人权利的讨论处于世界前沿,并已经在考虑要不要赋予智能机器人“电子人”的法律人格,具有权利能力并对其行为负责。

2017年初的一份欧洲议会报告认为: “从长计议,为机器人创造一个独立的法律地位,至少让最精密复杂的自动机器人具有电子人的身份,使他们为可能造成的损害负责,并可能将电子人身份应用于机器人做出自主决定或以其他方式独立地与第三方互动的情境。”

然而,授予人工智能法人资格的话题引起了巨大争议。报告发布后不久,包括计算机科学家、法学教授和公司首席执行官在内的、来自14个欧洲国家的156名人工智能专家联名签署了公开信,警告说从“法律和伦理角度”来看,授予机器人法人资格是“不恰当的”。

虽然因受限于技术的发展,针对上述伦理困境在现阶段尚难以给出明确答案。但《报告》认为,随着科技的不断进步,应当对该类问题保持关注,逐步探索并建立医疗专业人士利用AI作出诊断决策的伦理规范和行为准则,以适应AI在医疗领域更加广泛和深入的应用。

医疗数据是垄断还是共享

数据是人工智能发展的基石,对于数据的控制及垄断可能会直接影响医疗AI产业的发展。

《报告》认为,从数据占有的角度来说,数据的独占本身并不违反《反垄断法》。只有因独占数据在某一相关商品市场形成市场支配地位,并且企业滥用这种市场支配地位,或因独占数据造成严重排除、限制竞争的效果才会违反《反垄断法》。

目前仍未看到各国直接针对医疗AI相关的数据垄断问题进行专门立法,但一些国家出台政策鼓励数据的开放共享。

我国目前在政务数据开放和公共企事业单位数据的开放方面已做出了规划;欧盟委员会已将建立出于研究目的的健康数据的安全访问和跨境交换的技术规范提上了日程;美国通过《21世纪治愈法案》确立了打击数据阻隔、鼓励数据共享的总体方向。

《报告》建议,立法者可以专注各国在医疗数据共享方面的进展,逐步建立医疗数据共享的统一标准,在解决医疗数据来源合法性的问题的基础上,进一步推进医疗数据的公平共享,保证医疗AI开发者安全合法的使用数据,以促进医疗AI开发者的公平竞争。 

(编辑:耿雁冰)