自然发文警示医疗AI训练隐私泄露风险，MIA识别准确率近100%，弱势群体风险尤甚

6月24日，国际学术期刊《自然》发表一篇健康科学研究论文指出，若个人数据被用于训练医疗人工智能（AI）模型，数据贡献者可能面临在网络攻击中被识别的隐私泄露风险，且数据集中代表性不足群体的泄露风险更高。

论文显示，攻击者可利用成员推理攻击（MIA）技术，确定个人数据是否被用于AI模型训练，进而推断出患者的医疗数据及私人信息。此前针对数据隐私风险的研究多基于整体数据集展开，未关注个体层面的风险差异。

德国慕尼黑工业大学研究团队牵头开展专项隐私审计，重点聚焦个人隐私风险。研究人员依托7个涵盖医学影像、心电图、电子健康记录的真实临床大型数据集，完成对数据贡献者中脆弱群体的定位。研究结果显示，在个人层面，MIA针对目标的识别准确率几乎达到100%；在群体层面，罕见病患者、少数族裔、社会经济地位较低人群等代表性不足群体，成为隐私泄露风险最高的群体。

论文作者表示，当前的风险评估体系未将上述代表性不足群体纳入考量范围，因此呼吁相关方采取进一步风险缓解措施，并实施严格的访问控制机制，以降低医疗AI训练过程中的个人隐私泄露风险。

市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。