近日，有媒体报道，国内多家大医院在上海共同发起成立医疗人工智能联盟，致力于构建开放、协同、安全的医疗人工智能（AI）生态。医疗是关乎生命的特殊领域，人们憧憬“AI医生”带来精准与高效，其健康发展不仅在于算法有多先进，还取决于安全的缰绳绑得有多牢固。
今年8月，国务院发布《关于深入实施“人工智能+”行动的意见》，提出探索推广人人可享的高水平居民健康助手，有序推动人工智能在辅助诊疗、健康管理、医保服务等场景的应用，大幅提高基层医疗健康服务能力和效率。当前，与病理诊断、罕见病诊疗、医学影像、健康管理等相关的医疗AI产品不断涌现，让医生诊疗效率提升，让患者就医更加便捷，主动拥抱AI已成为医疗行业发展的亮丽风景。
与此同时，AI技术也暴露出不容忽视的安全隐患。有媒体报道，近期，一名国外男子在饮食上听从AI建议用溴化钠代替食盐，导致溴中毒。这种AI“一本正经胡说八道”的现象被称为AI幻觉。在医疗领域，类似AI幻觉的现象可能直接威胁患者健康，值得警惕。同时，患者隐私泄露、健康数据被篡改或污染、因训练数据不足导致使用效果差、人机协同机制不合理等情况，都是人们对AI安全产生担忧的重点领域。
平衡创新与安全，需要构建涵盖数据、模型、应用与治理的立体化安全防护体系，其意义比某一项算法的突破更重要。这就如同培养一名医学生，既要为其提供权威、准确的教材，又要防范错误信息的干扰。同时，还需要建立完善的质量控制体系，确保AI学习过程的可靠性。
《关于深入实施“人工智能+”行动的意见》明确要求，提升安全能力水平，推动模型算法、数据资源、基础设施、应用系统等安全能力建设，防范模型的黑箱、幻觉、算法歧视等带来的风险。今年4月，中央网信办开展“清朗·整治AI技术滥用”专项行动，将训练语料管理不严、未落实内容标识要求、利用AI制作发布谣言等列为整治重点。这些工作均展现了党和国家对医疗AI产品安全问题的高度重视。
医疗AI产品需要一个健康的发展生态，这既包括稳固的安全防线，也包括开放持续的技术创新，和清晰的以临床价值为核心、促进公平可及、赋能疾病诊疗的价值导向，让医疗AI产品真正发挥其造福广大患者、推动医疗事业向前发展的作用，加快形成人机协同、跨界融合、共创分享的智能经济和智能社会新形态。
