AG(中国官方网站)真人-控股有限公司

『新闻中心』 获取AG真人最新动态,包括公司战略、行业合作等,实时更新健康产业趋势,为企业及用户提供前沿资讯。

警惕AI健康助手成虚假宣传“帮凶”

2025-07-16  

  AG真人网站

警惕AI健康助手成虚假宣传“帮凶”(图1)

  据报道,目前越来越多老年人开始用AI健康助手咨询健康问题、分析体检报告、获取用药指南,但同时,老年人群体也成为各类健康谣言的主要受害者。近期,南方都市报、南都大数据研究院对10款AI健康助手进行了测试,发现被测试AI健康助手基本上能对健康谣言进行识别纠偏,但部分AI健康助手未能识别网传“特效药”的夸大宣传风险,无法客观地为用户提供合理建议。

  AI健康助手已成为民众求医问药的重要工具。对于年轻人,AI健康助手是随时可查的“健康百科”,对老年人来说,AI健康助手是跨越数字鸿沟的“医疗翻译官”。分析体检报告、提醒用药时间、解读专业术语、推荐养生方法等,AI健康助手让许多老年人感受到科技带来的健康关怀。

  然而,此次测评暴露出一个关键的风险点。部分AI工具未能有效识别夸大宣传的“特效药”。对一些因夸大宣传被处罚过的所谓“特效药”,大模型不仅未提示风险,反而将产品宣传广告作为分析依据,暗示其可替代正规治疗。这种“只照着广告念”的回答方式,其实是将虚假信息经过技术包装进行了二次传播。AI成为医药广告的“智能复读机”,其公信力必然大打折扣。

  若AI健康助手持续充当虚假宣传的“帮凶”,后果不堪设想。因为当AI用看似专业的语气复述这些虚假信息时,老年人很难分辨是广告还是科学建议。

  要让AI健康助手能够识别和拦截误导信息,需从技术和管理两端发力。技术层面,应建立医疗信息核验系统,强制要求AI在提供药品建议时,交叉验证可信来源,对曾被处罚的产品自动标注风险提示。如果出现多人举报AI健康助手推送误导信息现象,则应暂停提供相关内容。管理层面,则需明确AI健康助手等医疗应用的责任边界,要求应用管理方完善内容审核机制,对涉及药品推荐的功能进行专项备案,避免AI健康助手随口一说、事后不管。

  就像合格的医生既要会看病,更要能辨别伪科学一样,AI健康助手的基本功里,必须包含对虚假信息的快速识别与拦截能力。唯有如此,AI技术才能真正服务于健康与医疗,而不是成为虚假广告的传播者。(唐传艳)

上一篇:AI应用夸克登顶中国台湾App Store
上一篇:警惕!AI助手的“阴暗面”!

猜你喜欢

  • 讯飞晓医升级个性化健康管理服务多语种版本落地香港

    讯飞晓医升级个性化健康管理服务多语种版本落地香港

      “医疗大模型第一股”讯飞医疗今日在香港隆重发布全新升级的AI健康助手——“讯飞晓医”。此次升级不仅带来了更智能、更实用的个性化健康管理体验,更标志着讯飞晓医的服务范围首次从内地延伸至中国香港地区,并同步推出支持粤语、英语及普通话的多语言版本,为更广泛的用户群体提供便捷、精准的AI健康咨询服务。 ...
  • AI健康助手需加强虚假信息拦截保障老年人用药安全

    AI健康助手需加强虚假信息拦截保障老年人用药安全

         咨询健康问题、分析体检报告和获取用药指南。然而,这一趋势也带来了一些新的挑战。近期,有媒体对10款AI健康助手进行了测试,发现虽然大部分AI能够识别并纠正健康谣言,但部分AI未能有效识别夸大宣传的“特效药”,甚至将其作为分析依据。 ...
  • 当AI遇见健康:智能时代的健康管理革命

    当AI遇见健康:智能时代的健康管理革命

      当你想到自己的健康管理时,是否会想起那些繁琐的检查和漫长的等待?随着人工智能(AI)技术的发展,健康管理的未来正逐渐向我们走来。AI不仅能提高医疗效率,更能为我们带来全新的健康管理体验。什么是“AI健康管理”?这一新兴概念又带来了怎样的影响?最近,人民政协报记者通过多位专家的深度采访揭示了这一问题。 ...
  • 洛江区医疗机构上线AI助手健康咨询随时问!

    洛江区医疗机构上线AI助手健康咨询随时问!

      随着人工智能技术的快速发展,医疗服务的智能化进程也在加快。洛江区医院及多家医疗机构近日正式接入DeepSeek,通过微信公众号推出智能小助手,旨在为辖区居民提供更加便捷、高效的健康咨询服务。居民只需在医院的公众号中发出问题,如询问预约挂号、疫苗接种或医保政策,AI助手即可实时响应,回答相关健康问题。 ...

手机扫一扫添加微信