安全组织警告:人工智能位居医疗健康科技危害榜首
人工智能和网络安全分别排名第一和第三,这表明软件对医疗行业的风险正在不断增加。
人工智能和网络安全分别排名第一和第三,这表明软件对医疗行业的风险正在不断增加。
美国患者安全组织ECRI研究所于近日发布了《2025 年十大医疗健康技术风险》,指出来年最值得关注的潜在危险源,并提供了降低风险和预防伤害的实用建议。展望 2025 年,ECRI 的“十大医疗健康技术风险”报告讨论了几个新出现的主题,凸显了医疗技术不断发展的现状。
据介绍,该榜单是根据用户对医疗器械错误的报告、实验室测试和与供应商的对话编制而成的。今年的十大技术风险清单中,人工智能驱动的医疗健康技术风险位列榜首。此外,家用医疗设备缺乏技术支持、来自第三方供应商的网络安全威胁以及由未经授权的分销商提供的劣质或欺诈性医疗设备,也纷纷上榜。
2025年十大医疗健康技术风险
1.人工智能驱动的健康技术风险
2.家庭护理患者的技术支持需求未得到满足
3.脆弱的技术供应商和网络安全威胁
4.不合标准或欺诈性的医疗设备和用品
5.使用辅助氧气区域的火灾风险
6.麻醉设备上过低的默认报警限值带来的风险
7.药品订单临时搁置处理不当
8.输液管道管理不善造成的感染风险和绊倒危险
9.医用粘合剂产品造成的皮肤损伤
10.未对输液系统事故进行全面调查
人工智能和网络安全在前 10 名列表中分别排名第一和第三,这表明医疗行业的软件风险日益增加。
ECRI 提到,人工智能(AI)有可能提高医疗诊断、治疗和服务的效率和准确性,从而改善临床效果、降低成本。然而,这些好处并不能完全保证,而且还存在伤害的风险。ECRI 表示,医疗保健组织应密切关注算法的潜在偏差、幻觉和模型漂移。
报告称,过度信任人工智能模型,未能对其输出进行适当审查,可能会导致不恰当的患者护理决策。人工智能作为协助临床医生和医护人员的先进工具,具有巨大的潜在价值,但前提是人类决策仍是护理流程的核心。
ECRI 呼吁医院和医疗系统加强人工智能管理,但专家表示,通常只有大型学术医疗中心和其他资金雄厚的医疗机构才有能力持续监控人工智能的表现。由于缺乏人员和预算,小型和农村的医疗机构可能会被人工智能革命抛弃。ECRI 表示,医疗机构必须设定对人工智能的期望,明确目标,提供严格的治理,并充分准备好数据以供算法使用。
除了人工智能外,ECRI 还将网络安全威胁列为其有害健康技术清单的第三位。它指出,2024 年 2 月,联合健康集团(UnitedHealth Group)的子公司 Change Healthcare 遭到了网络攻击,该公司主要提供医疗报销处理服务。
ECRI 警告称,依赖第三方供应商提供收入周期管理或电子健康记录可能会给医疗机构带来风险。如果第三方供应商受到攻击或威胁,医疗机构可能面临暂时中断服务或泄露敏感健康数据的重大风险。ECRI 敦促医疗机构彻底审查第三方供应商并评估安全风险。
总体来看,今年的报告强调,医疗机构越来越有必要加强和改进其流程。通过采用创新解决方案,该行业可以更好地应对现代医疗的复杂性。
今年榜单上的许多主题都反映了医疗行业面临的持续压力所带来的新挑战。随着近期发生的全球事件和技术进步,这些挑战进一步加剧,需要各界立即关注并采取积极主动的战略来降低风险。在瞬息万变的环境中保持警惕和适应能力至关重要,通过解决关键问题,医疗行业可以为患者创造一个更安全的未来。
关注大健康Pai 官方微信:djkpai我们将定期推送医健科技产业最新资讯