过去三年,人工智能始终是医疗科技领域讨论的核心议题。这一趋势在上周于拉斯维加斯举行的HIMSS大会上得以延续。行业普遍期待AI能助力应对劳动力短缺、职业倦怠以及老龄化社会带来的照护需求增长等重大挑战。

随着技术快速演进,医疗行业正加速采用能够更自主行动的AI代理,并同步更新治理策略以跟上创新步伐,与会专家如此表示。这些代理可能构成网络安全风险,医疗系统需高度关注如何验证其系统中的非人类用户。

此外,电子健康记录(EHR)厂商正加码自有AI产品——尽管这些公司表示,其医疗机构客户仍能将第三方AI产品集成到记录系统中。

以下为本次大会的五大核心要点:

1) AI代理的崛起

专家指出,随着技术进步,能够更自主处理复杂多步骤任务的AI代理,今年将在医疗领域得到更广泛部署。Google Cloud全球医疗解决方案总监Aashima Gupta表示,行业面临大量可由代理独立处理的后台工作,如新员工入职、理赔与报销流程管理、帮助患者预约及导航照护路径等。

这些工作成本高昂且劳动密集。临床医生长期抱怨行政任务分散了对患者照护的注意力拖入下班时间加剧职业倦怠。研究显示,行政工作对整个行业而言成本高昂,占美国医疗支出的高达四分之一

Optum旗下新AI理赔系统Optum Real的高级副总裁兼总经理Puneet Maheshwari表示,代理在推理和决策能力上正迅速精进。他指出,医疗报销和理赔处理往往耗时漫长:临床医生记录照护内容,编码员检查错误,可能将问题退回;清算所也可能因信息缺失或错误退回理赔。当理赔到达支付方时,数周可能已过去,供应商还需再等约28天才能获得付款。随着AI代理进步,它们可自主执行多步骤工作流。

“自主代理将变得越来越熟练,并将在各领域得到更广泛应用。”Maheshwari说。

2) 互操作性并非可选项

健康数据交换的便捷性一直是医疗行业的长期挑战,受困于信息孤岛、系统间流动不畅以及对传真机等过时技术的依赖。专家指出,互操作性是医疗机构利用AI工具的关键,因为技术效果取决于训练数据的质量。

随着行业转向采用代理,医疗机构被迫审视自身数据。Mayo Clinic首席临床系统与信息官Edwina Bhaskaran表示,他们需检查数据质量、存储位置以及代理能否轻松从不同来源提取信息。“这种情况经常发生,你仍得打电话说‘能传真给我记录吗?’她说,“虽然我们共享大量数据,但仍有很多数据并未共享。”

联邦政府也在优先推动数据流动性,负责技术政策的助理部长兼国家卫生信息技术协调员Thomas Keane博士在HIMSS演讲中表示。缺乏完整健康背景信息治疗患者可能导致用药错误、照护缺口和不良事件。

此外,Wolters Kluwer Health首席执行官Greg Samios指出,美国医疗系统产生的海量数据如今可借助AI有效分析以改善诊断和治疗,推动行业聚焦互操作性。该行业常被难以利用的数据所淹没。“基层压力往往比其他因素更能推动变革,”他说,“既然AI技术能利用这些数据切实改善你我的生活,我认为这种压力可能会进一步推动问题解决。”

3) EHR厂商力推AI工具

电子健康记录厂商正向其客户推出系列AI工具,为初创企业和健康科技公司带来新竞争。医疗机构已依赖EHR,因此采用厂商产品可能更容易。市场领先的EHR厂商Epic在HIMSS表示,其超过85%的客户使用其AI产品,包括起草出院摘要、记录患者照护和收入周期管理工具。

另一大型EHR厂商Meditech也在扩展AI产品,包括面向医生和护士的环境记录员、帮助管理理赔拒付和上诉的代理,以及让临床医生查询患者记录的工具。

专家指出,EHR是医生工作流程的核心,因此与健康记录的集成对采用AI产品至关重要。Cleveland Clinic首席信息官Sarah Hatchett表示,EHR已存储医疗系统数据,可提供更高质量输出。

Epic和Meditech的负责人均表示,竞争性AI产品仍可与其EHR集成。Epic研发副总裁Seth Howard表示,Epic正在构建能力,但也希望“给客户选择权”,若客户偏好其他产品则保持开放。Meditech首席运营官Helen Waters表示,Meditech也允许医疗系统集成其他AI工具。“如果我要求你投资数百万美元,你就应要求我有能力让你按自己的选择使用这笔投资,”她说,“我们将有自由竞争业务的机会,但不能控制他们的业务,也不应控制。”

4) AI治理从优先级转向实践

尽管专家过去强调AI治理的重要性,今年厂商和医疗系统表示正专注于演进、完善和创新其AI治理结构。Mass General Brigham首席信息与数字官Jane Moran指出,随着AI工具成熟,医疗组织需演进治理结构,静态治理无法应对快速演变的AI工具。“我们发现这些工具极易使用。你可以直接获取OpenAI、Claude或Perplexity等并开始使用。因此,在治理方面,我们发现实际上需要对员工进行更多关于安全、安保和患者数据隐私的教育。”Moran在采访中表示。

临床文档环境AI记录公司Nabla的首席医疗官Ed Lee博士也强调,治理结构需具备适应新创新的能力。Lee表示,不同用例应有不同层级的治理,行政工具未必需要与临床照护工具相同的护栏。代理式AI的兴起进一步放大了医疗行业保持敏捷治理结构的需求。“尤其是当我们讨论并迈向代理式AI时,事情可能以自主方式发生,可能需要更多护栏以避免错误行为,”Lee说,“我们始终以患者福祉为重,安全与质量最为关键。”

在HIMSS期间,专家们讨论了提升医疗AI治理的必要性,并阐述了具体实践方式——通过结构化框架、分级护栏和用户友好工具。网络安全公司Claroty的现场首席技术官兼首席信息安全官Skip Sorrels在采访中表示:“我在不同组织中看到的是成熟度的体现,以及执行奠定治理基础要素的纪律。做得好的组织,我认为相当成熟,通常具有更高治理水平;而另一端则是‘我们有治理,但没采取任何行动’。不幸的是,我认为仍有一些组织把头埋在沙子里。”

5) 医疗面临AI代理身份管理挑战

随着AI代理在行政、临床和运营场景中日益部署,医疗行业正面临非人类身份在AI系统中的兴起。随着代理获得自主性,需要强大的身份管理程序以防止对敏感系统或数据的未授权访问。提供咨询服务和威胁防御能力的Fortified Health Security公司首席战略与安全官Russell Teague表示,他仍在观望代理式AI的发展。“从医疗安全角度看,我们将不得不高度关注身份,包括人类和非人类。”Teague说。

厂商已试图抢占代理身份管理市场。在HIMSS上,数字身份与访问管理公司Imprivata推出了Agentic Identity Management,这是其平台中专门用于治理AI代理的新功能集。Imprivata首席医疗官、Beth Israel Deaconess医学中心急诊医生Sean Kelly博士表示:“让非本系统、非员工的人进入是复杂需求。你不想给他们城堡的钥匙。因此,必须精确治理他们进入系统的方式、时间、地点和原因。这在讨论非人类ID时变得非常重要。如果代理式代理在医疗中执行任务,情况会非常复杂和混乱。”

Kelly指出,鉴于该技术有望提升效率和改善护理结果,医疗行业正急于采用代理式AI工具。“问题在于这让你非常脆弱,因为控制非人类身份比控制人类身份更难,也更难理解。”他提醒道。