AI在医疗领域的应用：潜力与谨慎并重

拉斯维加斯——在伊利诺伊大学医院与健康科学系统测试一款基于人工智能的回复起草工具时，一名患者拼错了药物名称，该系统首席健康信息官卡尔·科琴多费尔在上周的HLTH会议小组讨论中回忆道。这一错误导致AI给出了患者未使用药物的副作用，因为护士未仔细核对回复。

最终，这并未造成大问题——只需致电患者或发送另一条消息进行更正，他说。但这可能对该工具产生严重影响。

“这几乎扼杀了试点项目……而且发生在第一天，”他说。

随着医疗行业努力解决如何安全实施AI的问题，投资者和医疗系统首先看到了采用自动化行政和后台办公工具的潜力，这些工具可能缓解医生倦怠，并对患者护理构成较小风险，专家们在HLTH会议上表示。

但采用技术的压力很大。支持者认为AI可能帮助解决医疗行业面临的重大人力挑战：根据咨询公司Mercer的报告，到2028年，随着整体人口老龄化并需要更多护理，美国将面临超过10万名关键医疗工作者短缺。

尽管AI可能具有变革性，但专家表示，该行业在实施新兴工具时必须谨慎行事。风险很高，因为政策制定者和专家对准确性、偏见和安全性提出了担忧。

在医疗领域实施AI是复杂的，行业应从之前部署的一些预测工具中吸取教训，健康信息应用Roon的联合创始人兼首席医疗官罗汉·拉马克里什纳在HLTH小组讨论中说。

“我认为我们学到的一件事是，在医疗环境中应用AI解决方案必须极其谨慎，”他说。

AI如何帮助解决“供需之间的简单不匹配”

AI可能帮助缓解医疗领域最大的问题之一：老年患者数量增加，病情更复杂、慢性病更多，而能提供帮助的医生却更少，凯撒医疗集团AI与新兴技术副总裁丹尼尔·杨在小组讨论中说。

随着美国老年人需要更多护理，千禧一代（美国最大的一代）希望获得更按需的消费体验，他补充道。但这在供应受限的情况下难以实现。培养一名新医生需要数年时间，而医生减少意味着更多倦怠、护理延误和更高成本。

“这甚至不是关于AI，而是关于我认为医疗行业普遍存在的问题，”杨说。“我们看到的是供需之间的简单不匹配。”

AI可以增强临床医生的工作流程，可能帮助他们提供更好的护理。杨说，永久医疗集团研究人员开发的算法通过标记有临床失代偿风险（即病情恶化）的患者，每年挽救约500条生命。

该技术也可能通过减少医生在笔记等行政工作上花费的时间，来减轻倦怠并提高留任率。提供者长期以来报告称，他们在电子病历上花费数小时，常常损害患者护理。

萨凡纳血管研究所的血管外科医生克里斯托弗·威克森表示，随着行业转向电子健康记录，他曾接近离开医学界。在倾听患者的同时收集信息是一个挑战，当必须专注于笔记本电脑屏幕时，很容易错过非语言线索。

但环境文档记录（通常由AI工具记录临床医生与患者之间的对话并起草笔记）改变了游戏规则，他说。

“这对我更好，因为它节省了时间，”威克森在小组讨论中说。“但归根结底，对患者更好，因为他们感到被倾听。这对我来说确实是一次变革性的体验。”

鉴于提供者沉重的行政工作量以及对涉及临床决策的模型错误或偏见的担忧，解决行政问题的产品是AI采用的首要优先事项之一。

一些投资者也更倾向于自动化这些运营任务。

“我们将继续专注于‘不性感’的后台自动化，以真正减轻劳动力负担，与临床相关的AI则暂不考虑，”.406 Ventures合伙人帕亚尔·阿格拉瓦尔·迪瓦卡兰说。

行政AI今年也吸引了更多风险投资资金，根据硅谷银行本月早些时候发布的报告。2024年至今，行政AI公司筹集了24亿美元，而临床AI为18亿美元，这可能是因为监管和机构障碍较低，尤其是决策支持工具。

“我们看到的所有行动都在行政任务上，也在预授权和低价值任务上，”硅谷银行生命科学与医疗银行信贷解决方案主管梅根·谢费尔在采访中说。“你可以将办公室员工转移到更高价值的项目上。”

现在有很多机会使用大型语言模型作为起草工具，包括笔记或护士交接文档，谷歌研究杰出科学家兼健康AI负责人格雷格·科拉多在小组讨论中说。

监督是内置的，因为提供者必须在最终确定前审查输出。通过询问用户体验或检查他们需要修改的次数来评估质量也更容易，他说。

但在评估运营或行政工具时，仍必须有条不紊，使用卫生系统的本地患者数据进行测试，克利夫兰诊所创投合伙人托德·施瓦辛格在采访中说。克利夫兰诊所的治理结构也关注工具中使用的数据、信息保护方式以及产品是否安全并对患者护理产生积极影响等问题。

行政或运营产品，如环境抄写员或收入周期管理工具，是更安全的起点。

“你不会冒做出临床决策的风险，对吧？”他说。“那种信任水平还不存在。我认为这需要时间。”

尽管AI在缓解医生倦怠方面可能显示出前景，但卫生系统在让医生参与、建立试点、制定治理政策和推广产品方面面临挑战。

在HLTH分享的一个例子中，圣路易斯提供商BJC决定使用供应商数据来识别那些在文档签署上花费多天或写长笔记的医生，用于环境笔记试点，BJC医疗集团门诊副首席临床信息官兼首席医疗信息官米歇尔·托马斯说。

“我想20人中只有1人回应。所以我们立刻想到，最需要它的人对此不感兴趣，”她在小组讨论中说。

他们决定改变方向，邀请任何感兴趣的人加入试点——这迅速得到了回应，托马斯说。

尽管如此，考虑哪些提供者应参与测试很重要，因为一些医生不理解参与试点的要求，例如需要花时间发送反馈或应对新产品的挫败感。

卫生系统还应考虑采用AI工具时想要什么结果。许多医生没有看到太多时间节省，因为他们花了很多时间编辑笔记——不是纠正错误——而是使笔记符合自己的写作风格，托马斯说。相比之下，高级实践提供者在审查后更快地签署环境笔记。

“你真的必须决定你的投资回报率是什么。你是在寻找财务节省？时间节省？寻找证明这项技术合理的硬数字？还是更软性的？你是在寻找患者满意度？”她说。

网络安全——已经是医疗行业普遍面临的挑战——也是AI部署的关键。

组织应考虑与任何使用受保护健康信息的系统相同的问题，HHS民权办公室主任梅兰妮·丰特斯·雷纳在采访中说。

如果他们与开发者建立关系，是否有业务伙伴协议？是否考虑云中存储数据的删除政策？是否考虑谁需要访问数据？

“我认为这里肯定需要平衡，但这要求我们所有人都负责任，思考我们如何使用这些信息，以及它可能如何损害我们的系统、患者，以及我们如何采取主动措施保护它，”她说。