受节省时间、增加与患者面对面交流等承诺的吸引，越来越多的医生开始使用人工智能辅助的医疗记录员进行临床文档记录。

但专家指出，这背后隐藏着代价：医疗事故风险。

随着AI记录员从有限试点走向诊室的常规使用，该技术可能产生难以察觉的文档错误，进而导致医疗差错和医疗事故诉讼——尤其是在医院扩大使用规模的情况下，专家如是说。无论临床医生是否使用AI生成记录，他们最终都要为这些错误承担责任。

尽管目前尚无公开的与AI记录员相关的医疗事故案例，但这“并不意味着为零”，比尔·萨特怀特（Bill Satterwhite）表示。他是一名执业医师兼执业律师，现任Huron咨询集团医疗绩效改进与医生企业业务负责人。这是因为诉讼往往需要较长时间才能走完法律程序，尤其是涉及医疗事故这类敏感个人信息案件。

风险正在上升：根据美国医学会（American Medical Association）的一项调查，超过四分之一的医生使用AI来记录账单代码、医疗图表或就诊笔记，并生成图表摘要。另有七成受访者认为，AI在自动化临床和行政任务方面存在机会，有助于缓解职业倦怠。

“我们在提供者的工作与生活平衡方面看到了许多益处，”朱莉·马西（Julie Massey）表示。她是医疗咨询公司Chartis的数字与技术转型高级合伙人，兼临床技术创新实践联合负责人。

尽管如此，研究表明，AI记录员生成的临床文档质量明显低于人工，若患者因此接受不当护理，可能增加医疗事故风险。

例如，如果AI记录员遗漏了患者正在服用的药物信息，可能导致不良药物相互作用。

今年发表在《内科学年鉴》（Annals of Internal Medicine）上的一项研究中，人工评分员对11款商用AI记录工具生成的基础护理笔记进行评分，结果显著低于18名人类临床医生撰写的笔记。AI生成的笔记在评分员评估的全部10个质量维度上得分均较低，其中在全面性、组织性和实用性方面，人机差距最大。

“尽管环境AI记录员有望减轻临床医生负担，但在大规模临床部署前，独立、供应商中立的笔记质量评估至关重要，”该研究称。

潜在错误提升医疗事故风险

AI模型在很大程度上并非可靠的记录员，因为它们通过预测运作——基于先前上下文选择统计上最可能的下一个词或字符来生成输出。

由于基于概率，输出不稳定。如果医生对同一次临床就诊使用相同的AI记录员，每次都会生成不同的笔记。

这使得审计远比传统软件困难，后者以可预测而非不可预测的方式失败，萨特怀特说。

专家指出，AI记录员尤其容易出现多种错误，从而增加医疗事故风险。

这些错误包括：遗漏就诊期间讨论的临床信息、错误转录医学术语、为填充电子健康记录（EHR）模板而捏造患者信息，或填补信息空白——通常称为“幻觉”。

它们还可能遗漏非语言观察（如面部表情或语气）、误解模糊陈述、丢失临床决策背后的背景，或引入种族偏见。

更糟糕的是，AI记录员在发生此类错误时不会通知临床医生。

例如，如果患者说了些不清楚的话，AI记录员会默默解决歧义，而不是告知医生。相比之下，人类会更“愿意提出问题”，詹妮弗·吉特（Jennifer Geetter）表示，她是McDermott, Will & Schulte律师事务所的合伙人。

准确性也可能随时间推移而下降。

“就像一把变钝的刀，”吉特说。

尽管提供者应审查、批准并签署AI辅助文档，但随着对记录员的依赖增加，他们可能会减少审查笔记的时间和精力，得克萨斯医疗责任信托（Texas Medical Liability Trust）——一家医疗事故保险公司——指出。提供者可能不加批判地盖章通过笔记，假设所有重要信息都已捕获，或避免对记录内容进行批判性思考。

事实上，根据美国医学会的调查，近九成医生担心使用AI会导致技能退化，尤其是在职业生涯早期的医生中。

提供者如何限制自身责任

幸运的是，医院和医疗系统可以采取措施，限制与AI记录员相关的责任风险。

专家建议，在系统范围内部署前，先进行试点以确保没有重大问题。

其他预防措施包括：

  • 集中审批产品，而非由个别临床医生自行选择。
  • 将AI记录员的使用纳入知情同意书和流程中。
  • 建立严格的审查协议，将AI记录员生成的笔记视为草稿，临床医生在签署前必须核实。
  • 设定文档记录时间表，确保在就诊记忆犹新时审查笔记。
  • 对员工进行AI使用和文档记录培训，并在系统更新时进行复习。
  • 利用EHR系统内置的安全措施，如提示确认药物、剂量和过敏信息。
  • 持续审计笔记，包括试点结束后，以捕捉准确性漂移。

然而，最终最简单的预防措施是提醒提供者：即使技术能简化流程，他们仍需对患者护理负责。

“你需要将AI记录视为副驾驶，而不是飞行员，也不是自动驾驶，”萨特怀特说。