近年来，越来越多的医生在诊疗过程中使用人工智能（AI）助理系统，这些系统通过监听医生与患者的对话，将内容转录并整理成医疗记录。理论上，这种技术能够提高医疗记录的效率和准确性，但实际应用中却暴露出不少问题。
安大略省审计长最近发布了一份特别报告，指出AI医疗助理系统在评估过程中存在严重不足，甚至可能向医生提供“虚构信息”。该报告调查了20款政府批准的AI助理平台，发现所有系统在采购测试阶段均出现了不同程度的错误，包括“幻觉”（即虚构信息）、错误信息以及信息缺失或不完整。
报告警告称，AI生成的医疗记录中的不准确内容可能导致不恰当甚至有害的治疗方案，进而影响患者的健康结果。对此，安大略省公共及商业服务交付与采购部长斯蒂芬·克劳福德表示，这些“幻觉”问题是在监管机构测试阶段发现的，目前尚未在实际医生诊疗中使用。
然而，审计长谢莉·斯彭斯指出，尽管存在问题，这些AI助理系统仍被约5000名医生在安大略省内使用。她甚至要求自己的医生在诊疗结束后检查AI生成的记录，以确保准确性。
与此同时，美国的另一款AI医疗助理系统OpenEvidence也因出现幻觉和回答不完整而受到关注。多位医生向媒体透露，OpenEvidence有时会基于样本量较小的医学研究得出过于武断的结论。尽管许多医生对这类新工具表示认可，但其在实际医疗环境中的表现以及未来在医学界的评价仍有待观察。
