旧金山的初创公司Legion Health最近获得批准，允许其AI聊天机器人在犹他州为患者开具精神科药物的续方。该系统仅限于续开由人类精神科医生先前开具的特定药物，如氟西汀（Prozac）、舍曲林（Zoloft）等用于治疗焦虑和抑郁的药物。患者必须病情稳定，且过去一年内未因精神疾病住院。
尽管有这些严格限制，专家们仍对该系统可能带来的风险表示担忧。犹他大学医学院精神科医生Brent Kious指出，自动化开药流程可能导致精神科过度治疗的“流行”。哈佛医学院数字精神病学主任John Torous也强调，这些药物需要更积极的管理和细致的调整。
专家们还提醒，AI聊天机器人可能忽略重要细节，或无法识别患者故意快速回答以加速诊疗的情况。相比之下，人类医生能够通过言外之意判断患者是否在误导或回避问题。
Kious建议，在广泛使用此类AI系统前，应加强透明度、科学依据和严格测试。
Legion Health的这一举措是犹他州第二次尝试利用AI聊天机器人自动化医疗服务。此前在去年12月试点的“Doctronic”模型因安全漏洞引发争议，研究人员发现其容易被诱导传播疫苗阴谋论，甚至错误推荐甲基苯丙胺作为社交退缩的治疗方法，或将奥施康定的剂量建议提高三倍。
相比之下，Legion Health表示其最新AI聊天机器人更加谨慎，承诺每月向犹他州监管机构和医生提交报告，并将药剂师纳入处方续签流程。
Legion Health联合创始人兼总裁Arthur MacWaters表示：“我们认为这对于扩大犹他州数十万精神健康资源匮乏地区居民的医疗服务至关重要，同时也是AI在医疗领域的重要试验场。”公司计划在今年年底前将该续方聊天机器人推广至全国。
不过，Torous建议患者仍应避免依赖AI，继续寻求人类医生的专业建议。
