英国南约克郡一些诊所采用的AI“接待员”Emma因难以理解当地居民浓重的约克郡口音,导致部分患者放弃通过电话预约医生。健康与社会监管机构Healthwatch Rotherham指出,Emma在处理带有明显地方口音的患者咨询时表现不佳,造成了患者的极大挫败感。

Healthwatch Rotherham的经理Kym Gleeson向BBC表示:“南约克郡的口音差异很大,Emma系统并不能总是准确理解,这让患者感到非常沮丧。”一位患者向Healthwatch投诉称:“我根本无法让它理解我,最终只能挂断电话,不再尝试预约。”

随着AI技术在医疗领域的广泛应用,许多诊所和医院开始使用AI接听电话和安排预约,甚至有的医院利用AI进行患者分诊。医生和护士也常用AI工具记录病历和查询症状。然而,现实应用中AI系统偶尔会出现误判,例如某医院的AI转录工具曾错误生成患者信息并提及不存在的药物。

诊所方面认为,使用QuantumLoopAI开发的Emma能同时接听更多电话,减少患者等待时间。但并非所有患者都认可这种取舍。Gleeson告诉《卫报》:“一些患者因无法顺利使用AI系统,只能亲自前往诊所,电话预约已不再是他们的舒适选择。”

对此,QuantumLoopAI回应称Emma支持17种语言,并经过训练以理解多种口音和方言。公司发言人表示:“当Emma无法理解或处理患者请求时,电话会转接给人工接待团队。任何来电者都可以随时要求与工作人员通话,无需继续与Emma交流。”

这起事件反映了AI在医疗服务中应用时的挑战,尤其是在处理多样化语言和口音方面仍需改进。