纽约市公立医院系统的首席执行官米切尔·卡茨（Mitchell Katz）近日在一次由《Crain’s New York Business》举办的座谈会上，表达了用视觉语言AI模型替代专业放射科医生的大胆设想。据《Radiology Business》报道，卡茨表示，如果能够克服监管挑战，目前就可以用AI替代大量放射科医生。
卡茨举了一个具体例子，特别涉及女性健康领域：通过AI自动化乳腺癌筛查，只有当AI系统标记异常时才由医生介入，这样医院可以实现“重大节省”。
然而，来自圣地亚哥北海岸影像中心的放射科医生穆罕默德·苏海尔（Mohammed Suhail）对此表示强烈反对，他认为卡茨的观点证明了缺乏专业知识的医院管理者对患者构成危险，并且容易被尚未具备提供患者护理能力的AI公司误导。
苏海尔指出，任何试图完全依赖AI进行诊断的做法都会立即导致患者伤害甚至死亡，只有对放射学一无所知的人才会如此天真地提出这种观点。但他也承认，医院为了降低成本，即使可能危害患者，只要合法也愿意这么做。
事实上，越来越多的研究表明，AI在X光诊断中的应用存在巨大风险。斯坦福大学的一项尚未经过同行评审的研究发现，基于前沿AI模型的胸部X光工具能够在没有实际看到X光图像的情况下，通过医学基准测试。最高评分的AI系统会通过构造复杂的解释来“推断”X光结果，实际上并未接触过图像。
研究人员称这种现象为AI“海市蜃楼”，区别于常见的生成式AI错误，这种“海市蜃楼”从头到尾看似合理，但完全没有基于真实图像，常规的防止AI幻觉的措施对此无效。
斯坦福科学家写道：“在这种认知模仿中，模型模拟了得出答案所需的整个感知过程，这解释了为什么仅凭推理过程无法验证视觉推理：推理过程可能流畅、连贯且看似基于图像，但实际上并未依托任何图像。”
这项研究不仅强化了视觉语言AI模型在功能上“盲目”的观点，也对任何依赖AI缩减放射科人员的医院以及接受医疗影像诊断的患者带来了重大警示。
