
美国Anthropic公司于7日宣布,对其顶级AI模型“Claude Fable 5”在生物学领域的安全措施进行了更新,大幅减少了误判情况。此次改进使得Fable 5用户在提出生物学相关问题时,系统切换到性能较低的模型如Opus 5的“回退”现象显著减少。
更新后,Fable 5在生物学相关任务中的回退率降低了约85%,用户能够更广泛地利用该模型处理生物学问题。
虽然Fable 5具备强大能力,但为了防止其被用于生物武器开发或网络攻击,Anthropic在生物学和网络安全领域设置了安全防护措施,针对相关问题自动启用回退机制,避免直接回答。
然而,这些安全措施也导致在日常健康和教育领域的常见问题上,如检验结果解读、症状理解以及学校生物学教学等,出现了不必要的回退。此次调整后,普通医疗人员在临床工作中将能获得更多来自Fable 5的支持。
不过,Fable仍将对病毒学、毒理学、分子设计等“二重用途”(既可用于有益目的也可能被滥用的领域)请求启用回退机制,继续限制其在专业生物学研究和药物开发中的应用。


