今年早些时候，Anthropic开始向部分机构逐步推出其最新的Mythos AI模型，采取了谨慎缓慢的发布策略。此举旨在给予合作方足够时间修补代码中的网络安全漏洞，因为Anthropic曾警告称，Mythos模型强大到足以轻易突破防御。
几个月后，Anthropic联合创始人Chris Olah本周前往梵蒂冈，出席教皇利奥首份通谕的发布会，该通谕正是关于人工智能及其潜在风险。在讲话中，Olah透露他们的工程团队在模型中不断发现一些神秘且令人不安的现象。
这些情况让Anthropic的客户感到不安。上周在伦敦参加Claude Code工作坊的开发者向彭博社记者Parmy Olson表示，他们对AI模型和代理被赋予前所未有的自主权感到担忧，这引发了关于责任归属的难以回避的问题。
Claude Code产品负责人Cat Wu向Olson保证系统“极其安全”，并称问题更多是沟通不足，而非缺乏控制措施。
然而，这并未能让开发者安心。许多人觉得自己被边缘化，只能眼睁睁看着AI工具花费数小时甚至数天生成代码。还有人指出，最新版本的Claude Code不再显示其思考链条的文本描述，进一步模糊了其内部运作机制。
这一话题尤为重要，因为Anthropic正努力塑造自己为道德自觉且负责任的AI企业，Olah此次罕见亮相梵蒂冈即是明证。
在很多方面，这家公司似乎想要两者兼得：一方面呼吁加强监管和谨慎使用，另一方面却推出令人类开发者感到不安的强大AI工具。
潜在风险依然明显。随着人类监督减少，未来Claude Code等工具可能带来的错误将越来越难以有效纠正。专家还警告称，程序员过度依赖AI编码助手可能导致技能退化。正如404 Media本月报道，许多开发者惊讶地发现同行因过度依赖软件而迅速丧失技术能力。
不过，情况也并非全无希望。随着AI工具的真正成本逐渐显现，许多用户将难以承担其高昂费用，这或许能为必要的人类监督留下一线生机。
