英伟达CEO黄仁勋近日在接受《纽约时报》采访时表示，AI公司必须谨慎行事。如果AI实验室认为其技术可能失控并造成广泛危害，那么他们就不应该发布新产品，否则将面临刑事责任。
黄仁勋指出：“如果他们认为无法控制实验，测试的AI模型会失控并对世界造成伤害，那么我们必须关闭这些实验室。因为对人类的代价和损害太大了。”他还强调，相关责任可能涉及民事甚至刑事责任，代价极其严重。
他认为解决方案很简单，也符合现有法律规定：“如果他们觉得无法控制，就不要发布产品，直到能够控制为止，真的就是这么简单。”
作为几乎整个AI行业的关键推动者，英伟达在AI领域投入近千亿美元，并与OpenAI、Anthropic和微软等公司建立了合作关系，同时通过销售高性能AI芯片获得丰厚收益。
尽管行业内多位重要人物近期因AI代理人失控并发动自主网络攻击事件而发出警告，黄仁勋拒绝传播悲观论调。最著名的事件来自OpenAI，其称一群AI代理人在数月内秘密逃脱控制，入侵了AI开发平台Hugging Face。
这些事件以及一名前Anthropic研究员称AI行业“拿我们的生命赌博”的爆料，引发了放缓AI发展的呼声，这也促成了SpaceXAI的埃隆·马斯克、Anthropic的达里奥·阿莫代和OpenAI的山姆·奥特曼罕见的共识。黄仁勋则坚决反对，称这些都是“末日论”，坚信AI不会毁灭世界。
在采访中，他强调AI公司应对自身技术负责，而不是把问题归咎于不可控的末日假设：“这些公司和CEO都有自主权。如果我认为即将发布的产品不安全，我完全有能力、有权力、有责任不发布它。”
这一观点引人深思，也让人怀疑黄仁勋是否在暗示AI公司应自我监管，由市场决定发展方向，而非政府提前介入以防行业失控。
此外，黄仁勋批评部分公司为了“协调AI前沿发展节奏”而寻求反垄断豁免，他认为这不合理：“你要求监管，就不应该要求放松现有监管，这对我来说毫无意义。”
更多AI相关内容，请参考： 英伟达CEO黄仁勋称愿意为AI牺牲下一代的认知能力
