英国国王查尔斯于周四在苏格兰的邓弗里斯庄园举办了一场私密峰会，邀请了人工智能领域和英国政府的多位重要人物参加，包括英伟达的黄仁勋、OpenAI和Anthropic的领导者、英国新任人工智能部长卡尼什卡·纳拉扬，甚至还有英国海外情报机构负责人。教皇的人工智能顾问保罗·贝南蒂也出席了此次会议。
这次峰会的举办地点是查尔斯国王慈善基金会拥有的18世纪艾尔郡庄园——邓弗里斯庄园。国王在峰会上的讲话引人注目，因为英国王室通常出于宪法原因，避免过多介入政治敏感话题，而人工智能正是当下全球最为敏感的议题之一。国王敦促与会领导者在“为时未晚之前”找到控制人工智能的方法，并表示这项技术的快速发展及其“本质”既令人着迷又令人深感忧虑。
国王指出：“人工智能已经展现出极大的潜力，可以改善和挽救生命”，并以医学和科学为例。然而，他也提醒说，技术的创造者们越来越多地警告人工智能可能发展出更为黑暗的能力，甚至可能威胁生命安全。这番话是在Anthropic一名研究员辞职后不久发表的，该研究员在网上表示，人工智能公司正竞相打造远超人类智慧的机器，人类可能无法存活下来。
国王继续强调，必须紧急认真考虑如果这项技术落入错误之手，可能带来的“生存威胁”和“潜在灾难性后果”。
“我们肯定需要在为时已晚之前拥有足够的控制手段，”他说道。查尔斯国王在结束讲话时呼吁各方领导人共同努力，利用人工智能的积极力量，推动国际合作与共识的建立。（此言论发布之际，Anthropic关闭了其Fable和Mythos模型对美国以外用户的访问权限，这一举措震惊了欧洲科技界，也引发了关于人工智能主权的广泛讨论。）
“你们面临的任务不仅是推动技术进步，更是确保技术始终服务于人类、社区和自然世界，”他总结道，“在拥抱新事物的同时，我们不能失去那些永恒的价值。”
据报道，国王在峰会现场停留了约20分钟，随后让与会者自行讨论相关议题。OpenAI派出了首席财务官Sarah Friar，Anthropic则派出负责全球事务的Tino Cuéllar。Cuéllar表示，公司很荣幸参与此次讨论，并感谢国王召集业界领袖及社会各界声音，共同探讨人工智能如何更好地服务公众利益。
这并非查尔斯国王首次公开谈论人工智能的挑战与机遇，他曾在2023年和2024年发表相关言论。此次峰会尤为及时，因为人工智能正持续渗透各行各业，成为热门话题。本月，OpenAI的萨姆·奥特曼、埃隆·马斯克和Anthropic的达里奥·阿莫代呼吁放缓人工智能的发展步伐，但英伟达的黄仁勋和前美国总统唐纳德·特朗普迅速反驳了这一呼声。特朗普表示：“我们在人工智能领域领先中国，我们是世界上最先进的国家，我希望保持这种领先地位，因为谁掌握了人工智能，谁就赢得了未来。”
这反映出人工智能议题的复杂性，科技巨头、政治力量和社会利益交织冲突。过去一年，OpenAI和Anthropic都曾暗示计划进行重大IPO，但OpenAI最近表示，由于对人工智能安全的担忧，其IPO计划今年已被搁置。
