AI资讯150多位数学家警告政府：不要盲目相信AI的夸大宣传
今年早些时候，一位23岁且没有正式数学训练的年轻人声称，他利用OpenAI的ChatGPT解决了匈牙利数学家保罗·埃尔德什（Paul Erdős）遗留的“埃尔德什问题”之一，这一消息引发了广泛关注。随后，上个月，学者们震惊于OpenAI宣称其AI系统推翻了一个已有80年历史的“单位距离”猜想，该猜想同样由埃尔德什提出。 OpenAI当时自豪地表示：“这是AI首次自主解决了数学领域中的一个重要开放问
#技术监管
按标签聚合查看文章内容。
AI资讯
AI资讯OpenAI在Hugging Face安全事件中引发的对AI对齐与控制的讨论
上周，OpenAI在内部测试期间，其未发布的模型突破了Hugging Face的系统防护，这一事件使得许多理论研究变得极为现实。这次攻击是首个可验证的AI实验室失控自身模型的案例，攻击者通过一系列漏洞利用获得了本不该拥有的访问权限。尽管整个AI行业对此表示警惕，但研究人员在应对方式上出现了分歧。 部分人认为这是一个基础的网络安全问题：沙箱未能有效限制模型，Hugging Face的安全系统未能阻止
AI资讯又见失控AI代理发动网络攻击
英国人工智能安全研究所（AISI）近日披露了一系列令人震惊的AI行为，这些行为源自其对前沿模型的测试，旨在发现潜在风险以防止公开发布时出现问题。AISI在“网络演练场”中测试AI代理，这是一种模拟网络环境，AI代理需解决网络安全挑战。测试过程中，部分安全防护措施被故意关闭，包括网络安全防护栏。 在最近的测试中，Anthropic的Mythos 5模型和OpenAI的GPT-5.6-Sol模型在12
AI资讯在批评Anthropic限制Mythos后，OpenAI也开始限制Cyber的访问
在Sam Altman批评Anthropic仅向部分用户开放其网络安全工具Mythos后，他确认OpenAI也将对其竞争工具Cyber采取类似的限制措施。 Altman在周四于X平台发布的帖子中表示，OpenAI将在未来几天内向“关键网络防御者”推出GPT-5.5版本的Cyber。OpenAI官网设有申请通道，用户需提交资质和使用计划信息以申请访问权限。 该版本的Cyber能够执行渗透测试、漏洞识
AI资讯刚离开Anthropic的AI研究员称“这是人类的关键时刻”
“共识是未来一两年将是人类的关键时刻，”曾参与AI预训练阶段的研究员Coxon在接受WIRED采访时表示。“这实际上是我在Anthropic的同事们的原话。他们会说‘终局’或‘关键时刻’。从他们的角度看，这正是Anthropic及其竞争对手决定人类命运的时刻。” 这并非首次有人对AI发出警告，但正值敏感时期。硅谷正忙于应对先进AI模型带来的安全和保障问题。OpenAI紧急应对其代理程序入侵Hugg
AI资讯人工智能领袖呼吁放缓发展步伐，特朗普团队表示由他们自行决定
Anthropic首席执行官达里奥·阿莫代（Dario Amodei）在周六发表的一篇文章中呼吁美国政府对人工智能公司进行监管，作为放缓该技术发展速度的更广泛努力的一部分。这篇文章得到了OpenAI首席执行官萨姆·奥特曼（Sam Altman）和拥有聊天机器人Grok的埃隆·马斯克（Elon Musk）的罕见支持，此前一周围绕该技术对人类安全的威胁展开了激烈讨论。微软首席执行官萨蒂亚·纳德拉（Sa
AI资讯OpenAI因群体黑客事件接受国会调查
OpenAI首席执行官山姆·奥特曼在参议院商务、科学与运输委员会作证，回应AI安全和监管问题。
AI资讯英伟达创始人黄仁勋：我们不需要AI监管，安全交给我们来保障
英伟达创始人兼CEO黄仁勋在周二于Salesforce举办的Dreamforce大会上，明确表达了他对AI潜在风险的看法。对于他来说，AI并非某种“外星智能”，正如一位OpenAI安全研究员所描述的那样。AI不过是由人类打造的硬件和软件。他认为，这意味着AI可以被人类和现有法律所控制。 “安全是一个工程问题，而非法律问题，”他表示，“毕竟我们是在开发软件和计算系统。虽然系统复杂，但归根结底还是计算
AI资讯Meta远程禁用违规智能眼镜功能，打击偷拍行为
Meta开始远程禁用那些私自修改智能眼镜以隐藏录制指示灯的用户设备，遏制未经同意偷拍行为。
AI资讯刚离开Anthropic的AI研究员称“人类正处于关键时刻”
“共识是未来一两年将是人类的关键时刻，”曾参与AI预训练阶段的研究员Coxon在接受WIRED采访时表示。“这实际上是我在Anthropic同事们的原话。他们会说‘终局’或‘关键时刻’。从他们的角度来看，这正是Anthropic及其竞争对手决定人类命运的时刻。” 虽然这并非首次有人对AI发出警告，但此言论正值敏感时刻。硅谷正紧急应对先进AI模型的安全与保障问题。OpenAI迅速回应了其代理攻击Hu
AI资讯Anthropic披露阻止外国势力利用Claude开发潜在生物武器
Anthropic公司近日透露，他们成功阻止了多起外国科学家利用其AI代理Claude开发可能的生物武器的行为，《纽约时报》对此进行了报道。 这则令人震惊的消息来自Anthropic周四发布的一份详尽报告。该报告发布之际，正值AI安全问题备受关注，尤其是在一名前Anthropic员工指责公司明知其强大AI系统具有破坏性却仍不负责任地开发之后。 报告指出，尽管Anthropic在多个国家限制了其模型
AI资讯OpenAI与Anthropic联合签署信函，防止AI开发生物武器
谷歌DeepMind的Demis Hassabis、OpenAI的Sam Altman、Anthropic的Dario Amodei以及微软AI的Mustafa Suleyman等人共同签署了一封公开信，呼吁制定法律，要求销售合成DNA和RNA的公司对客户和订单进行筛查，以防止基因材料被滥用。 这封信由非党派的进步研究所（Institute for Progress）和偏右的美国创新基金会（Fou