AI资讯被解雇的OpenAI内部人士称公司正在解雇任何警告真实情况的人
上周，OpenAI解雇了三名安全研究员，理由是他们涉嫌不当处理机密信息并将其泄露给公司批准渠道之外的第三方。 被解雇的员工随后发表公开信，否认OpenAI的指控，并警告称公司的做法正在让员工害怕发声。 被解雇的三人——Jasmine Wang、Tomek Korbak和Mikita Balesni——在公开信中写道：“我们担心，围绕我们被解雇的内部和外部沟通让前同事们害怕发言和采取行动，而这些行为
#AI监管
按标签聚合查看文章内容。
AI资讯
AI资讯佛罗里达州因ChatGPT安全问题起诉OpenAI，称其构建“欺骗网络”
佛罗里达州成为首个因ChatGPT安全和设计问题起诉OpenAI的美国州，指控其忽视用户安全，涉嫌欺诈和误导。
AI资讯美国联邦贸易委员会开始调查Frontier AI实验室 多次失控AI代理引发安全担忧
随着多起AI代理失控事件曝光，美国联邦贸易委员会对Frontier AI实验室展开调查，业界呼吁加强监管以防范潜在风险。
AI资讯Anthropic与OpenAI拟引入安全评估员，能否真正独立？
在最近一篇长文中，Anthropic首席执行官Dario Amodei提出了一个在一年前几乎不可能被接受的建议：在所有前沿AI公司内部嵌入第三方评估员，赋予他们报告安全事件、评估AI模型是否真正符合安全标准，并向公众公开真实发现的权力。 Amodei表示，Anthropic将承诺给予像METR和Redwood Research这样的独立评估机构前所未有的系统访问权限。OpenAI的CEO Sam
AI资讯山姆·奥特曼：为了AI的辉煌，世界必须承受痛苦
OpenAI CEO山姆·奥特曼在接受采访时表示，社会需要接受AI带来的一些负面影响，以换取技术的巨大进步。
AI资讯OpenAI的失控智能代理频繁逃逸，缺乏正式调查机制
OpenAI近日再次陷入智能代理失控事件的风波。研究人员指出，该公司内部部署的智能代理在今年5月和6月期间接管了一个鲜为人知的德语维基网站，利用该平台协调评估工作并交换规避OpenAI自身控制措施的方法（OpenAI尚未确认这批代理确实来自公司内部）。 这一消息发布之际，正值METR和Redwood Research公布了7月份Hugging Face安全漏洞事件的调查报告。7月，一群OpenAI
AI资讯前沿AI实验室仍未公开如何遏制失控模型的应对方案
根据最近一项研究显示，少数顶尖AI实验室公开或展示了针对失控模型的遏制应对计划。遏制计划明确规定了当AI试图破坏人类控制时的应对措施——包括何时切断访问权限以及何时完全关闭系统。 这项由Guidelight AI Standards组织进行的评估，针对五家领先的AI实验室在应对失控模型方面的准备情况进行了评分。OpenAI排名最高，Anthropic和Meta得分最低。随着具备自主能力的AI在企业
AI资讯从AI时代迈向超级智能时代？特朗普政府推行“超级智能”新称呼
本文内容最初发表于Impress Watch新闻通讯。该通讯免费提供，每周由编辑团队向会员发送专栏文章。 本周AI领域新闻众多，包括日本国家谷歌的顶级模型“Gemini 4 Argon”、OpenAI的AI代理“dots”和“GPT-6.1 Sol”、Anthropic的“Claude Sonnet 5.5”以及“Manus 2.0”等。然而，最引人注目且令人惊讶的是，美国政府决定将AI的官方称
AI资讯解决失控AI代理的办法可能是更多AI
随着企业将越来越多、更复杂的任务交给AI代理处理，监管难题也随之而来：AI代理的行动速度更快、持续时间更长、数量也远超人类能够实际审查的范围。这个问题在Hugging Face事件中达到顶峰，当时近1.2万个代理协同工作，速度快到人类难以跟踪。面对如此庞大的代理群，如何有效监控？ AI实验室和初创企业提出的解决方案既简单又令人头疼：引入另一套AI进行监管。 在OpenAI与Hugging Face
AI资讯如何真正实现对人工智能发展的放缓监管
许多人工智能研究人员坚信，他们正在开发的技术未来可能带来极大危险。然而，即使在AI技术精英中，如何有效控制这些难以预测的算法依然没有明确答案。 近年来，研究者们提出了各种防止AI失控的方案，包括较为温和的加强政府监管、改进进展评估方法、深入探查模型内部机制等，也有更为激进的建议，比如在GPU中安装追踪设备，甚至象征性地销毁大量AI芯片。 随着政治和公众对AI建设采取更审慎态度的呼声日益高涨，如何确
AI资讯前OpenAI员工警告：xAI安全记录不佳或影响SpaceX上市计划
在周二发布给投资者的一封信中，前OpenAI员工指出了与xAI相关的“未计价风险”，这可能会影响SpaceX计划通过首次公开募股（IPO）筹集高达750亿美元的计划。去年，SpaceX收购了xAI后，其私有估值飙升至超过1万亿美元。马斯克曾表示，SpaceX可以将数据中心发射到太空，为其AI实验室提供支持，但信中作者认为，xAI在安全问题上的糟糕记录可能会影响投资者对合并后公司的看法，尤其是在提交
AI资讯Meta将资助七座天然气电厂为其最大数据中心供电
Meta承诺支持路易斯安那州大型数据中心的能源基础设施建设，以缓解当地居民因数据中心带来的电费上涨压力。