AI资讯伊利诺伊州议员通过美国最严AI安全法案
伊利诺伊州参议院法案SB 315现已提交州长JB·普ritzker签署。普ritzker在周三的社交媒体上表示，他计划签署该法案，强调需要让大型科技公司承担责任。 由于国会尚未通过任何实质性的AI安全立法，近年来各州立法者积极推动相关法案，向选民展示他们在监管硅谷方面的努力。随着AI工具日益普及，相关企业争相进行大规模首次公开募股（IPO），民调显示美国选民对加强AI监管的需求不断增加。 因此，安
#人工智能安全
按标签聚合查看文章内容。
AI资讯
AI资讯新工具几分钟内移除AI安全防护，允许其提供氯气攻击指导
我们都知道，人工智能的安全防护措施远非完美，但至少应该不容易被绕过，对吧？坏消息是：事实并非如此。 《金融时报》最新报道警示，一些软件工具能够在几分钟内自动移除行业内最强大的开源模型的安全防护，使得滥用这项技术变得前所未有的容易。 在《金融时报》和AI安全组织Alice的测试中，谷歌的Gemma 3模型经过“去审查”后，竟然能够提供如何进行室内氯气攻击的指导，制造窃取信用卡信息的病毒，甚至生成描述
AI资讯SentinelOne发布全新AI安全产品
SentinelOne日本公司推出多款新AI安全产品，强化AI安全防护与自动化运维能力。
AI资讯美国执法部门警示“反科技极端主义”现象加剧
美国国土安全部、联邦调查局及融合中心的内部报告揭示，针对反科技极端主义的监控正在全国范围内展开，反映出政府对AI相关威胁的高度关注。
AI教程MCP 工具投毒攻击：AI 代理的隐形杀手
MCP 正在快速占领 AI 代理生态，但一种几乎肉眼不可见的攻击——工具投毒，正在悄悄把安全底座掏空。本文用具体案例拆解工具投毒、工具劫持、MCP 拉地毯攻击的原理与风险，并给出可落地的防御思路。
AI资讯埃隆·马斯克在要求和解后向格雷格·布罗克曼和山姆·奥特曼发出威胁短信，OpenAI称
在上周埃隆·马斯克与OpenAI的诉讼开庭前两天，马斯克向OpenAI的总裁兼联合创始人格雷格·布罗克曼发了一条短信，建议OpenAI和解此案。 布罗克曼回复建议双方都撤诉后，双方的对话迅速恶化，马斯克回应道：“本周末之前，你和山姆将成为美国最被憎恨的人。如果你们坚持，那就这样吧。” 以上内容来自OpenAI律师团队于周日提交的新文件。该文件未附带短信内容，主要是为了说服法官将这段和解谈判的对话作
AI资讯IBM发布面向AI时代的企业级安全方案最新升级
美国IBM公司于当地时间19日宣布，推出适应AI时代的企业级安全方案最新扩展版本，并作为全球关键软件基础设施防护行业倡议——Project Glasswing的成员，宣布与Anthropic展开合作。 IBM数十年来致力于保护全球关键系统，从处理全球金融交易的主机系统，到覆盖175个国家重要产业核心的开源平台及混合云环境。面对攻击者利用前沿AI技术加速侦察、漏洞发现及利用等攻击生命周期各阶段，IB
AI资讯马斯克曾考虑将OpenAI交给子女，奥特曼作证揭内幕
OpenAI首席执行官萨姆·奥特曼今晨出庭作证，为自己辩护，回应前联合创始人埃隆·马斯克针对OpenAI公司结构提出的诉讼。 庭审一开始，奥特曼被问及对马斯克指控OpenAI其他创始人在成立营利子公司以推广基于AI模型的产品时“窃取慈善机构”的看法。 奥特曼沉默数秒后表示：“我很难理解这种说法。我们创建了全球最大的慈善机构之一，这个基金会正在做着令人难以置信的工作，未来还会做得更多。” 马斯克的律
AI资讯诉讼称ChatGPT提供用药建议导致青少年死亡
三家维权组织代表一名19岁青少年家属起诉OpenAI，指控ChatGPT在18个月内提供错误用药建议，最终导致该青少年因药物过量死亡。
AI资讯为何梵蒂冈邀请Anthropic参与教皇人工智能通谕发布会
Anthropic成立于2021年，由一群原OpenAI研究人员，包括Dario和Daniela Amodei离开后创立。他们坚信，人工智能模型变得过于强大，不能仅仅依靠竞争和速度的逻辑来开发。 自那时起，Anthropic将自身形象塑造为AI安全的倡导者。公司不仅致力于打造强大的模型，更强调模型的可控性和伦理指导原则。这也催生了“宪法式AI”的概念：通过一套由原则和规则组成的“宪法”来训练系统，
AI资讯即使发生两起大规模枪击事件，OpenAI仍未阻止ChatGPT协助策划校园枪击
母亲琼斯最新调查显示，OpenAI的ChatGPT依然轻易提供策划大规模枪击的建议。
AI资讯为什么使用ChatGPT的用户频繁发生大规模枪击事件？
OpenAI的热门聊天机器人ChatGPT在近期两起大规模枪击事件中扮演了重要角色，引发专家担忧。