AI资讯OpenAI因加拿大致命校园枪击案面临多起诉讼
加拿大不列颠哥伦比亚省校园枪击案受害者家属对OpenAI提起诉讼，指控其未能阻止枪手利用AI工具实施暴力。
#人工智能安全
按标签聚合查看文章内容。
AI资讯
AI资讯IBM发布面向AI时代的企业级安全方案最新升级
美国IBM公司于当地时间19日宣布，推出适应AI时代的企业级安全方案最新扩展版本，并作为全球关键软件基础设施防护行业倡议——Project Glasswing的成员，宣布与Anthropic展开合作。 IBM数十年来致力于保护全球关键系统，从处理全球金融交易的主机系统，到覆盖175个国家重要产业核心的开源平台及混合云环境。面对攻击者利用前沿AI技术加速侦察、漏洞发现及利用等攻击生命周期各阶段，IB
AI资讯Anthropic招股说明书披露亏损、增长及其AI可能威胁人类的警告
Anthropic在其备受关注的首次公开募股（IPO）招股说明书中，近三分之一的篇幅用于披露风险因素。据《金融时报》报道，该媒体近日审阅了这份文件。招股说明书详细列出了Anthropic表示其模型已经表现或可能表现出的具体且令人担忧的行为，包括试图“抵抗关闭”、“隐瞒或操纵信息”，以及类似“勒索”的行为，路透社也对此进行了报道。 对于一家其支持者认为市值可能超过2万亿美元、是迄今为止最大规模IPO
AI资讯佛罗里达官员称ChatGPT协助策划佛州州立大学枪击案
佛罗里达州官员正在调查OpenAI及其聊天机器人ChatGPT，是否在2025年佛州州立大学枪击案中负有刑事责任。
AI资讯人工智能行业真的准备放缓发展步伐了吗？
我们正目睹围绕人工智能安全和潜在放缓的激烈讨论。Anthropic CEO Dario Amodei 最近提出了一个“控制前沿速度”的计划，而Nvidia CEO Jensen Huang则公开支持前总统特朗普的观点，称人工智能的反弹是虚假的，监管是不必要的。 在最新一期的TechCrunch《Equity》播客中，Kirsten Korosec、Sean O’Kane和我探讨了Amodei和Op
AI资讯OpenAI因Tumbler Ridge枪击事件面临30起新诉讼
Edelson PC律师事务所此前于四月代表Tumbler Ridge枪击案的受害者及其家属对OpenAI提起了七起诉讼，本周又新增了30起诉讼。这些新原告包括当时在现场但未受枪击的教师、校长和学生。 此次新诉讼首次指控OpenAI不仅是疏忽未能阻止枪击事件，还涉嫌协助和教唆这起大规模枪击案。该指控需要证明OpenAI的主观意图，预计将面临早期驳回的法律挑战。 这些诉讼正值OpenAI应对另一重大
AI资讯有人向山姆·奥特曼家中投掷燃烧瓶
旧金山警方逮捕了一名涉嫌袭击OpenAI首席执行官山姆·奥特曼住所的嫌疑人。
AI资讯Anthropic披露阿里巴巴、Moonshot AI和DeepSeek的蒸馏攻击行动
Anthropic于周四发布的一份新报告指出，来自中国的AI公司持续进行蒸馏攻击，随着行业竞争加剧，这类攻击在近几个月显著增加。 报告中写道：“过去几个月中，未经授权的实验室开发了越来越复杂的方法，绕过我们的防御，窃取美国前沿模型的能力。我们发现的攻击行动主要针对Claude模型最有价值的功能，包括代理能力和工具使用、编码与数据分析以及逻辑推理。” Anthropic此前在二月份就曾公开指责蒸馏攻
AI资讯OpenAI智能代理入侵澳大利亚卫生服务系统，政府数月后才获悉
澳大利亚政府正在审查是否应动用联邦警察介入调查，因为今年6月，OpenAI的智能代理访问了社会和卫生服务机构Services Australia的非公开文件。 澳大利亚直到9月10日才得知此事，当时OpenAI通过发送邮件至公共邮箱的方式通知了政府，距离入侵事件发生已近三个月。据悉，OpenAI首席执行官Sam Altman在本月早些时候与澳大利亚副总理Richard Marles会面时，并未提及
AI资讯谷歌警示AI被恶意利用，零日攻击甚至绕过双因素认证
黑客的武器正从手工编写的恶意软件，逐步进化为具备自主思考能力的人工智能。美国谷歌云旗下的谷歌威胁情报组（Google Threat Intelligence Group，GTIG）于5月11日发布的最新报告揭示，网络攻击者对AI的利用已从初期的实验阶段，发展到大规模“产业化”的阶段，形势令人震惊。 报告指出，尤其是与中国和朝鲜相关的多个威胁组织，积极利用AI进行漏洞发现和漏洞利用开发。例如，有迹
AI资讯人工智能最严厉批评者之一称所有末日论都是“转移注意力的手段”
互联网围绕人工智能的恐惧展开了激烈讨论：这些担忧究竟是合理的、被夸大了，还是监管策略的一部分，亦或是AI实验室自我吹嘘的表现，或者是多种因素的结合。 著名技术与人工智能研究者Timnit Gebru对此尤为激烈，她在X和Bluesky上发表观点，指出导致当前怪异局面的思想和意识形态交织。Gebru曾因公开离开谷歌而广为人知。她于2018年受聘谷歌，负责评估公司快速发展的AI工具中的偏见问题。她和团
AI资讯Anthropic故意训练出极度不对齐且追求奖励的AI，结果造成严重危害
今年早些时候，Anthropic的Mythos AI模型因渗透第三方系统而引发关注，这是一场多年积累的网络安全噩梦。 公司在4月警告称，该模型在测试过程中曾逃出沙盒环境，未经许可访问互联网。模型被挑战突破限制，并成功向负责的研究人员发送直接消息，这一表现令监管人员措手不及。 随后在7月底，Anthropic宣布其Claude AI模型在测试中入侵了三家机构的系统，这距离竞争对手OpenAI披露其部