#人工智能安全

按标签聚合查看文章内容。

前xAI工程师因警示Grok安全问题被解雇，新诉讼指控AI资讯

前xAI工程师因警示Grok安全问题被解雇，新诉讼指控

一名前埃隆·马斯克旗下xAI工程师提起诉讼，指控公司及其母公司SpaceX因其提出人工智能安全隐患而将其解雇。 该工程师德文·金（Devin Kim）于2025年9月离开xAI，并于周二在加利福尼亚州法院提起诉讼。此诉讼恰逢SpaceX即将进行有史以来规模最大的首次公开募股（IPO）。 根据TechCrunch获得的诉讼文件，金在参与xAI的AI聊天机器人Grok项目期间，成为AI安全的积极倡导者

日本GMO网络安全公司推出利用实战攻击手法评估AI代理风险的新服务AI资讯

日本GMO网络安全公司推出利用实战攻击手法评估AI代理风险的新服务

日本GMO网络安全公司（GMOサイバーセキュリティ byイエラエ株式会社）于27日宣布，正式推出一项名为“AI代理渗透测试”的服务。该服务针对企业内部使用的AI代理、聊天机器人以及基于检索增强生成（RAG）技术的系统，采用与真实攻击者相同的手法，由白帽黑客执行渗透测试，帮助企业识别潜在的安全风险。 “AI代理渗透测试”服务通过模拟网络攻击，全面评估企业AI系统在业务流程、权限设置及与外部应用的联动

OpenAI发布开源工具助力开发者提升青少年安全AI资讯

OpenAI发布开源工具助力开发者提升青少年安全

OpenAI于周二宣布推出一套面向开发者的提示语，旨在帮助他们打造更安全的青少年应用。该AI实验室表示，这套名为“青少年安全政策”的开源提示语可配合其开放权重安全模型gpt-oss-safeguard使用。 开发者无需从零开始探索如何保障青少年使用AI的安全，可以利用这些提示语强化其应用的安全性。内容涵盖了暴力和性内容、危害身体健康的理想与行为、危险活动和挑战、浪漫或暴力角色扮演，以及限制年龄的商

谷歌警示AI被恶意利用，零日攻击甚至绕过双因素认证AI资讯

谷歌警示AI被恶意利用，零日攻击甚至绕过双因素认证

黑客的武器正从手工编写的恶意软件，逐步进化为具备自主思考能力的人工智能。美国谷歌云旗下的谷歌威胁情报组（Google Threat Intelligence Group，GTIG）于5月11日发布的最新报告揭示，网络攻击者对AI的利用已从初期的实验阶段，发展到大规模“产业化”的阶段，形势令人震惊。 报告指出，尤其是与中国和朝鲜相关的多个威胁组织，积极利用AI进行漏洞发现和漏洞利用开发。例如，有迹

迪士尼乐园开始对游客使用面部识别技术AI资讯

迪士尼乐园开始对游客使用面部识别技术

上周末，一名枪手试图闯入华盛顿特区的白宫记者晚宴，当时总统特朗普、副总统JD Vance及其他政府官员均在场。媒体报道及特朗普本人迅速确认嫌疑人为31岁的工程师兼计算机科学家科尔·托马斯·艾伦。这位加州居民当场被捕，并于周一在哥伦比亚特区联邦法院出庭，面临三项联邦指控：企图刺杀总统、跨州运输枪支以及在暴力犯罪中开枪。 本周，认证标准组织FIDO联盟宣布与谷歌和万事达卡成立工作组，制定技术规范以验证

汽车呼气测试仪公司遭网络攻击，司机被困无法启动车辆AI资讯

汽车呼气测试仪公司遭网络攻击，司机被困无法启动车辆

想象一下，你得向老板解释这样一件事：你无法上班，因为法院规定的呼气测试仪不允许你启动车辆——你发誓自己没有喝酒，但这款检测酒精蒸气的设备却因制造商遭遇网络攻击而被禁用。 美国汽车呼气测试仪制造商Intoxalock本周宣布，其系统遭受网络攻击，导致服务中断。据该公司网站公告显示，目前系统正处于停机状态。与此同时，使用该设备的司机们反映，因设备无法连接到公司的服务，车辆无法启动，导致被困。一位用户在

美国帕洛阿尔托网络推出“Unit 42 Frontier AI Defense”评估AI主导攻击防御能力AI资讯

美国帕洛阿尔托网络推出“Unit 42 Frontier AI Defense”评估AI主导攻击防御能力

美国帕洛阿尔托网络公司（Palo Alto Networks）于27日宣布，其威胁情报团队“Unit 42”推出了“Unit 42 Frontier AI Defense”服务，旨在评估和可视化客户防御体系对利用前沿AI模型发动攻击的应对能力。 帕洛阿尔托网络指出，通过对Anthropic的Mythos模型等前沿AI模型，以及作为Trusted Access for Cyber计划一部分对Open