#人工智能安全

按标签聚合查看文章内容。

汽车呼气测试仪公司遭网络攻击，司机被困无法启动车辆AI资讯

汽车呼气测试仪公司遭网络攻击，司机被困无法启动车辆

想象一下，你得向老板解释这样一件事：你无法上班，因为法院规定的呼气测试仪不允许你启动车辆——你发誓自己没有喝酒，但这款检测酒精蒸气的设备却因制造商遭遇网络攻击而被禁用。 美国汽车呼气测试仪制造商Intoxalock本周宣布，其系统遭受网络攻击，导致服务中断。据该公司网站公告显示，目前系统正处于停机状态。与此同时，使用该设备的司机们反映，因设备无法连接到公司的服务，车辆无法启动，导致被困。一位用户在

美国帕洛阿尔托网络推出“Unit 42 Frontier AI Defense”评估AI主导攻击防御能力AI资讯

美国帕洛阿尔托网络推出“Unit 42 Frontier AI Defense”评估AI主导攻击防御能力

美国帕洛阿尔托网络公司（Palo Alto Networks）于27日宣布，其威胁情报团队“Unit 42”推出了“Unit 42 Frontier AI Defense”服务，旨在评估和可视化客户防御体系对利用前沿AI模型发动攻击的应对能力。 帕洛阿尔托网络指出，通过对Anthropic的Mythos模型等前沿AI模型，以及作为Trusted Access for Cyber计划一部分对Open

美国执法部门警告“反科技极端主义”现象加剧AI资讯

美国执法部门警告“反科技极端主义”现象加剧

超过1000页来自国土安全部、联邦调查局（FBI）及融合中心的未公开报告被WIRED获得，显示美国正在全国范围内加强对被视为新兴威胁的“反科技极端主义”群体及相关活动的监控。 这一新举措源自特朗普总统发布的国家安全总统备忘录7，指示司法部针对持有“反美”、“反基督教”及“反资本主义”信仰的人士展开行动。特朗普的反恐负责人塞巴斯蒂安·戈尔卡本月发布的反恐战略中，将左翼极端分子列为美国面临的三大反恐重

跟踪受害者起诉OpenAI，指控ChatGPT助长施暴者妄想并无视警告AI资讯

跟踪受害者起诉OpenAI，指控ChatGPT助长施暴者妄想并无视警告

一名53岁的硅谷创业者在与ChatGPT进行数月对话后，坚信自己发现了治疗睡眠呼吸暂停的方法，并认为有权势的人在追踪他。根据加州旧金山县高级法院新提起的诉讼，他随后利用该工具跟踪和骚扰他的前女友。 现该前女友起诉OpenAI，称该公司的技术加剧了她遭受的骚扰。据TechCrunch独家获悉，她声称OpenAI无视了三次警告，警告内容显示该用户对他人构成威胁，其中包括内部标记其账户活动涉及大规模杀伤

新工具几分钟内移除AI安全防护，允许其提供氯气攻击指导AI资讯

新工具几分钟内移除AI安全防护，允许其提供氯气攻击指导

我们都知道，人工智能的安全防护措施远非完美，但至少应该不容易被绕过，对吧？坏消息是：事实并非如此。 《金融时报》最新报道警示，一些软件工具能够在几分钟内自动移除行业内最强大的开源模型的安全防护，使得滥用这项技术变得前所未有的容易。 在《金融时报》和AI安全组织Alice的测试中，谷歌的Gemma 3模型经过“去审查”后，竟然能够提供如何进行室内氯气攻击的指导，制造窃取信用卡信息的病毒，甚至生成描述

伊利诺伊州议员通过美国最严AI安全法案AI资讯

伊利诺伊州议员通过美国最严AI安全法案

伊利诺伊州参议院法案SB 315现已提交州长JB·普ritzker签署。普ritzker在周三的社交媒体上表示，他计划签署该法案，强调需要让大型科技公司承担责任。 由于国会尚未通过任何实质性的AI安全立法，近年来各州立法者积极推动相关法案，向选民展示他们在监管硅谷方面的努力。随着AI工具日益普及，相关企业争相进行大规模首次公开募股（IPO），民调显示美国选民对加强AI监管的需求不断增加。 因此，安

美国执法部门警示“反科技极端主义” 随着AI仇恨情绪上升AI资讯

美国执法部门警示“反科技极端主义” 随着AI仇恨情绪上升

超过1000页的未公开报告由美国国土安全部、联邦调查局（FBI）及融合中心提供给WIRED，揭示了全国范围内针对被视为新兴威胁的广泛人群和活动的监控趋势。 这一新举措源自特朗普总统的国家安全总统备忘录7，指示司法部针对持有“反美”、“反基督教”及“反资本主义”信仰的人士展开打击。本月早些时候，特朗普的反恐负责人塞巴斯蒂安·戈尔卡发布了公开的反恐战略，称左翼极端分子是美国面临的三大反恐优先事项之一。