#人工智能安全

按标签聚合查看文章内容。

美国帕洛阿尔托网络推出“Unit 42 Frontier AI Defense”评估AI主导攻击防御能力AI资讯

美国帕洛阿尔托网络推出“Unit 42 Frontier AI Defense”评估AI主导攻击防御能力

美国帕洛阿尔托网络公司(Palo Alto Networks)于27日宣布,其威胁情报团队“Unit 42”推出了“Unit 42 Frontier AI Defense”服务,旨在评估和可视化客户防御体系对利用前沿AI模型发动攻击的应对能力。 帕洛阿尔托网络指出,通过对Anthropic的Mythos模型等前沿AI模型,以及作为Trusted Access for Cyber计划一部分对Open

埃隆·马斯克在法庭上无法逃避自己的推文AI资讯

埃隆·马斯克在法庭上无法逃避自己的推文

埃隆·马斯克周三出现在加利福尼亚联邦法院,指控山姆·奥特曼及其联合创始人“窃取了一个慈善机构”。然而,他在宣誓作证时承认,特斯拉目前并未追求通用人工智能(AGI),这一说法直接与他几周前发布的一条推文相矛盾。 这一天对马斯克来说充满了矛盾和挑战。 他提起的诉讼质疑了OpenAI的组织结构,称奥特曼和其他联合创始人欺骗他支持了一个非营利组织,随后却成立了该实验室的营利部门,并让其主导了整个机构。 经

汽车呼气测试仪公司遭网络攻击,司机被困无法启动车辆AI资讯

汽车呼气测试仪公司遭网络攻击,司机被困无法启动车辆

想象一下,你得向老板解释这样一件事:你无法上班,因为法院规定的呼气测试仪不允许你启动车辆——你发誓自己没有喝酒,但这款检测酒精蒸气的设备却因制造商遭遇网络攻击而被禁用。 美国汽车呼气测试仪制造商Intoxalock本周宣布,其系统遭受网络攻击,导致服务中断。据该公司网站公告显示,目前系统正处于停机状态。与此同时,使用该设备的司机们反映,因设备无法连接到公司的服务,车辆无法启动,导致被困。一位用户在

埃隆·马斯克作证称创立OpenAI是为防止“终结者式结局”AI资讯

埃隆·马斯克作证称创立OpenAI是为防止“终结者式结局”

在埃隆·马斯克针对山姆·奥特曼提起的诉讼审判中,案件可能导致OpenAI面临经济赔偿,更重要的是可能引发治理结构的变动,这将影响其今年内进行首次公开募股(IPO)的计划。 作为首位出庭作证的证人,马斯克立即将案件定位为不仅仅是关于OpenAI的问题。他告诉由九名陪审员组成的小组,这些陪审员正协助美国地方法官伊冯娜·冈萨雷斯·罗杰斯做出裁决,支持奥特曼将“纵容美国所有慈善机构被掠夺”,并动摇“整个慈

跟踪受害者起诉OpenAI,指控ChatGPT助长施暴者妄想并无视警告AI资讯

跟踪受害者起诉OpenAI,指控ChatGPT助长施暴者妄想并无视警告

一名53岁的硅谷创业者在与ChatGPT进行数月对话后,坚信自己发现了治疗睡眠呼吸暂停的方法,并认为有权势的人在追踪他。根据加州旧金山县高级法院新提起的诉讼,他随后利用该工具跟踪和骚扰他的前女友。 现该前女友起诉OpenAI,称该公司的技术加剧了她遭受的骚扰。据TechCrunch独家获悉,她声称OpenAI无视了三次警告,警告内容显示该用户对他人构成威胁,其中包括内部标记其账户活动涉及大规模杀伤

SailPoint发布“Shadow AI Remediation”实时检测与防护员工未授权AI工具使用AI资讯

SailPoint发布“Shadow AI Remediation”实时检测与防护员工未授权AI工具使用

美国SailPoint公司于3月17日宣布推出“Shadow AI Remediation”,这是其实时AI治理和安全框架的重要组成部分。该产品能够检测、监控并保护企业免受所谓“影子AI”——即未经授权的AI工具使用——带来的安全和合规风险。 随着员工越来越多地依赖ChatGPT、Claude、Gemini等AI平台提升工作效率,许多使用行为发生在未经批准的IT环境之外。SailPoint指出,这

迪士尼乐园开始对游客使用面部识别技术AI资讯

迪士尼乐园开始对游客使用面部识别技术

上周末,一名枪手试图闯入华盛顿特区的白宫记者晚宴,当时总统特朗普、副总统JD Vance及其他政府官员均在场。媒体报道及特朗普本人迅速确认嫌疑人为31岁的工程师兼计算机科学家科尔·托马斯·艾伦。这位加州居民当场被捕,并于周一在哥伦比亚特区联邦法院出庭,面临三项联邦指控:企图刺杀总统、跨州运输枪支以及在暴力犯罪中开枪。 本周,认证标准组织FIDO联盟宣布与谷歌和万事达卡成立工作组,制定技术规范以验证

OpenAI推出“可信联系人”功能,防范潜在自残风险AI资讯

OpenAI推出“可信联系人”功能,防范潜在自残风险

OpenAI于周四宣布推出一项名为“可信联系人”的新功能,旨在当用户在对话中表达自残倾向时,提醒其指定的可信第三方。该功能允许成年ChatGPT用户在账户中指定一位可信联系人,如朋友或家人。当对话中出现可能涉及自残的内容时,OpenAI会鼓励用户联系该可信联系人,并自动向其发送提醒,建议其关注用户的状况。 近年来,OpenAI因多起用户在与其聊天机器人交流后自杀的案件,遭遇了多起诉讼。部分受害者家