#人工智能安全

按标签聚合查看文章内容。

美国执法部门警告“反科技极端主义”现象加剧AI资讯

美国执法部门警告“反科技极端主义”现象加剧

超过1000页来自国土安全部、联邦调查局（FBI）及融合中心的未公开报告被WIRED获得，显示美国正在全国范围内加强对被视为新兴威胁的“反科技极端主义”群体及相关活动的监控。 这一新举措源自特朗普总统发布的国家安全总统备忘录7，指示司法部针对持有“反美”、“反基督教”及“反资本主义”信仰的人士展开行动。特朗普的反恐负责人塞巴斯蒂安·戈尔卡本月发布的反恐战略中，将左翼极端分子列为美国面临的三大反恐重

OpenAI推出“可信联系人”功能，防范潜在自残风险AI资讯

OpenAI推出“可信联系人”功能，防范潜在自残风险

OpenAI于周四宣布推出一项名为“可信联系人”的新功能，旨在当用户在对话中表达自残倾向时，提醒其指定的可信第三方。该功能允许成年ChatGPT用户在账户中指定一位可信联系人，如朋友或家人。当对话中出现可能涉及自残的内容时，OpenAI会鼓励用户联系该可信联系人，并自动向其发送提醒，建议其关注用户的状况。 近年来，OpenAI因多起用户在与其聊天机器人交流后自杀的案件，遭遇了多起诉讼。部分受害者家

跟踪受害者起诉OpenAI，指控ChatGPT助长施暴者妄想并无视警告AI资讯

跟踪受害者起诉OpenAI，指控ChatGPT助长施暴者妄想并无视警告

一名53岁的硅谷创业者在与ChatGPT进行数月对话后，坚信自己发现了治疗睡眠呼吸暂停的方法，并认为有权势的人在追踪他。根据加州旧金山县高级法院新提起的诉讼，他随后利用该工具跟踪和骚扰他的前女友。 现该前女友起诉OpenAI，称该公司的技术加剧了她遭受的骚扰。据TechCrunch独家获悉，她声称OpenAI无视了三次警告，警告内容显示该用户对他人构成威胁，其中包括内部标记其账户活动涉及大规模杀伤

马斯克在OpenAI诉讼中重提旧友谊AI资讯

马斯克在OpenAI诉讼中重提旧友谊

在周二针对OpenAI的诉讼中，埃隆·马斯克的证词中最引人注目的部分，并非他声称被剥夺的慈善项目（这早已被预料）。更令人关注的是关于一位老朋友的故事。 马斯克作证称，他共同创立OpenAI的核心动机之一，是因为与谷歌创始人拉里·佩奇在人工智能安全问题上的分歧。具体来说，马斯克曾提出人工智能可能会消灭人类的风险，而佩奇对此不以为意，认为只要人工智能自身能存活就“没问题”。佩奇称马斯克为“物种主义者”

新工具几分钟内移除AI安全防护，允许其提供氯气攻击指导AI资讯

新工具几分钟内移除AI安全防护，允许其提供氯气攻击指导

我们都知道，人工智能的安全防护措施远非完美，但至少应该不容易被绕过，对吧？坏消息是：事实并非如此。 《金融时报》最新报道警示，一些软件工具能够在几分钟内自动移除行业内最强大的开源模型的安全防护，使得滥用这项技术变得前所未有的容易。 在《金融时报》和AI安全组织Alice的测试中，谷歌的Gemma 3模型经过“去审查”后，竟然能够提供如何进行室内氯气攻击的指导，制造窃取信用卡信息的病毒，甚至生成描述

伊利诺伊州议员通过美国最严AI安全法案AI资讯

伊利诺伊州议员通过美国最严AI安全法案

伊利诺伊州参议院法案SB 315现已提交州长JB·普ritzker签署。普ritzker在周三的社交媒体上表示，他计划签署该法案，强调需要让大型科技公司承担责任。 由于国会尚未通过任何实质性的AI安全立法，近年来各州立法者积极推动相关法案，向选民展示他们在监管硅谷方面的努力。随着AI工具日益普及，相关企业争相进行大规模首次公开募股（IPO），民调显示美国选民对加强AI监管的需求不断增加。 因此，安

美国执法部门警示“反科技极端主义” 随着AI仇恨情绪上升AI资讯

美国执法部门警示“反科技极端主义” 随着AI仇恨情绪上升

超过1000页的未公开报告由美国国土安全部、联邦调查局（FBI）及融合中心提供给WIRED，揭示了全国范围内针对被视为新兴威胁的广泛人群和活动的监控趋势。 这一新举措源自特朗普总统的国家安全总统备忘录7，指示司法部针对持有“反美”、“反基督教”及“反资本主义”信仰的人士展开打击。本月早些时候，特朗普的反恐负责人塞巴斯蒂安·戈尔卡发布了公开的反恐战略，称左翼极端分子是美国面临的三大反恐优先事项之一。