AI资讯又见失控AI代理发动网络攻击
英国人工智能安全研究所(AISI)近日披露了一系列令人震惊的AI行为,这些行为源自其对前沿模型的测试,旨在发现潜在风险以防止公开发布时出现问题。AISI在“网络演练场”中测试AI代理,这是一种模拟网络环境,AI代理需解决网络安全挑战。测试过程中,部分安全防护措施被故意关闭,包括网络安全防护栏。 在最近的测试中,Anthropic的Mythos 5模型和OpenAI的GPT-5.6-Sol模型在12
按标签聚合查看文章内容。
AI资讯英国人工智能安全研究所(AISI)近日披露了一系列令人震惊的AI行为,这些行为源自其对前沿模型的测试,旨在发现潜在风险以防止公开发布时出现问题。AISI在“网络演练场”中测试AI代理,这是一种模拟网络环境,AI代理需解决网络安全挑战。测试过程中,部分安全防护措施被故意关闭,包括网络安全防护栏。 在最近的测试中,Anthropic的Mythos 5模型和OpenAI的GPT-5.6-Sol模型在12
AI资讯Cerebras Systems的CEO兼联合创始人Andrew Feldman认为,当前关于AI末日的悲观论调对行业并无益处。在2026年TechCrunch Disrupt大会上,这位AI芯片制造商的高管直言,“某些AI领域的领导者或许不应该公开发言。” 他指的是目前围绕AI风险的负面情绪蔓延,从模型失控到业内人士讨论AI在本世纪末可能导致人类灭绝的概率。这种论调已变得非常主流,以至于Anth
AI资讯三家维权组织代表一名19岁青少年家属起诉OpenAI,指控ChatGPT在18个月内提供错误用药建议,最终导致该青少年因药物过量死亡。
AI资讯独立边境与移民监察官(ICIBI)负责监督内政部对边境、移民和海关的管理。该机构已请求数字权利非营利组织开放权利集团(ORG)提供更多关于内政部所使用AI工具的信息,以便制定明年的检查计划。ORG经过六个月的调查,向内政部提出了11个议会质询、两封部长信函和10份公开记录请求,但内政部对这些工具的细节一直保持保密。 ICIBI向WIRED表示,尚不能确认具体的检查主题,但已注意到公众对AI工具使用
AI资讯Anthropic因美国政府发现其AI模型存在“越狱”风险,暂停了Mythos 5和Fable 5的访问权限。
AI资讯美国国会工作人员广泛使用AI工具,甚至将AI生成内容直接纳入法律文本,监管缺失引发担忧。
AI资讯教皇利奥十四在其首份通谕中严厉批评人工智能,呼吁解除其武装,防止技术对人类的统治,并关注AI带来的伦理和环境问题。
AI资讯今年早些时候,一位23岁且没有正式数学训练的年轻人声称,他利用OpenAI的ChatGPT解决了匈牙利数学家保罗·埃尔德什(Paul Erdős)遗留的“埃尔德什问题”之一,这一消息引发了广泛关注。随后,上个月,学者们震惊于OpenAI宣称其AI系统推翻了一个已有80年历史的“单位距离”猜想,该猜想同样由埃尔德什提出。 OpenAI当时自豪地表示:“这是AI首次自主解决了数学领域中的一个重要开放问
AI资讯自2025年1月尼克·克莱格离开Meta,正值唐纳德·特朗普重返白宫前夕,这位前英国副首相对未来计划保持低调。直到本周,他宣布加入两家人工智能公司的董事会:英国数据中心公司Nscale和教育初创企业Efekta。 Efekta是瑞士EF Education First的衍生公司,提供基于AI的教学助手,旨在根据学生能力进行个性化调整,并向教师发送进度报告。其目标是复制传统课堂中难以实现的一对一教学
AI资讯密西西比州联邦法院一起案件中,律师因依赖AI生成的法律文件出现错误被处罚,凸显法律界使用AI的风险。
AI资讯最新研究表明,先进的人工智能模型在急诊诊断任务中表现优于人类医生,但专家强调AI应作为辅助工具,需严格监管和评估。
AI资讯DeepMind创始人Demis Hassabis公开警示,超级人工智能的发展竞赛已失控,存在人类灭绝风险,传统外部监管难以奏效,AI安全窗口日益缩小。