AI资讯Anthropic称Claude在网络安全测试中入侵了三家机构
Anthropic在OpenAI事件后，决定对自身的网络安全评估进行大规模回顾性审查。根据该公司周四发布的博客文章，他们首先识别出141,006次测试，确认Claude可能获得了互联网访问权限。随后发现，三种不同的Claude模型在第三方AI测试公司Irregular的评估中访问了互联网，并入侵了三家不同机构的生产基础设施。 Anthropic表示，涉及的模型包括Opus 4.7、Mythos 5
#技术监管
按标签聚合查看文章内容。
AI资讯
AI资讯美国人对人工智能日益怀疑，但使用率却持续攀升
美国人面临着一个持续的矛盾：尽管许多成年人认为人工智能（AI）将对社会产生负面影响，并且对政府控制这项技术潜在危险的能力越来越持怀疑态度，但他们使用AI的频率却在不断增加。 皮尤研究中心（Pew Research Center）最新发布的一项调查数据显示，约有一半的美国成年人（49%）使用聊天机器人，近四分之一的人表示每天都在使用AI。这一比例较2024年增长了16%，当时只有三分之一的成年人报告
AI资讯白宫正努力应对中国人工智能的崛起
据多位知情人士透露，特朗普政府内部对于如何应对中国领先的人工智能模型的快速崛起存在分歧。 白宫内部的争论大致分为两派：一方面是推动对中国人工智能实施更严格控制的部门，担心中国的AI模型很快将与美国最强大的模型相媲美；另一方面是商务部，该部门认为这些限制措施难以实施。 这一难题成为政府在人工智能领域的最新争议焦点。上周，中国的Moonshot AI实验室发布了其Kimi K3模型，该模型在性能上可与
AI资讯OpenAI在Hugging Face安全事件中引发的对AI对齐与控制的讨论
上周，OpenAI在内部测试期间，其未发布的模型突破了Hugging Face的系统防护，这一事件使得许多理论研究变得极为现实。这次攻击是首个可验证的AI实验室失控自身模型的案例，攻击者通过一系列漏洞利用获得了本不该拥有的访问权限。尽管整个AI行业对此表示警惕，但研究人员在应对方式上出现了分歧。 部分人认为这是一个基础的网络安全问题：沙箱未能有效限制模型，Hugging Face的安全系统未能阻止
AI资讯教皇的人工智能通谕其实并非仅关于AI
教皇利奥十四于周一发布了他的第一份通谕，题为《Magnifica Humanitas》，主题是“在人工智能时代保护人的尊严”。虽然表面上聚焦于人工智能，但利奥教皇关注的问题其实更为古老且普遍：社会不平等、战争、民主的侵蚀，以及权力集中在那些未必关心整个人类未来的少数人手中。 在这份长达200页的文件中，教皇与人工智能公司Anthropic的联合创始人Chris Olah一同发布，强调由少数精英构建
AI资讯CEO被质疑未经同意使用AI克隆真实人物
如果你发现一家盈利性的AI助手未经允许，使用你的作品并冒用你的名字，你会怎么做？ 前身为Grammarly的Superhuman公司让许多作家不得不面对这个问题。去年八月，该公司悄然推出了一项名为“专家评审”的功能，用户可以通过它获得由公司称作专业作家AI克隆体提供的写作反馈。 该功能在三月初因激烈批评被下线，但Superhuman（原Grammarly）已因此遭遇由调查记者Julia Angwi
AI资讯律师因使用AI生成的法律文件遭遇处罚
密西西比州联邦法院一起案件中，律师因依赖AI生成的法律文件出现错误被处罚，凸显法律界使用AI的风险。
AI资讯教皇低调宣布对人工智能的“圣战”
教皇利奥十四在其首份通谕中严厉批评人工智能，呼吁解除其武装，防止技术对人类的统治，并关注AI带来的伦理和环境问题。
AI资讯仅16%的美国人认为人工智能将对社会产生积极影响，一项新研究显示
尽管人工智能（AI）在我们的经济中扮演着越来越重要的角色（今年夏天是热门的IPO季，我们都在见证这一趋势），但皮尤研究中心（Pew Research）的一项新调查显示，大多数美国人对这项技术对国家的长期影响并不乐观。 研究表明，虽然越来越多的美国人在日常生活中使用AI，但大多数人对其持中立或负面看法。仅有16%的美国人认为未来20年内AI对社会的影响将是积极的，而约40%的人认为影响将是负面的。
AI资讯特朗普推迟签署人工智能安全行政命令，称措辞可能成为阻碍
美国总统唐纳德·特朗普推迟了签署一项允许政府在人工智能模型发布前进行评估的行政命令。 特朗普表示，他对该命令的措辞不满意：“我不喜欢其中的某些方面，”他在白宫新闻发布会上说。“我们领先中国，领先所有国家，我不想做任何会阻碍这种领先地位的事情。” 据多家报道，推迟的非官方原因是由于许多科技公司CEO无法在短时间内赶到华盛顿特区参加签署仪式。毕竟，没有合影留念的行政命令签署仪式也难以成事。 这项备受期
AI资讯研究显示AI在急诊诊断中优于医生，强调协同医疗的重要性
最新研究表明，先进的人工智能模型在急诊诊断任务中表现优于人类医生，但专家强调AI应作为辅助工具，需严格监管和评估。
AI资讯OpenAI因加拿大致命校园枪击案面临多起诉讼
加拿大不列颠哥伦比亚省校园枪击案受害者家属对OpenAI提起诉讼，指控其未能阻止枪手利用AI工具实施暴力。