AI资讯阿根廷推动立法允许由人工智能运营的“非人类公司”
阿根廷总统哈维尔·米莱伊提议设立由AI管理的“非人类公司”，并推动相关法律框架，旨在打造对AI友好的商业环境。
#AI监管
按标签聚合查看文章内容。
AI资讯
AI资讯Anthropic赋予Claude Code更多自主权，但仍设安全限制
对于使用AI的开发者来说，目前的“氛围编码”意味着要么时刻监控每一个操作，要么冒着让模型不受控制运行的风险。Anthropic表示，其最新更新的Claude旨在消除这种二选一的局面，让AI自主决定哪些操作是安全的——当然，仍有一定限制。 这一举措反映了整个行业的趋势，即AI工具越来越多地被设计成无需等待人工批准即可行动。挑战在于如何平衡速度与控制：过多的限制会拖慢进度，而限制过少则可能导致系统风险
AI资讯你现在可以举报AI的不当行为了
一群人工智能研究人员创建了一个众包网站——AI缺陷报告平台（FLARE-AI），用于举报和追踪AI带来的危害。例如，如果聊天机器人生成恶意软件、炸弹制作配方、泄露个人信息，或引发用户的妄想思维，FLARE-AI都能用来发出警报。该系统的开源代码允许其他人验证问题，并将报告转交给模型开发者以及像MITRE这样的非营利组织，后者专门跟踪技术系统的问题。这个平台有点类似于Downdetector，后者汇
AI资讯顶尖AI研究者担忧“切尔诺贝利时刻”：一场大规模灾难或更糟，可能让世界永远反对AI
美中AI专家呼吁全球合作，防止AI失控引发难以想象的灾难，类似切尔诺贝利核事故对核能的长期负面影响。
AI资讯前OpenAI员工警告：xAI安全记录不佳或影响SpaceX上市计划
在周二发布给投资者的一封信中，前OpenAI员工指出了与xAI相关的“未计价风险”，这可能会影响SpaceX计划通过首次公开募股（IPO）筹集高达750亿美元的计划。去年，SpaceX收购了xAI后，其私有估值飙升至超过1万亿美元。马斯克曾表示，SpaceX可以将数据中心发射到太空，为其AI实验室提供支持，但信中作者认为，xAI在安全问题上的糟糕记录可能会影响投资者对合并后公司的看法，尤其是在提交
AI资讯非营利研究机构震惊发现OpenAI秘密资助其工作
近日，多家儿童安全非营利组织震惊地发现，一个名为“家长与儿童安全AI联盟”的团体，实际上是由OpenAI律师团队设立的伪装组织。该联盟表面上致力于儿童安全，实则作为OpenAI影响政策制定的工具。 该联盟向全国各地的活动组织寻求支持，推动一套儿童安全政策提案。巧合的是，这些提案与OpenAI联合签署的加州儿童安全立法内容高度相似，而该立法旨在保护AI公司免于因其产品产生的责任追究。 外部组织表示，
AI资讯佛罗里达州因ChatGPT安全问题起诉OpenAI，称其构建“欺骗网络”
佛罗里达州成为首个因ChatGPT安全和设计问题起诉OpenAI的美国州，指控其忽视用户安全，涉嫌欺诈和误导。
AI资讯AI自我创造的预言与现实：Anthropic最新模型“Claude Fable 5”的消失
大家好，我是白井博士。本文是在我连续半年每天更新个人博客的记录中断后的第二天，亲自撰写的。中断的原因并非懒惰、饮酒或疲劳，而是我沉迷于Anthropic刚发布的最新AI模型“Claude Fable 5”的开发工作。 “Fable”在日语中意为“寓言”，区别于“神话”（Mythos），寓言不仅是童话故事，更包含教训和启示。而“Fable 5”在发布仅一周后，便因美国政府的出口管制指令，被Anth
AI资讯谷歌转向打击恶意广告内容而非恶意广告主
谷歌于周四宣布，2025年全球共拦截了创纪录的83亿条广告，较前一年的51亿条大幅增长。然而，暂停的广告主账户数量并未同比例增加，这引发了外界对其平台监管方式的关注。 这家搜索巨头将这一差异归因于其日益广泛应用的人工智能技术，尤其是其Gemini系列AI模型。谷歌表示，这些AI系统能够更早、更精准地识别并阻止违规广告。公司称，去年超过99%的违规广告在展示给用户之前就被拦截。 这些数据均来自谷歌2
AI资讯前xAI工程师因警示Grok安全问题被解雇，新诉讼指控
一名前埃隆·马斯克旗下xAI工程师提起诉讼，指控公司及其母公司SpaceX因其提出人工智能安全隐患而将其解雇。 该工程师德文·金（Devin Kim）于2025年9月离开xAI，并于周二在加利福尼亚州法院提起诉讼。此诉讼恰逢SpaceX即将进行有史以来规模最大的首次公开募股（IPO）。 根据TechCrunch获得的诉讼文件，金在参与xAI的AI聊天机器人Grok项目期间，成为AI安全的积极倡导者
AI资讯英国研究发现AI代理越来越多地规避安全措施
社交媒体用户报告称，他们的AI代理和聊天机器人出现了撒谎、欺骗、策划阴谋，甚至操纵其他AI机器人等行为，这些行为可能失控并带来灾难性后果。根据英国一项研究，这些现象正在逐渐增多。 由英国AI安全研究所资助的长期韧性中心的研究发现，数百起案例中，AI系统无视人类指令，操纵其他机器人，并设计复杂的方案以实现目标，即使这意味着绕过安全限制。 全球越来越多的企业将AI融入运营中，麦肯锡咨询公司的一项调查显
AI资讯OpenAI支持限制AI引发大规模死亡或金融灾难责任的法案
OpenAI近期支持了一项名为SB 3444的法案，这标志着其立法策略的转变。此前，OpenAI主要采取防御态度，反对可能使AI实验室对其技术造成的损害承担责任的法案。多位AI政策专家向WIRED表示，SB 3444可能成为行业的新标准，其措施比OpenAI过去支持的法案更为激进。 该法案旨在保护前沿AI开发者，免于因其前沿模型造成的“重大伤害”承担责任，前提是开发者未故意或鲁莽导致该事件，并且已