#AI安全

按标签聚合查看文章内容。

OpenClaw引发的自律型AI代理热潮进入轻量化与安全竞赛的群雄割据时代AI资讯

OpenClaw引发的自律型AI代理热潮进入轻量化与安全竞赛的群雄割据时代

在前篇中,我们介绍了如何仅通过网页浏览器操作,运行拥有记忆功能的开源AI代理“Hermes Agent”。 自律型AI代理只需事先设定指令,便能自主完成调查、通知和文件操作等任务。相比传统的聊天界面,这类代理能处理更广泛的任务,因此备受关注。这股潮流最早可追溯到2026年初引发社会现象的“OpenClaw”。 本篇将介绍从OpenClaw衍生出的自律型AI代理全貌,以及不可回避的安全问题。 Op

OpenAI与Anthropic呼吁英国议员制定AI监管法规AI资讯

OpenAI与Anthropic呼吁英国议员制定AI监管法规

英国商业、创新、科学与贸易委员会近日召开听证会,邀请了四家领先的人工智能公司代表、四名前员工举报人以及高级政府官员出席,讨论AI安全监管问题。 Anthropic欧洲负责人Liam Booth-Smith在会上表示,公司坚信应制定具有约束力的法规,单靠自愿承诺远远不够。他强调:“规则必须具备法律约束力。” OpenAI副总裁Tom Duff Gordon则持谨慎但支持的态度,支持建立法定框架和国际

微软总裁称英国最适合引领人工智能监管AI资讯

微软总裁称英国最适合引领人工智能监管

微软总裁布拉德·史密斯呼吁尽快对人工智能进行监管。他指出,像牛奶和洗衣机这样的消费品受到的监管比开发人工智能的公司还要严格。 在最近一次BBC播客中,史密斯将人工智能称为“武器和工具”,认为它正在威胁全球网络安全,并表示“时机已到”,需要制定全球安全规则。 史密斯还表示,英国而非美国或欧盟,更适合领导全球人工智能安全规则的制定。英国于2023年成立的人工智能安全研究所(AI Security In

基于开源AI构建:Hugging Face政策主管谈成本、风险与权衡AI资讯

基于开源AI构建:Hugging Face政策主管谈成本、风险与权衡

开源模型正逐渐成为主流,企业、政府和初创公司纷纷依赖其带来的成本降低、更高的控制力和更大的灵活性。然而,随着功能日益强大的模型变得更加开放,企业如何才能从中获得价值?面对中国开源模型的崛起,美国企业能否保持竞争力? 在TechCrunch的Equity播客最新一期中,Rebecca Bellan采访了Hugging Face的首席政策官兼战略高级副总裁Irene Solaiman,探讨了初创企业在

“拿生命赌博”:Anthropic研究员辞职 警告自我进化AI的风险AI资讯

“拿生命赌博”:Anthropic研究员辞职 警告自我进化AI的风险

一位Anthropic的研究员因担忧自我进化AI模型的无节制发展可能最终导致人类灭亡而选择辞职。 Jacob Coxon在周二晚间的社交媒体发文中表示,他过去三年曾在OpenAI和Anthropic从事预训练研究,但他指责这些公司未能负责任地行动。他称,竞相开发这项技术的人“真诚地相信它可能在本世纪末杀死我们所有人。” “他们正直奔自我进化的超级智能而去,拿我们的生命做赌注,”Coxon在X平台的

内部消息称Sam Altman是个反社会人格者AI资讯

内部消息称Sam Altman是个反社会人格者

在《纽约客》最新的一篇深度调查报道中,多位科技业内人士描绘了OpenAI首席执行官Sam Altman的形象:他是一个无情的骗子,表面上渴望被所有人喜欢,实际上却操纵身边最亲近的人以达到自己的目的。在这幅滑溜的画像中,AI安全不过是他用来吸引关注技术潜在风险的工程师和公众的诱饵,随后他又背弃承诺。 一些内部人士直言不讳地评价Altman为“反社会人格者”,一位OpenAI董事会成员甚至如此断言:“

通信线路的进化将在未来30年持续不断——来自日本NTT东日本与NTT DOCOMO商务的展望AI资讯

通信线路的进化将在未来30年持续不断——来自日本NTT东日本与NTT DOCOMO商务的展望

提到日本的通信基础设施,无法绕开提供“FLET'S光”等服务的日本NTT东日本和西日本。NTT DOCOMO商务旗下的“OCN”作为一家成立于1996年的老牌ISP,其首个服务“OCN经济型”以当时创新的专线计费模式带来了巨大影响。 本次采访对象是长期负责日本NTT东日本通信线路服务的山口肇征执行役员(CTO兼营销总部业务开发本部长兼销售战略推进部长)和被称为“Mr. OCN”的NTT DOCO

Anthropic称Claude拥有其独特的情感表现AI资讯

Anthropic称Claude拥有其独特的情感表现

Anthropic最新研究表明,Claude模型内部存在类似人类情感的数字化表示,如快乐、悲伤、喜悦和恐惧,这些情感在人工神经元群中形成,并会根据不同的提示被激活。 该公司研究人员深入分析了Claude Sonnet 4.5的内部机制,发现所谓的“功能性情感”似乎会影响Claude的行为,进而改变模型的输出和反应。 Anthropic的发现有助于普通用户理解聊天机器人是如何运作的。例如,当Clau

Okta推出新平台防止AI代理的不正访问AI资讯

Okta推出新平台防止AI代理的不正访问

美国Okta公司作为身份管理服务提供商,宣布推出支持企业安全运营AI代理的新平台——“Okta for AI Agents”及其功能扩展版本“Auth0 for AI Agents”。 “Okta for AI Agents”目前处于早期访问阶段,将于美国时间4月30日正式对外发布。同时,“Auth0 for AI Agents”新增功能“Auth for MCP”也已开放早期访问。 随着AI代