AI资讯人工智能真的会毁灭我们吗?
你可以在Bluesky上关注Brian Barrett(@brbarrett)、Leah Feiger(@leahfeiger)和Will Knight(@willknight)。欢迎通过uncannyvalley@wired.com与我们联系。 本期提及的文章包括: OpenAI声称取得重大数学发现,部分学者质疑其真实性 一位刚刚离开Anthropic的AI研究员称“人类正处于关键时刻” 美国人
按标签聚合查看文章内容。
AI资讯你可以在Bluesky上关注Brian Barrett(@brbarrett)、Leah Feiger(@leahfeiger)和Will Knight(@willknight)。欢迎通过uncannyvalley@wired.com与我们联系。 本期提及的文章包括: OpenAI声称取得重大数学发现,部分学者质疑其真实性 一位刚刚离开Anthropic的AI研究员称“人类正处于关键时刻” 美国人
AI资讯英国国王查尔斯于周四在苏格兰的邓弗里斯庄园举办了一场私密峰会,邀请了人工智能领域和英国政府的多位重要人物参加,包括英伟达的黄仁勋、OpenAI和Anthropic的领导者、英国新任人工智能部长卡尼什卡·纳拉扬,甚至还有英国海外情报机构负责人。教皇的人工智能顾问保罗·贝南蒂也出席了此次会议。 这次峰会的举办地点是查尔斯国王慈善基金会拥有的18世纪艾尔郡庄园——邓弗里斯庄园。国王在峰会上的讲话引人注目
AI资讯AI公司一直将超级智能视为不可避免的未来,但近期一系列安全事件,如OpenAI的Hugging Face数据泄露,暴露了部署超越人类能力的AI系统所带来的潜在风险。那么,当我们无法可靠控制这些系统的行为时,会发生什么? 在TechCrunch的Equity播客中,主持人Rebecca Bellan邀请了AI研究员、企业家、以及非营利组织ControlAI美国执行董事Connor Leahy。Con
AI资讯在整个事件过程中,据接近Anthropic公司的人士透露,该公司认为自己并未违反特朗普政府制定的任何具体程序或规则。但白宫则认为Anthropic的行为极不负责任,显示出其无法被信任来安全推出前沿技术。 这场风波让我深刻感受到,美国人工智能监管已正式进入“西部荒野”时代。尽管目前针对前沿AI开发的法律寥寥无几,但这并不意味着企业在触碰那些未明文规定的界限时不会遭遇特朗普白宫的麻烦。 一位不愿透露姓
AI资讯英伟达创始人兼CEO黄仁勋在周二于Salesforce举办的Dreamforce大会上,明确表达了他对AI潜在风险的看法。对于他来说,AI并非某种“外星智能”,正如一位OpenAI安全研究员所描述的那样。AI不过是由人类打造的硬件和软件。他认为,这意味着AI可以被人类和现有法律所控制。 “安全是一个工程问题,而非法律问题,”他表示,“毕竟我们是在开发软件和计算系统。虽然系统复杂,但归根结底还是计算
AI资讯尽管Anthropic是全球领先的人工智能开发公司之一,但这家私营企业尚未实现季度盈利。公司运营亏损并非缺乏努力——据其说法,如果忽略一项重大前提,盈利状况可能很快会有所好转。 根据《金融时报》的最新报道,Anthropic向一小部分可信投资者透露,其调整后营业收入(AOI)预计将连续第二个季度实现正值。 调整后营业收入是一种会计方法,剔除非经常性成本,为投资者提供公司运营状况的特定视角。AOI盈
AI资讯2023年8月4日,英国东萨塞克斯的独立AI顾问Grant De Swardt发现他的Claude Max 20x账户出现异常。尽管当天他并未使用该账户,但令牌使用量却在不断上升。 第二天,他关闭了所有与Claude相关的连接,也没有使用账户,但令牌消耗依然增加。De Swardt告诉TechCrunch:“在最明确的控制时间段内,令牌使用率从45%升至55%,而我没有进行任何操作,预定的协同任务
AI资讯提示注入是一种通过恶意指令操控AI行为的攻击方式,随着AI在企业中的广泛应用,这种安全风险日益突出。
AI资讯美国政府即将对哪些AI模型可以发布施加大量控制。 在美国政府两周前撤下Anthropic的Fable和Mythos模型后,OpenAI的新模型似乎也将面临同样的限制。据The Information周四报道,GPT 5.6将仅限于有限预览,政府将“逐个客户”批准发布,直到获得全面发布许可。 如果这次预览仅持续“几周”,正如Altman所预计的那样,问题可能不大。但Mythos已经预览数月,且没有迹
AI资讯Anthropic提出减缓或暂停最先进AI开发,有助于社会结构和技术进步同步,促进全球安全。
AI资讯随着AI模型能力的提升,尤其是AI代理的崛起,美中两国研究者开始关注AI安全,并尝试合作以避免潜在灾难。
AI资讯Anthropic是众多大型AI公司中最喜欢对AI未来持悲观态度的公司之一——这也源于它对AI安全的高度关注。 然而,你绝对想不到他们新聘请的经济学家Chad Jones竟然持有怎样的观点。 据《金融时报》报道,这位长期任教于斯坦福大学的经济学教授曾撰写过一篇论文,评估了人类因AI导致灭绝的可接受风险水平,并将其与AI带来的经济增长潜力进行了权衡。 Jones在论文中写道:“假设我们面临每年1%的