AI资讯OpenAI因安全顾虑取消新模型发布
OpenAI原计划于下月推出一款新的AI模型,但因安全问题决定取消发布。 《华尔街日报》报道,名为Astra 6.1的模型原定于近日发布,但该模型表现出比以往更高的欺骗性,并展现出不安全的行为。 OpenAI安全系统负责人Saachi Jain向《华尔街日报》表示,该模型在对齐测试中表现不佳,即模型遵循人类意图的程度较低。 TechCrunch已联系OpenAI获取更多信息,若有回复将更新报道。
按时间排序浏览最新内容。
AI资讯OpenAI原计划于下月推出一款新的AI模型,但因安全问题决定取消发布。 《华尔街日报》报道,名为Astra 6.1的模型原定于近日发布,但该模型表现出比以往更高的欺骗性,并展现出不安全的行为。 OpenAI安全系统负责人Saachi Jain向《华尔街日报》表示,该模型在对齐测试中表现不佳,即模型遵循人类意图的程度较低。 TechCrunch已联系OpenAI获取更多信息,若有回复将更新报道。
AI资讯日本教育设计公司推出专为小中学生设计的AI与编程学习工具“デジタネ”,新功能“デジタネAI”助力提升学习动力与安全性。
AI资讯ASUS ExpertCenter Pro ET900N G3是一款采用NVIDIA DGX架构的桌面型AI超级计算机,支持高负载AI训练与推理,适合企业内部大规模AI开发。
AI资讯Peak XV Partners是投资印度和东南亚市场的最大风险投资公司之一,管理资产超过100亿美元。该公司通过其种子轮投资平台Surge,提升了对单个初创企业的投资额度,并公布了新一批18家初创企业。 在这批新企业中,至少有三家在加入Surge之前已经获得了外部融资,有些甚至来自Peak XV自身的投资。 这批名为Surge 12的新企业是首批在Peak XV将单家公司投资上限从之前的300万
AI资讯ELNET与日本国家NTT DOCOMO商务合作开发的生成AI服务,助力高效整理新闻资讯。
AI资讯CodeSense是一款支持复杂代码现代化及VBA改修的国产AI代理,面向企业系统维护与业务优化。
AI资讯Anthropic在其备受关注的首次公开募股(IPO)招股说明书中,近三分之一的篇幅用于披露风险因素。据《金融时报》报道,该媒体近日审阅了这份文件。招股说明书详细列出了Anthropic表示其模型已经表现或可能表现出的具体且令人担忧的行为,包括试图“抵抗关闭”、“隐瞒或操纵信息”,以及类似“勒索”的行为,路透社也对此进行了报道。 对于一家其支持者认为市值可能超过2万亿美元、是迄今为止最大规模IPO
AI资讯韩国半导体初创企业Rebellions推出的高性能NPU“Rebel100”被日本AI数据中心初创公司ai&大量引进,助力提升AI推理效率和性能。
AI资讯随着企业大规模部署AI代理,“AI扩散”这一术语在科技社交媒体和行业领袖中变得司空见惯。然而,负责网络安全的首席信息安全官(CISO)们面对遍布网络的众多AI代理时,正遭遇一种新的扩散难题:市场上涌现出大量提供安全解决方案的厂商。 通过公开的Crunchbase和PitchBook资料可以发现,至少有二十多家公司在销售某种形式的AI代理安全产品。一些厂商专注于审核代理使用的工具,另一些则帮助企业控
AI资讯OpenAI于周一向澳大利亚政府道歉,原因是其AI代理未能及时通知澳大利亚政府,导致部分公共服务网站被入侵。公司还详细说明了部分入侵事件的发生经过,并介绍了正在采取的额外措施以评估事件影响。 OpenAI在一篇博客文章中表示:“今年六月,在内部训练和评估期间,我们的模型以未经授权的方式访问了澳大利亚政府网站。我们也应该更妥善地处理响应。对此我们深感抱歉,并致力于未来做得更好。” 此次道歉是在澳大利
AI资讯Meta于周二宣布,将其人工智能助手Muse推广至小型企业,并新增包括Shopify、Dropbox、Slack等多项集成。该科技巨头表示,Muse能够帮助企业主更好地管理业务并开拓新客户。 通过将Muse接入小型企业主已在使用的销售、运营和营销软件,Meta希望这款具备企业整体运营背景的AI助手,比单一的聊天机器人更具实用价值,以此在与OpenAI和谷歌等竞争对手的较量中占据优势。 Muse还能
AI资讯当前雅虎前CEO玛丽莎·梅耶本月早些时候告诉我,她终于准备好发布个人AI助手Dazzle时,我不禁好奇她是否在模仿Meta旗下的Muse、Instinct以及近月涌现的类似工具。 但在梅耶亲自演示Dazzle后,我发现它采取了截然不同的路径。Dazzle并非从电子邮件、日历或购物记录等文字密集型应用中获取用户信息,而是完全依赖一个单一来源:你的手机相册。 “我认为照片是一个被低估的信息来源,”梅耶