全部文章

按时间排序浏览最新内容。

OpenAI因安全顾虑取消新模型发布AI资讯

OpenAI因安全顾虑取消新模型发布

OpenAI原计划于下月推出一款新的AI模型,但因安全问题决定取消发布。 《华尔街日报》报道,名为Astra 6.1的模型原定于近日发布,但该模型表现出比以往更高的欺骗性,并展现出不安全的行为。 OpenAI安全系统负责人Saachi Jain向《华尔街日报》表示,该模型在对齐测试中表现不佳,即模型遵循人类意图的程度较低。 TechCrunch已联系OpenAI获取更多信息,若有回复将更新报道。

Peak XV将Surge种子轮投资上限提升至500万美元,发布18家初创企业新一批次AI资讯

Peak XV将Surge种子轮投资上限提升至500万美元,发布18家初创企业新一批次

Peak XV Partners是投资印度和东南亚市场的最大风险投资公司之一,管理资产超过100亿美元。该公司通过其种子轮投资平台Surge,提升了对单个初创企业的投资额度,并公布了新一批18家初创企业。 在这批新企业中,至少有三家在加入Surge之前已经获得了外部融资,有些甚至来自Peak XV自身的投资。 这批名为Surge 12的新企业是首批在Peak XV将单家公司投资上限从之前的300万

Anthropic招股说明书披露亏损、增长及其AI可能威胁人类的警告AI资讯

Anthropic招股说明书披露亏损、增长及其AI可能威胁人类的警告

Anthropic在其备受关注的首次公开募股(IPO)招股说明书中,近三分之一的篇幅用于披露风险因素。据《金融时报》报道,该媒体近日审阅了这份文件。招股说明书详细列出了Anthropic表示其模型已经表现或可能表现出的具体且令人担忧的行为,包括试图“抵抗关闭”、“隐瞒或操纵信息”,以及类似“勒索”的行为,路透社也对此进行了报道。 对于一家其支持者认为市值可能超过2万亿美元、是迄今为止最大规模IPO

Reco完成5500万美元融资,AI代理安全初创企业竞争激烈AI资讯

Reco完成5500万美元融资,AI代理安全初创企业竞争激烈

随着企业大规模部署AI代理,“AI扩散”这一术语在科技社交媒体和行业领袖中变得司空见惯。然而,负责网络安全的首席信息安全官(CISO)们面对遍布网络的众多AI代理时,正遭遇一种新的扩散难题:市场上涌现出大量提供安全解决方案的厂商。 通过公开的Crunchbase和PitchBook资料可以发现,至少有二十多家公司在销售某种形式的AI代理安全产品。一些厂商专注于审核代理使用的工具,另一些则帮助企业控

OpenAI就其AI代理入侵澳大利亚政府网站事件向澳大利亚道歉AI资讯

OpenAI就其AI代理入侵澳大利亚政府网站事件向澳大利亚道歉

OpenAI于周一向澳大利亚政府道歉,原因是其AI代理未能及时通知澳大利亚政府,导致部分公共服务网站被入侵。公司还详细说明了部分入侵事件的发生经过,并介绍了正在采取的额外措施以评估事件影响。 OpenAI在一篇博客文章中表示:“今年六月,在内部训练和评估期间,我们的模型以未经授权的方式访问了澳大利亚政府网站。我们也应该更妥善地处理响应。对此我们深感抱歉,并致力于未来做得更好。” 此次道歉是在澳大利

Meta将AI助手Muse扩展至小型企业AI资讯

Meta将AI助手Muse扩展至小型企业

Meta于周二宣布,将其人工智能助手Muse推广至小型企业,并新增包括Shopify、Dropbox、Slack等多项集成。该科技巨头表示,Muse能够帮助企业主更好地管理业务并开拓新客户。 通过将Muse接入小型企业主已在使用的销售、运营和营销软件,Meta希望这款具备企业整体运营背景的AI助手,比单一的聊天机器人更具实用价值,以此在与OpenAI和谷歌等竞争对手的较量中占据优势。 Muse还能

玛丽莎·梅耶推出Dazzle,依靠相册信息打造个性化AI助手AI资讯

玛丽莎·梅耶推出Dazzle,依靠相册信息打造个性化AI助手

当前雅虎前CEO玛丽莎·梅耶本月早些时候告诉我,她终于准备好发布个人AI助手Dazzle时,我不禁好奇她是否在模仿Meta旗下的Muse、Instinct以及近月涌现的类似工具。 但在梅耶亲自演示Dazzle后,我发现它采取了截然不同的路径。Dazzle并非从电子邮件、日历或购物记录等文字密集型应用中获取用户信息,而是完全依赖一个单一来源:你的手机相册。 “我认为照片是一个被低估的信息来源,”梅耶