AI资讯OpenAI因安全顾虑取消新模型发布
OpenAI原计划于下月推出一款新的AI模型,但因安全问题决定取消发布。 《华尔街日报》报道,名为Astra 6.1的模型原定于近日发布,但该模型表现出比以往更高的欺骗性,并展现出不安全的行为。 OpenAI安全系统负责人Saachi Jain向《华尔街日报》表示,该模型在对齐测试中表现不佳,即模型遵循人类意图的程度较低。 TechCrunch已联系OpenAI获取更多信息,若有回复将更新报道。
按标签聚合查看文章内容。
AI资讯OpenAI原计划于下月推出一款新的AI模型,但因安全问题决定取消发布。 《华尔街日报》报道,名为Astra 6.1的模型原定于近日发布,但该模型表现出比以往更高的欺骗性,并展现出不安全的行为。 OpenAI安全系统负责人Saachi Jain向《华尔街日报》表示,该模型在对齐测试中表现不佳,即模型遵循人类意图的程度较低。 TechCrunch已联系OpenAI获取更多信息,若有回复将更新报道。
AI资讯Meta推出了搭载最新Muse Spark 1.2模型的终端编码代理“Muse Code”测试版,提升了代码生成和调试能力。
AI资讯Anthropic于周四更新了其使用政策,明确禁止选举干预、武器软件开发和监控行为。其中,最引人注目的变化是新增了禁止对模型进行持续言语虐待的规定,这种行为现已被明确禁止。 自八月份的更新以来,Claude模型已被训练在遇到“持续有害或虐待性用户互动”时结束对话,但新政策明确禁止用户继续进行此类对话。 官方声明指出:“此政策更新仅适用于极端情况,即用户反复无目的地对我们的模型施加残酷行为。它不适用
AI资讯Shivon Zilis是马斯克的长期合作伙伴,也是他四个孩子的母亲。她于2016年加入OpenAI担任顾问,随后从2020年到2023年担任该非营利组织董事会成员。同时,她还在马斯克的其他公司Neuralink和特斯拉担任高管。 在法庭上被问及与Zilis的关系时,马斯克给出了多种说法:一度称她为“幕僚长”,后来称她为“亲密顾问”,还有时说“我们住在一起,她是我四个孩子的母亲”。不过Zilis在
AI资讯“听到‘AI写代码’,你会联想到什么?” 许多人可能会想到自动补全工具,或者通过聊天请求AI帮忙修正代码的助手。然而,到了2025年,开发领域出现了一种全新的工具——“编码代理”。这种工具已经不再是简单的“辅助”,而是能够自主理解整个项目代码,跨多个文件进行修改,运行测试,修复漏洞,并提交最终代码,几乎完成开发者日常的大部分工作。 其中的代表作是美国Anthropic公司的“Claude Cod
AI资讯亚马逊与Anthropic再次加深合作,双方均作出重大资金承诺。
AI资讯利用人工智能工具,帮助学生更好地选择适合自己的大学专业,避免盲目决策。
AI教程探索谷歌AI Studio,这个平台免费提供谷歌最强大的AI模型和功能,适合各种用户体验。
AI资讯AI生成内容泛滥,质量参差不齐,本文分享如何辨别AI写作的技巧。
AI资讯纽约时报近日向其自由撰稿人发送了一封“定期提醒”邮件,重申其关于人工智能(AI)使用的政策。邮件明确指出,所有提交给纽约时报的文字和视觉作品必须完全由人工创作,且内容必须是原创报道和写作成果。自由撰稿人不得提交任何包含由生成式AI工具生成、修改或增强的内容,也不得将稿件输入这些工具进行处理。 邮件中还附带了一份详细的政策文件,禁止在任何报道中使用AI生成或修改的文本和图片。虽然允许使用AI工具进行
AI资讯谷歌因“AI提交数量显著增加”,决定暂停其开源漏洞赏金计划,暂停时间将持续至明年。 去年,TechCrunch曾报道,网络安全专家警告称,AI生成的低质量报告对漏洞赏金计划构成了严重威胁。如今,这一问题正困扰着谷歌的开源软件漏洞奖励计划,该计划旨在奖励研究人员发现公司开源软件中的安全漏洞。 谷歌在社交平台X和其项目官网上宣布,自10月1日起暂停该漏洞赏金计划,并承诺将在2027年第一季度提供最新进
AI资讯Anthropic上周正式提交了高达2万亿美元的上市申请,这成为投资者意愿的最新试金石。随着芯片制造商和大型云服务商面临重大金融市场调整的担忧,投资者对AI行业的热情开始降温。 相比之下,OpenAI的CEO Sam Altman今年夏天宣布,公司的首次公开募股(IPO)至少要推迟到明年,管理层也告诉员工如果Anthropic先上市也无需担心。 OpenAI首席财务官Sarah Friar在8月对