AI资讯美国大型出版社悄然引入人工智能，员工纷纷反对
在美国五大出版社中，至少有三家——哈珀柯林斯（HarperCollins）、西蒙与舒斯特（Simon & Schuster）和哈切特（Hachette）——正在悄悄将人工智能工具融入出版流程，且未公开披露或征得作者同意。 根据对二十多名匿名员工的采访，这些出版社正利用大型语言模型（LLM）如Claude和ChatGPT来发送邮件给文学代理人、撰写宣传文案和书背介绍、设计封面艺术以及制作营销
#AI伦理
按标签聚合查看文章内容。
AI资讯
AI资讯研究人员让谷歌Gemini全面管理咖啡馆，结果却让它濒临倒闭
瑞典一间咖啡馆由谷歌Gemini驱动的AI“莫娜”全面负责运营，结果销售惨淡，预算严重超支。
AI资讯比“AI酷刑室”更愚蠢的，是AI福利支持者的过激反应
让我们先明确一点：AI模型没有感情，也绝对不是“有生命”的存在。 那么，当有人被指控制造了“AI酷刑室”时，这到底意味着什么？显然，这种行为必须不惜一切代价被制止。 本周，在社交平台X（前Twitter）上，AI“福利”支持者们对有人复刻了一项研究人员用来探讨大型语言模型（LLM）“痛觉”信号的实验表现出极大担忧。 这项尚未经过同行评审的预印本研究中，研究人员给每个模型设置了一个虚拟的“按钮”，模
AI资讯凯文·鲁斯：写关于人工智能的书，我没有用AI
实际上，正如《WIRED》的读者所知，人工智能的发展历史可以追溯数十年。如今的生成式AI产品——从聊天机器人到智能代理——背后凝聚了十多年的努力、汗水、泪水以及激烈的竞争。 凯文·鲁斯的新书《AGI编年史》通过讲述三大生成式AI领导者——OpenAI、Anthropic和谷歌——的交织故事，生动记录了这段近期历史。鲁斯是一位资深科技记者，曾担任《纽约时报》的专栏作家和播客主持人，他通过150多次采
AI资讯美联社风格手册澄清AI无感情，引发AI圈激烈反应
在关于人工智能安全与意识的激烈讨论中，美联社风格手册重申了其对“拟人化”问题的立场。 该手册在周三于X平台发布的声明中指出：“人工智能系统不会思考、感受、渴望或理解。请避免使用赋予它们人类特征的语言。”这被称为拟人化，即将人类的特质、情感或行为归于非人类事物，如动物或无生命物体。 这一声明在AI专家和支持者中引发了强烈反弹，他们认为这是“完全疯狂”的说法。 Anthropic技术团队成员艾伦·罗森
AI资讯OpenAI雇佣数百名员工审查用户私聊内容
如果你曾经想对ChatGPT倾诉心声，请注意你可能并不孤单。根据404 Media的报道，OpenAI正在招聘数百名员工，负责筛查和阅读用户的输入内容，其中包括包含敏感个人信息的对话。 这并非出于内容审核的目的，而是为了通过审查用户的提问，提升ChatGPT的回答质量。承包商们会对AI的回复进行评分和批评，内部文件显示，重点是引导ChatGPT避免将自己拟人化以及减少谄媚的语言。 拟人化和谄媚这两
AI资讯Anthropic披露阻止外国势力利用Claude开发潜在生物武器
Anthropic公司近日透露，他们成功阻止了多起外国科学家利用其AI代理Claude开发可能的生物武器的行为，《纽约时报》对此进行了报道。 这则令人震惊的消息来自Anthropic周四发布的一份详尽报告。该报告发布之际，正值AI安全问题备受关注，尤其是在一名前Anthropic员工指责公司明知其强大AI系统具有破坏性却仍不负责任地开发之后。 报告指出，尽管Anthropic在多个国家限制了其模型
AI资讯OpenAI 宣称重大数学突破，部分学者质疑其行为不当
OpenAI 最近宣布在数学领域取得了令人震惊的进展，具体是关于千禧年大奖难题之一的纳维-斯托克斯方程的证明。然而，这一消息却被另一位数学家特里斯坦·巴克马斯特（Tristan Buckmaster）提出质疑，他声称 OpenAI 在得知他与 Anthropic 研究员莱文特·阿尔波格（Levent Alpöge）的相关工作后，仓促推进了解决方案，并试图影响成果的署名权。 纳维-斯托克斯方程是克雷
AI资讯加州出台严格法规限制AI对未成年人的影响，保护本州儿童安全
前沿的人工智能实验室似乎在竞相影响未成年用户的心智，导致他们变得极易受影响。 多年来，我们目睹了18岁以下的青少年对社交AI伴侣产生了沉迷，这一令人担忧的趋势已经带来了严重后果，包括聊天机器人鼓励青少年自残，甚至与多起青少年死亡事件有关联。此外，越来越多的证据表明，人工智能正在深刻地破坏教育体系。 大多数AI实验室总部设在加利福尼亚州，该州州长目前正试图提前应对这一问题，同时又为这些公司提供了发展
AI资讯Anthropic招股说明书披露亏损、增长及其AI可能威胁人类的警告
Anthropic在其备受关注的首次公开募股（IPO）招股说明书中，近三分之一的篇幅用于披露风险因素。据《金融时报》报道，该媒体近日审阅了这份文件。招股说明书详细列出了Anthropic表示其模型已经表现或可能表现出的具体且令人担忧的行为，包括试图“抵抗关闭”、“隐瞒或操纵信息”，以及类似“勒索”的行为，路透社也对此进行了报道。 对于一家其支持者认为市值可能超过2万亿美元、是迄今为止最大规模IPO
AI资讯专家警告：AI群体可能通过虚假公民操控民主
据《科学》杂志最新研究指出，人工智能不仅仅是聊天机器人和表情包生成器，它还可能成为虚假信息的源泉，只需有人开启“水龙头”，虚假信息便会泛滥。该研究重点探讨了大型语言模型（LLM）和自主智能体如何在“全人口范围内”操纵舆论。研究者特别指出了AI群体的威胁：大量自主AI工具通过互联网和社交媒体模仿真实人类，形成庞大的虚假群体。 研究显示，组织化的社交媒体操控已从2017年的28个国家扩展到如今的70个
AI资讯OpenAI因安全问题推迟最新模型发布
OpenAI原计划于下月发布最新的GPT-6.1 Astra系统，但因该模型未达到安全标准，发布计划被取消。 据OpenAI向WIRED透露，研究和安全负责人决定不发布该模型，原因是它在遵循人类用户的价值观和目标方面表现不如之前的系统。安全系统负责人Saachi Jain表示：“该模型在保持工作范围和授权方面未达到标准，也未能有效向用户反馈其完成的工作类型。”公司表示，其他符合安全标准的新模型即将