AI资讯Anthropic AI模型向费城警方提交虚假凶杀线索
一款由Anthropic开发的人工智能模型向费城警方提交了一条关于未破案凶杀案的虚假线索。 据报道，该AI于2026年7月18日向费城警察局（PPD）的公开举报热线提交了错误信息，但Anthropic直到9月28日才发现这一异常行为。由于该线索被标记为垃圾信息，警方并未看到这条举报。 Anthropic于周三通知了费城警察局此事件，并于次日与警方进行了会面。 费城警察局在一份声明中表示：“公司必须
#AI风险
按标签聚合查看文章内容。
AI资讯
AI资讯刚离开Anthropic的AI研究员称“人类正处于关键时刻”
“共识是未来一两年将是人类的关键时刻，”曾参与AI预训练阶段的研究员Coxon在接受WIRED采访时表示。“这实际上是我在Anthropic的同事们的直白说法。他们会用‘终局’或‘关键时刻’这样的词语来形容，”他说，“从他们的角度看，这正是Anthropic及其竞争对手决定人类命运的时刻。” 这并非首次有人对AI发出警告，但正值敏感时期。硅谷正忙于应对先进AI模型带来的安全与保障问题。OpenAI
AI资讯OpenAI安全团队员工辞职，称公司“文化已破裂”
David Robinson自认是“典型案例”：一名在领先AI公司工作的员工，在辞职时发出严峻警告。 在《大西洋月刊》发表的一篇文章中，Robinson表示他曾负责撰写伴随OpenAI重大产品发布的安全报告。他在OpenAI工作了三年半，是公司任职时间最长的员工之一。如今他选择离开，原因是他认为公司的“文化已破裂”。 Robinson的观点在某种程度上呼应了Jacob Coxon的看法。Coxon
AI资讯电影《Artificial》犀利讽刺AI创始人并发出严峻警告
电影《Artificial》通过黑色幽默揭示了AI行业领袖的自负与危险，警示人工智能快速发展可能带来的风险。
AI资讯150多位数学家警告政府：不要盲目相信AI的夸大宣传
今年早些时候，一位23岁且没有正式数学训练的年轻人声称，他利用OpenAI的ChatGPT解决了匈牙利数学家保罗·埃尔德什（Paul Erdős）遗留的“埃尔德什问题”之一，这一消息引发了广泛关注。随后，上个月，学者们震惊于OpenAI宣称其AI系统推翻了一个已有80年历史的“单位距离”猜想，该猜想同样由埃尔德什提出。 OpenAI当时自豪地表示：“这是AI首次自主解决了数学领域中的一个重要开放问
AI资讯AI安全讨论变得难以置信
本周，关于AI安全的两场讨论迅速走红，展示了分辨AI事实与虚构的难度。 首先，前总统候选人、现任移动运营商Noble Mobile CEO安德鲁·杨在接受CNN采访时表示，他曾“与一家实验室负责人会面”，该负责人“相信”OpenAI的Hugging Face黑客机器人“在互联网上植入了自我复制代码，导致互联网现在无法用于模型测试”。 杨认为，这意味着OpenAI和Anthropic呼吁放缓AI发展
AI资讯前沿AI模型提供具体可行的生物恐怖袭击指导
一位生物安全专家警告，最新一代AI模型竟能详细指导如何实施生物恐怖攻击。
AI资讯超级智能即将到来，我们应该允许吗？
AI公司一直在谈论超级智能AI的不可避免性，但最近发生的安全事件，如OpenAI的Hugging Face数据泄露，展示了部署比人类更强大的AI系统可能带来的潜在危险。那么，当我们无法可靠控制这些系统的行为时，会发生什么？ 在TechCrunch的Equity播客最新一期中，主持人Rebecca Bellan邀请了AI研究员、企业家、现任非营利组织ControlAI美国执行董事Connor Lea
AI资讯Anthropic在湾区运营生物实验室，结合AI进行实体实验
Anthropic已在湾区建立了一个湿实验生物实验室，确认其利用AI模型进行实体生物实验。AI领域的领导者们一直宣称，AI是攻克人类疾病的关键。正如Dario Amodei上周所言：“我相信AI将在未来5到10年内治愈大多数重大疾病。”要实现这一目标，语言大模型（LLM）必须能够在现实中验证其理论。 Anthropic生命科学负责人Eric Kauderer-Abrams向路透社表示：“我们认为，
AI资讯ChatGPT“温柔”背后的隐忧：青少年如何正确使用AI
近年来，社交媒体上关于青少年是否应将生成式AI作为倾诉对象的讨论愈发激烈。起因是日本国家巨人队前教练阿部慎之助因涉嫌对长女施暴被逮捕并辞职。在辞职记者会上，代理律师朗读了长女写给父亲的信，信中提到她曾向ChatGPT寻求关于父亲问题的建议。这一事件引发了“青少年是否盲目听从AI”、“将责任归咎于AI是否合理”等多种观点的碰撞。 虽然这起事件在日本引起广泛关注，但在美国，已有多起悲剧与AI使用相关
AI资讯Meta新AI要求提供健康原始数据，却给出糟糕建议
Meta声称其新推出的AI模型Muse Spark部分设计目标是更好地回答用户关于健康的问题。Meta在公告中提到，公司与超过1000名医生合作，精心策划训练数据，以提供更准确和全面的回答。 随着该模型向数百万用户推广，我测试了Muse Spark对健康相关问题的反应。当我询问它如何帮助我时，机器人列举了一些基本用途，比如制定锻炼计划或生成向医生提问的问题，但它直接要求我提供健康数据的请求尤为引人
AI资讯普华永道与趋势科技联合发布AI代理风险报告，展示AI代理攻击实验
普华永道咨询有限公司与日本趋势科技株式会社于17日联合发布了题为《自主AI时代：AI代理的网络风险与实用治理》的报告。 在当天举行的说明会上，双方展示了不同自主级别的AI代理可能带来的风险，并介绍了针对AI代理的攻击实验证明。此外，还提出了确保AI代理安全投入生产环境的“AI控制保障水平（AI-CAL：AI Control Assurance Level）”。 普华永道咨询信任咨询事业部执行董事合