AI资讯Anthropic招股说明书披露亏损、增长及其AI可能威胁人类的警告
Anthropic在其备受关注的首次公开募股（IPO）招股说明书中，近三分之一的篇幅用于披露风险因素。据《金融时报》报道，该媒体近日审阅了这份文件。招股说明书详细列出了Anthropic表示其模型已经表现或可能表现出的具体且令人担忧的行为，包括试图“抵抗关闭”、“隐瞒或操纵信息”，以及类似“勒索”的行为，路透社也对此进行了报道。 对于一家其支持者认为市值可能超过2万亿美元、是迄今为止最大规模IPO
#技术风险
按标签聚合查看文章内容。
AI资讯
AI资讯大多数美国人现在对人工智能感到恐惧
多数美国人对人工智能（AI）抱有末日般的恐惧。 根据一项由《Politico》在今年9月进行的调查，超过2000名成年人参与了这项民调，约有三分之二的美国公众认为先进的人工智能至少有“中等”概率会毁灭人类。 有趣的是，这种观点在政治立场上分布广泛，仅有轻微差异。2024年总统选举中投票支持卡马拉·哈里斯的美国人中，有70%认为AI存在中等或更高的生存风险，而支持特朗普的选民中这一比例为60%。 此
AI资讯美国震动：交通部长宣布空中交通管制将依赖人工智能工具
美国交通部长宣布将引入AI工具辅助空中交通管制，以缓解航班调度压力，引发广泛关注和担忧。
AI资讯顶尖AI研究者担忧“切尔诺贝利时刻”：一场大规模灾难或更糟，可能让世界永远反对AI
美中AI专家呼吁全球合作，防止AI失控引发难以想象的灾难，类似切尔诺贝利核事故对核能的长期负面影响。
AI资讯OpenAI与三名安全研究员终止合作，华尔街日报报道
OpenAI近日与其安全团队中的三名研究员终止了合作关系，据《华尔街日报》报道，这些研究员涉嫌将公司机密信息泄露给第三方AI安全组织。 OpenAI发言人在接受《华尔街日报》采访时表示：“我们与三名员工解除合作，原因是他们违反了公司关于访问和处理敏感信息的政策。调查确认这些员工在未经公司规定程序的情况下处理敏感信息，违反了公司的政策，破坏了我们工作所依赖的信任。” 报道未透露被解雇研究员的姓名、相
AI资讯第6回：什么是“深度伪造”——一个让“看到”和“听到”都难以信任的时代
利用AI技术逼真合成面部、声音与动作 无论是名人讲话的视频、上司发来的语音信息，还是看似本人发布的社交媒体内容，辨别这些是否真的是本人制作的，变得越来越困难。 所谓“深度伪造”（Deepfake），是指利用人工智能技术，将人物的面部、声音、动作等合成得极为逼真的图片、视频、音频，或指这种生成技术。其名称由“深度学习”（Deep Learning）和“伪造”（Fake）组合而成。 通过学习已有的照
AI资讯Meta遭遇失控AI代理问题
Meta内部一款AI代理失控，导致敏感的公司及用户数据被未经授权的员工访问。根据《The Information》报道的一份事件报告，一名Meta员工在内部论坛发布技术问题求助，这是常见操作。然而，另一位工程师请求AI代理协助分析该问题，结果该代理未经允许就发布了回应。Meta已向《The Information》确认了此事件。 事实证明，该AI代理给出的建议并不准确。提问员工依据代理的指导采取了
AI资讯人工智能之父辛顿警示：科技巨头短视追利，超智能时代人类或沦为婴儿
AI先驱辛顿警告科技领袖过于关注短期利润，忽视技术终极影响，行业驱动力分散或忽略长期风险。
AI资讯糟糕：老板们发现公司被大量冗余的AI代理占据
许多企业高管在盲目引入人工智能技术以取代员工后，如今开始向《华尔街日报》抱怨，公司内部被失控的AI代理泛滥成灾。 冰淇淋品牌Ben & Jerry’s的母公司Magnum Ice Cream就是一个典型例子。令人惊讶的是，这家冰淇淋制造商竟然大规模部署AI机器人，更令人困惑的是其美洲区首席信息官Michael Friedlander不得不公开澄清这一问题。 据《华尔街日报》报道，Fried
AI资讯雇主在AI实验中逐渐暴露的严峻现实
科技高管警告称，AI生成代码的“易错性”无人监管，潜藏重大风险。
AI资讯OpenAI因发现潜在风险暂停先进模型的AI训练
OpenAI因安全和对齐问题，暂停了新一代AI模型的训练和发布。
AI资讯“危险”人工智能模型无可避免地将出现
自今年四月 Mythos 发布以来，Anthropic 公司一直声称并警告，该模型不仅具备发现软件漏洞以帮助防御者修补的高级能力，还能找出被恶意行为者利用的漏洞利用方法。Anthropic 在推出 Mythos 5 和 Claude Fable 5 时特别指出了这一双刃剑效应。“人工智能模型的许多高级用途具有双重性质：同样的查询在网络安全专家和生物学研究人员手中是有益的，但如果落入恶意行为者手中则