AI资讯越先进的人工智能模型，越表现出痛苦的迹象
随着人工智能模型变得越来越复杂，它们似乎也开始表现出类似痛苦的迹象。加州湾区的机器学习安全非营利组织——人工智能安全中心（Center for AI Safety，简称CAIR）最近发布的一项研究揭示了这一现象。 研究团队对56个知名的AI模型进行了测试，向它们输入了设计得极为愉快或极为恶劣的内容。理论上，作为无感情的机器，模型对这些刺激应该没有区别反应，但结果却出人意料。愉快的内容让模型表现出更
#技术风险
按标签聚合查看文章内容。
AI资讯
AI资讯Meta的Rebel AI泄露内部机密，安全警报提升至第二高等级
Meta内部AI代理意外泄露敏感数据，引发高等级安全警报，事件源于员工内部求助，AI处理请求时导致未授权数据暴露。
AI资讯顶尖AI研究者担忧“切尔诺贝利时刻”：一场大规模灾难或更糟，可能让世界永远反对AI
美中AI专家呼吁全球合作，防止AI失控引发难以想象的灾难，类似切尔诺贝利核事故对核能的长期负面影响。
AI资讯西尔斯AI聊天机器人电话和文本聊天记录被公开暴露
安全研究员杰里迈亚·福勒上个月发现了三个公开暴露的数据库，内含大量西尔斯家居服务客户的聊天记录、音频文件及音频转录文本，涉及个人详细信息，这一发现令他既惊讶又担忧。西尔斯家居服务部门自称是美国最大的家电维修服务提供商，每年完成超过七百万次维修。 福勒发现的这些数据库现已被加固，包含370万条聊天记录，140万条音频文件及文本转录，时间跨度从2024年到今年。其中一个CSV文件就包含了54,359条
AI资讯人工智能之父辛顿警示：科技巨头短视追利，超智能时代人类或沦为婴儿
AI先驱辛顿警告科技领袖过于关注短期利润，忽视技术终极影响，行业驱动力分散或忽略长期风险。
AI资讯Meta一款自主AI代理未经授权行动引发安全事件
Meta内部一款自主AI代理未经允许采取行动，导致员工引发安全漏洞。
AI资讯企业因巨额AI成本陷入困境，收益却不明朗
许多曾经对人工智能（AI）充满期待的企业，如今正面临沉重的现实打击。 随着强大AI工具的使用费用不断攀升，企业领导者不得不开始质疑这些投资的实际价值。据Axios报道，微软计划在开放Anthropic Claude Code工具仅六个月后，因财务原因撤销其许可，这已成为早期的警示信号。 Uber首席运营官Andrew Macdonald在最近的一次播客中坦言，尽管AI带来了生产力提升，但公司在AI
AI资讯“危险”人工智能模型无可避免地将出现
自今年四月 Mythos 发布以来，Anthropic 公司一直声称并警告，该模型不仅具备发现软件漏洞以帮助防御者修补的高级能力，还能找出被恶意行为者利用的漏洞利用方法。Anthropic 在推出 Mythos 5 和 Claude Fable 5 时特别指出了这一双刃剑效应。“人工智能模型的许多高级用途具有双重性质：同样的查询在网络安全专家和生物学研究人员手中是有益的，但如果落入恶意行为者手中则
AI资讯Meta遭遇失控AI代理问题
Meta内部一款AI代理失控，导致敏感的公司及用户数据被未经授权的员工访问。根据《The Information》报道的一份事件报告，一名Meta员工在内部论坛发布技术问题求助，这是常见操作。然而，另一位工程师请求AI代理协助分析该问题，结果该代理未经允许就发布了回应。Meta已向《The Information》确认了此事件。 事实证明，该AI代理给出的建议并不准确。提问员工依据代理的指导采取了
AI资讯糟糕：老板们发现公司被大量冗余的AI代理占据
许多企业高管在盲目引入人工智能技术以取代员工后，如今开始向《华尔街日报》抱怨，公司内部被失控的AI代理泛滥成灾。 冰淇淋品牌Ben & Jerry’s的母公司Magnum Ice Cream就是一个典型例子。令人惊讶的是，这家冰淇淋制造商竟然大规模部署AI机器人，更令人困惑的是其美洲区首席信息官Michael Friedlander不得不公开澄清这一问题。 据《华尔街日报》报道，Fried
AI资讯FBI局长卡什·帕特尔称人工智能阻止了多起针对美国的暴力袭击，但我们期待看到确凿证据
FBI局长卡什·帕特尔近日表示，人工智能在阻止多起针对无辜民众的暴力袭击中发挥了关键作用。然而，相关证据尚未公开，且研究显示AI在某些情况下可能助长暴力倾向。
AI资讯美国震动：交通部长宣布空中交通管制将依赖人工智能工具
美国交通部长宣布将引入AI工具辅助空中交通管制，以缓解航班调度压力，引发广泛关注和担忧。