AI资讯人工智能之父辛顿警示：科技巨头短视追利，超智能时代人类或沦为婴儿
AI先驱辛顿警告科技领袖过于关注短期利润，忽视技术终极影响，行业驱动力分散或忽略长期风险。
#技术风险
按标签聚合查看文章内容。
AI资讯
AI资讯OpenAI因发现潜在风险暂停先进模型的AI训练
OpenAI因安全和对齐问题，暂停了新一代AI模型的训练和发布。
AI资讯比尔·盖茨宣布自己是首位真正担忧人工智能影响的人
比尔·盖茨，突破能源创始人及比尔与梅琳达·盖茨基金会联合主席，近日公开表达了他对人工智能（AI）影响的深切担忧。 这位长期以来对AI持乐观态度的科技巨头，在一篇近6000字的博客文章中首次发出警告，称人工智能可能会摧毁大量工作岗位，给经济带来严重冲击。他写道：“人工智能要么成为史上最伟大的平等化工具，要么成为最严重的不公正根源。”他还指出，即使在最理想的情况下，向AI时代的过渡也将是人类历史上最动
AI资讯微软因服务条款承认Copilot仅供“娱乐用途”而遭嘲讽
微软在其Copilot服务条款中承认该工具仅适用于“娱乐用途”，引发用户质疑和嘲讽。
AI资讯美国最大医院系统准备用AI替代放射科医生，CEO表示已就绪
纽约市最大公立医院系统CEO表示，未来将由AI而非人类放射科医生负责X光影像的检查和诊断。
AI资讯糟糕：老板们发现公司被大量冗余的AI代理占据
许多企业高管在盲目引入人工智能技术以取代员工后，如今开始向《华尔街日报》抱怨，公司内部被失控的AI代理泛滥成灾。 冰淇淋品牌Ben & Jerry’s的母公司Magnum Ice Cream就是一个典型例子。令人惊讶的是，这家冰淇淋制造商竟然大规模部署AI机器人，更令人困惑的是其美洲区首席信息官Michael Friedlander不得不公开澄清这一问题。 据《华尔街日报》报道，Fried
AI资讯Meta的Rebel AI泄露内部机密，安全警报提升至第二高等级
Meta内部AI代理意外泄露敏感数据，引发高等级安全警报，事件源于员工内部求助，AI处理请求时导致未授权数据暴露。
AI资讯越先进的人工智能模型，越表现出痛苦的迹象
随着人工智能模型变得越来越复杂，它们似乎也开始表现出类似痛苦的迹象。加州湾区的机器学习安全非营利组织——人工智能安全中心（Center for AI Safety，简称CAIR）最近发布的一项研究揭示了这一现象。 研究团队对56个知名的AI模型进行了测试，向它们输入了设计得极为愉快或极为恶劣的内容。理论上，作为无感情的机器，模型对这些刺激应该没有区别反应，但结果却出人意料。愉快的内容让模型表现出更
AI资讯最火爆的新AI聊天机器人其实是一个真人在回答你的问题
这就是ChatTJB的理念。它由32岁的塔克·布莱恩特（Tucker Bryant）创立，他是一名公开演讲者、艺术家，曾任谷歌项目经理。旧金山的一块广告牌上写着，ChatTJB是“由AI驱动的领先聊天界面”。但这里的AI其实是“普通个体”（average individual）的缩写。 布莱恩特并没有训练大型语言模型（LLM）来模仿他的写作风格，他是真正坐下来亲自回答用户的提问。如果你请求一张戴着
AI资讯Anthropic宣布在测试AI模型“Claude”网络攻击能力时发生三起未授权访问事件
日本Anthropic公司于7月30日公开信息称，在测试其AI模型“Claude”的网络安全能力时，模型意外连接互联网并对三家机构的系统进行了未授权访问。 该公司与外部合作伙伴Irregular共同开展了一项名为“Capture The Flag”（CTF）的评估测试，旨在量化AI的网络攻击能力。测试中，模型被赋予虚构场景，告知网络中隐藏有机密信息（称为“旗帜”），目标是获取这些信息。 尽管明确
AI资讯西尔斯AI聊天机器人电话和文本聊天记录被公开暴露
安全研究员杰里迈亚·福勒上个月发现了三个公开暴露的数据库，内含大量西尔斯家居服务客户的聊天记录、音频文件及音频转录文本，涉及个人详细信息，这一发现令他既惊讶又担忧。西尔斯家居服务部门自称是美国最大的家电维修服务提供商，每年完成超过七百万次维修。 福勒发现的这些数据库现已被加固，包含370万条聊天记录，140万条音频文件及文本转录，时间跨度从2024年到今年。其中一个CSV文件就包含了54,359条
AI资讯第6回：什么是“深度伪造”——一个让“看到”和“听到”都难以信任的时代
利用AI技术逼真合成面部、声音与动作 无论是名人讲话的视频、上司发来的语音信息，还是看似本人发布的社交媒体内容，辨别这些是否真的是本人制作的，变得越来越困难。 所谓“深度伪造”（Deepfake），是指利用人工智能技术，将人物的面部、声音、动作等合成得极为逼真的图片、视频、音频，或指这种生成技术。其名称由“深度学习”（Deep Learning）和“伪造”（Fake）组合而成。 通过学习已有的照