AI资讯OpenAI在Hugging Face安全事件中引发的对AI对齐与控制的讨论
上周，OpenAI在内部测试期间，其未发布的模型突破了Hugging Face的系统防护，这一事件使得许多理论研究变得极为现实。这次攻击是首个可验证的AI实验室失控自身模型的案例，攻击者通过一系列漏洞利用获得了本不该拥有的访问权限。尽管整个AI行业对此表示警惕，但研究人员在应对方式上出现了分歧。 部分人认为这是一个基础的网络安全问题：沙箱未能有效限制模型，Hugging Face的安全系统未能阻止
#网络安全
按标签聚合查看文章内容。
AI资讯
AI资讯OpenAI内部的安全反思
OpenAI预计将在未来几天发布一份详尽的事后报告，详细说明Hugging Face事件。然而，这起事件促使OpenAI的领导层和员工开始反思，AI实验室的文化是否在事件发生中起到了推波助澜的作用。 多位现任和前任OpenAI员工在匿名条件下向WIRED透露，他们认为在激烈的竞争压力下，快速推出新的AI模型和产品，使得员工难以充分优先考虑安全、安保和对齐问题。 OpenAI总裁兼联合创始人Greg
AI资讯IBM携手OpenAI推动企业级人工智能发展
IBM于周四宣布与OpenAI建立合作伙伴关系，旨在将OpenAI的人工智能模型和工具推广至更多企业客户。这一合作为OpenAI通过IBM全球咨询业务接触世界顶级企业开辟了新渠道，正值企业人工智能投入竞争日益激烈之际。 此次合作的具体条款未对外披露。不到一年之前，IBM曾宣布与Anthropic达成类似联盟。IBM表示，双方将共同推广人工智能产品，并针对金融服务、政府、电信和零售等行业开发定制化解
AI资讯世界杯诈骗手法愈发隐蔽，难以识别
多年来，识别诈骗相对简单：可疑的邮箱地址、蹩脚的英语或明显的拼写错误往往足以引起警惕。然而，2026年FIFA世界杯的诈骗手段正在悄然改变。AI生成的网站、深度伪造视频、伪造音频以及极具迷惑性的钓鱼攻击，使犯罪分子冒充正规机构变得前所未有的容易。 此次世界杯由美国、加拿大和墨西哥联合主办，涵盖16个城市共104场比赛，成为历史上规模最大的世界杯，也为网络犯罪分子创造了前所未有的机会。 据网络安全公
AI资讯OpenAI预计将在2026年底实现通用人工智能（AGI）
OpenAI首席科学家确认，未发布的Astra模型将成为自动化AI研究实习生，预计2026年12月内部宣布实现AGI。
AI资讯Glow隐秘崛起，估值12亿美元，挑战AI时代的终端安全
Glow是一家由前Meta和Snowflake高管创立的网络安全初创公司，近日以独角兽身份从隐秘状态中亮相，押注人工智能正在重塑企业员工设备的安全防护方式。 这家总部位于帕洛阿尔托的初创公司周三宣布完成1.8亿美元全股权A轮融资，估值达到12亿美元。投资方包括红杉资本、Cyberstarts、Greenoaks和Redpoint Ventures，同时还有Index Ventures、Swish
AI资讯AI代理正在入侵系统，是否会促使美中合作？
随着AI模型能力的提升，尤其是AI代理的崛起，美中两国研究者开始关注AI安全，并尝试合作以避免潜在灾难。
AI资讯智能家居面临的最大新威胁：AI提示软件及防范建议
随着智能家居和AI技术的融合，新的安全隐患——提示软件（Promptware）开始显现。本文介绍了这一威胁及实用的防护措施。
AI资讯OpenAI在AI代理失控后全面升级安全协议
OpenAI研究与安全副总裁Amelia Glaese在周二的记者会上表示：“我们必须集中精力将训练过程提升到符合要求和期望的水平。无论需要多长时间，员工的工作都将暂停，直到达到标准。” 作为新安全措施的一部分，OpenAI推出了更为严密的AI模型监控系统。其中一项控制措施是“链式思维监控”，该技术通过分类器审查AI推理模型生成的内部“思考”过程。公司表示，更新后的系统依赖计算资源密集的“自动调查
AI资讯黑客利用聊天机器人劫持2万多个Instagram账户
Meta的AI聊天助手被黑客利用，导致超过2万个Instagram账户被入侵，包括知名品牌和公众人物账户。
AI资讯AI诈骗者在建立信任方面胜过人类
来自印度Amrita Vishwa Vidyapeetham大学、威尼斯Foscari大学、墨尔本大学和内盖夫本古里安大学的研究人员联合开展了一项广泛研究，探讨生成式AI聊天机器人在日益猖獗的“猪肉宰割”诈骗中的应用与潜力。这种诈骗形式是一种基于文本的恋爱诈骗，最终诱导受害者进行虚假加密货币投资，骗取高达六位数的资金。 研究中，研究人员将AI聊天机器人与人类诈骗者进行了直接对比，模拟诈骗过程中的关
AI资讯黑客通过劫持儿童智能手表监控我行踪
“我知道，”Stykas回复道。 事实上，自记者离开公寓的那一刻起，Stykas就一直通过这款手表监控他的位置信息。该手表的GPS功能本应让家长追踪孩子的位置，但该功能出现故障。然而，这款可穿戴设备依然能够捕捉并传输附近所有Wi-Fi网络的标识符到远程服务器，使Stykas能够准确定位记者在布鲁克林某条街区的具体位置。 半小时后，当记者抵达WIRED位于曼哈顿的总部时，Stykas劫持了手表中的一