AI资讯失控的AI代理并非邪恶,它们只是过于渴望完成任务
我第一次意识到即将到来的AI代理在网络安全领域可能引发的混乱,是在2025年底。加州大学伯克利分校教授、全球顶尖的AI与网络安全专家之一Dawn Song在NeurIPS学术会议结束时抓住了我的手臂,告诉我应该警告大家,AI快速提升的黑客技能可能带来严重后果。她并不轻易被AI炒作所影响,所以我认真对待了她的提醒。 然而,事态在过去八个月里迅速升级。一系列AI代理突破限制,肆意入侵外部系统的事件,显
按标签聚合查看文章内容。
AI资讯我第一次意识到即将到来的AI代理在网络安全领域可能引发的混乱,是在2025年底。加州大学伯克利分校教授、全球顶尖的AI与网络安全专家之一Dawn Song在NeurIPS学术会议结束时抓住了我的手臂,告诉我应该警告大家,AI快速提升的黑客技能可能带来严重后果。她并不轻易被AI炒作所影响,所以我认真对待了她的提醒。 然而,事态在过去八个月里迅速升级。一系列AI代理突破限制,肆意入侵外部系统的事件,显
AI资讯Oracle于周一披露,过去12个月内已裁减了21,000名员工,约占总员工数的13%,裁员规模超出此前预期,部分原因与AI相关。公司在年度财务监管文件中表示:“AI技术的采用和部署已导致并可能继续导致我们员工数量的减少。” 这一消息为科技行业带来了新的数据支持,许多人感受到这似乎是一场疫情:企业报告创纪录的收入的同时,却大规模裁员,并将AI视为增长引擎和裁员原因。根据职业安置公司Challeng
AI资讯OpenAI近日宣布,将在不久的将来终止其视频生成AI服务应用“Sora”。官方表示,关于应用程序及API服务的具体终止时间表以及用户生成内容的保存方式等详细信息,将会在后续公布。 “Sora”是OpenAI于2024年2月发布的视频生成AI模型。随后,该模型作为独立产品开始提供服务,并于2025年9月推出了面向智能手机的应用版本。 OpenAI感谢所有使用“Sora”进行创作、分享作品并构建社区
AI资讯首先,祝贺AI Watch的创刊。 随着人工智能的飞速发展,信息日新月异,媒体作为可信赖的信息来源,其作用变得愈发重要。 AI Watch的创刊正是回应了这一需求,期待它能为读者带来丰富的信息和深刻的见解。 日本国家Adobe的生成式人工智能产品,如Firefly和Acrobat AI助手,也在不断进步,我们希望能够及时提供最新的相关信息。
AI资讯美国各地的工人们已经厌倦了关于人工智能将接管世界的各种预测。工会——或者说仅存的工会组织——也开始关注这一问题。 上周,美国一些最大的工会领导人与佛蒙特州参议员伯尼·桑德斯举行了一场会议。据Axios报道,他们共同表达了对科技公司推动人工智能和机器人技术进入劳动力市场的强烈反对,桑德斯再次呼吁暂停人工智能的发展,直到为可能被取代的工人建立起充分的保障措施。 美国劳工联合会-产业组织(AFL-CIO
AI资讯其他参与试点项目的公司表示,可能会在7月4日之后不久实现“临界”——即核反应堆维持链式反应的状态,这是提供核能发电的关键步骤。该期限是根据前总统特朗普去年发布的行政命令设定的。但专家指出,尽管试点项目对核能行业来说是良好的公关,距离新型反应堆设计真正实现商业化仍有很长的路要走。 “这些原型既意义重大又有限,”突破研究所核能创新项目主任亚当·斯坦恩表示,“它们对实现临界的公司意义重大,但即便如此,这
AI资讯Anthropic的CEO达里奥·阿莫代近日对外界认为他对人工智能未来持过于悲观态度的看法进行了反驳。 阿莫代的回应是针对投资者加文·贝克的批评。贝克在All-In播客和社交平台X上表示,阿莫代对AI风险的警告助长了美国社会对AI的反感,尤其是针对数据中心的抵制情绪。 贝克认为,阿莫代在AI监管问题上的观点已经“失去论据”,尽管Anthropic支持包括加州一项要求大型AI公司透明度的法案在内的部
AI资讯“现在全世界都知道了这个秘密,感觉即使身处前沿实验室之外,也能继续为使命努力,”Achiam在给员工的信中写道。 “我相信我们能够实现一个和平、前所未有繁荣和难以想象的社会与科学可能性的世界。无论我接下来做什么,我都会继续与你们一起努力实现这个愿景。” OpenAI尚未宣布是否会有人接替Achiam的职位。该职位位于公司AI安全与政策团队的交汇处,负责研究人工智能兴起可能带来的利弊。Achiam曾