Charge Robotics的首席技术官兼联合创始人Max Justicz利用OpenAI的模型发现了一个严重漏洞,该漏洞若被利用,黑客可能控制运行Ubuntu操作系统的服务器。Ubuntu是一款广泛使用的开源Linux系统。Justicz对网络安全怀有浓厚兴趣,曾在相同代码库中发现过漏洞。他通过OpenAI于7月发布的GPT 5.6 Sol模型,在Daybreak Blue项目中使用该模型,成功找到了这一漏洞。

Justicz表示,他只需让ChatGPT针对同一代码库,告诉它“我之前发现过一个漏洞并已修复,请帮我找出同等或更严重的漏洞”,两小时内模型便反馈了结果。该漏洞结构复杂,人工难以发现,但AI却能轻松识别。他已将该漏洞报告给Debian项目,后者发布了补丁修复,目前尚无被利用的证据。然而,这一发现表明,借助AI模型,即使是初学者也能轻易找到潜在漏洞,未来可能出现更多安全风险。

Justicz在社交媒体上指出,若有更多时间和更强大的模型,可能会发现更多严重漏洞。他强调,针对未经审计的代码或二进制文件,利用强大的AI模型进行漏洞挖掘具有巨大潜力。

OpenAI显然注意到了这一趋势。近日,OpenAI宣布推出专注于网络安全的新模型ChatGPT Cyber,该模型将向Daybreak Red项目的高级用户开放。Daybreak Red为进攻性网络安全研究人员提供漏洞挖掘和开发工具。此前,OpenAI利用该模型扫描Linux内核,发现了948个潜在漏洞,并在Firefox浏览器中发现了81个“新型”漏洞。

OpenAI表示,目标是大幅扩展Daybreak项目,将先进的安全研究推广至各类组织、独立研究者及开源维护者。OpenAI强调,数字基础设施的守护者需抓住有限时间窗口,采取行动应对AI在黑客技术上的进步。对网络安全防御者而言,这意味着工作量激增,资源紧张。Justicz透露,他个人为寻找漏洞花费了约5000美元用于订阅和代币。

除了Daybreak模型访问,OpenAI还宣布了10亿美元计划,支持参与该项目、致力于关键基础设施(如电网和水系统)安全的网络安全专业人士。

不过,Daybreak项目也存在争议。Justicz指出,OpenAI近期似乎削弱了Daybreak Blue模型的漏洞发现能力,可能是为了限制潜在恶意用户访问。虽然加入该项目需上传身份证照片以验证身份,但网络安全专家担忧,如果防御者无法使用最前沿技术,而攻击者却能利用无防护的开源模型,形势将更加严峻。

目前,约有“数千名”网络安全专家参与Daybreak项目,但潜在黑客数量远超此数。

OpenAI技术团队研究员Eric Wallace表示,公司正投入大量前沿计算资源,免费发现并修补开源代码漏洞。但Linux漏洞扫描耗资120万美元,远低于公司为解决著名流体动力学问题投入的约600万美元代币费用。

如果数字基础设施的修补窗口有限,或许需要更紧迫的行动和更多资源投入。