在拉斯维加斯举行的Black Hat安全大会上，研究员Kettle展示了他的最新发现，这些发现既体现了人工智能在网络安全领域迅速发展的能力，也揭示了其局限性。对于Kettle提出的问题，目前的答案较为复杂。他总结道，AI在完全自主地设计新攻击路径方面能力有限，但在关键时刻结合人类的指导和洞察，AI成为构思和发现新黑客策略的强大助手。

经过多年研究网络安全漏洞，Kettle发现了一个全新的潜在漏洞领域——称为“共享解析器混淆”（Shared-Parser Confusion）。这一发现源于AI揭示了网络服务器使用共享代码处理请求和响应的机制。

“这非常重要，因为网站的请求完全不可信，可能是任何内容，但响应是被信任的，”Kettle在大会演讲前告诉WIRED。“这就形成了一个主要的攻击面，可能涉及多种不同的攻击类型。”

这一发现源自2025年9月开始的数月实验，使用了当时Anthropic和OpenAI的最新模型。Kettle最初想探索AI进行理论安全研究的能力，但很快发现一个障碍：系统倾向于将已有研究当作原创内容，返回一些难以验证的深奥主题。于是他缩小了测试范围，让AI系统在他熟悉的网络安全领域工作，这样他能完全掌控材料，避免被AI误导。同时，他通过结合自己的研究方法训练模型，深入探查系统能自主推断的能力。

“我想推动AI达到极限，看看它在哪些方面会失败，哪些地方必须依赖人类，”Kettle说。“目前很少有人讨论AI的局限性，尤其是在安全领域，因为没有动力去谈论这些。大家都想被看作是AI原生，而不是暴露系统的缺陷。”

随着实验的深入——提供更多方法论数据和更精细的参数——以及更强大模型的出现，Kettle发现系统产生的研究成果数量远超他个人，形成了一个高效的研究反馈循环。

“整个过程非常有趣。系统大约每两天就会有显著发现，甚至在我没登录系统时也如此，这让我感到焦虑，”Kettle说，“你会害怕错过任何一个研究线索，这迫使你自动化更多分析工作。”

除了在几个月内发现了比他多年积累还多的漏洞实例外，Kettle还希望AI能发现一整类全新的漏洞。某种程度上，AI确实成功了，但发现的是一种极为罕见的漏洞类型，且在唯一可用的易受攻击目标中无法被利用。Kettle强调，尽管“共享解析器混淆”是人机合作的成果，但它的重要性不容忽视，因为它展示了AI系统目前在网络安全防御和攻击中最有力的贡献方式。

“AI本身无法验证这一点，但它分析了一些真实且已证实的发现，提出了假设，我进行了评估并确认了它，”Kettle说。“这可能是长期影响最大的发现。AI单独做不到，但我自己也绝不会发现它。即使给我文档中的一句话，我也不会注意到。但我们合作找到了它。”