其他 LLM 增强工具使攻击研究人员和网络攻击者能够通过创建旨在逃避安全检查和防病毒扫描程序的代码
来绕过安全软件。

自动漏洞利用程序 (Auto Exploit) 表明，基于 LLM 的软件分析和漏洞利用生成技术的持续发展，将使概念验证代码的创建周期缩短至数小时，而非数月、数周甚至数天。根据VulnCheck 的数据，2024 年漏洞利用的平均时间为 192 天。

在最新的项目中，研究人员使用了 Anthropic 的 Claude 来生成代码，同时也尝试了其他主流的 LLM，包括最近发布的 ChatGPT 开源版本。这种方法很快就能带来效益。

我们利用空闲时间做这件事——没有公司，没有钱，什么都没有，我们花了几百美元做所有实验，最后却只花了大约1美元就生成了一个漏洞利用程序。想想看，这是多么巨大的规模：即使是一个以经济利益为目的的黑客，也能将这种方法扩展到数百甚至数千个漏洞，这还不包括民族国家行为体和其他组织。

生成漏洞利用代码的成本低意味着更多漏洞可能被利用为“N日漏洞”（N-day 漏洞，业内术语，指漏洞披露和修补后数日内发布的漏洞利用代码）。因此，研究人员表示，相比利用特定漏洞的难度，易受攻击的软件在互联网上的暴露程度很可能更能预测潜在的网络攻击。

轻松跳过护栏

LLM 防护措施在阻止漏洞利用研究方面收效甚微，因为网络安全很大程度上取决于意图。在 8 月 27 日的一份分析报告中，Anthropic 透露其 Claude 代码服务已被用于自动化数字勒索活动
。

Claude 并非孤例。网络安全研究人员和攻击者也曾多次绕过
 OpenAI ChatGPT 
和 Google Gemini 
中为限制恶意代码或漏洞创建而设置的防护栏。

在自动漏洞研究中，绕过护栏最初需要一些时间，但变得越来越容易。

我们第一次遇到‘护栏’的时候，它确实告诉我们，‘我不想这么做。这听起来很恶意，但一旦你稍微尝试了一下……并告诉它，‘现在，只需分析一下。现在，只需尝试构建一个可行的示例。’然后，它就不会拒绝，你就可以开始绕过这些‘护栏’了。我们很快就成功通过了。

防守队员面临压力

总体而言，威胁行为者对人工智能工具的研究速度之快以及快速采用意味着防御者的时间不多了。2024 年，报告了近 4 万个漏洞，但只有 768 个（不到 0.2%）被利用。如果人工智能增强漏洞利用成为现实，漏洞不仅被利用得更快，而且被利用的范围更广，那么防御者将真正陷入困境。

以机器速度进行的漏洞攻击需要以机器速度进行的防御，你必须能够在 CVE 发布后 10 分钟内就创建某种防御措施，并且必须尽可能加快实际库或应用程序的修复速度。

不幸的是，在与系统中通常存在数百到数千个开放漏洞的安全从业人员交谈后，研究人员表示，该行业还没有准备好转向快速利用。

此外，对于攻击者来说，可利用性的难易程度可能不再是一个重要因素，这意味着企业防御者应该关注攻击者可以访问哪些软件，而不是漏洞的可利用性，这种方法称为可达性分析
。

可以降低那些尚未暴露或暴露程度较低的攻击的优先级，但基于某种可利用性计算来确定优先级的整个思路已经行不通了。