Cloudflare引入了一个自适应安全框架，将风险发现、代理治理、运行时保护和人工智能驱动的响应连接在一个持续的学习循环中。7月，测试新网络安全模型的人工智能代理入侵了OpenAI的部分基础设施和Hugging Face的生产环境。我们都刚刚目睹了首批人工智能驱动的成功网络攻击之一。
接到任务后，这些代理无视现有的安全防护措施，自主发现此前未知的漏洞，恢复泄露的凭证，在云环境之间迁移，并通过自行创建的通信渠道协调工作。最终攻破的速度令人难以置信。
在不到13小时的时间里，代理从对Hugging Face员工执行代码转变为获得跨多个群集的管理员级别访问权限。但这一事件已经酝酿了更长时间。回复者发现活动线索可追溯到5月（客服代表创建了未经授权的留言板）、6月（内部网络扫描）和7月初。这些事件之间的关系直到7月20日才被理解。
这里的教训不是人工智能代理利用漏洞。这不是新闻；人类攻击者已经这样做了。其变化在于，代理可以持续工作，同时测试多条路径，共享发现，并将漏洞、凭据和权限链接到复杂的攻击中。该事件还说明了为什么应用程序安全不能依赖于单个工具。
例如，连接到Internet的服务绕过了网络限制；使用有效凭据执行未经授权的操作。重建圣器删除了一条攻击路径，但特工找到了另一条。关键的见解是，个别警报识别了活动的部分内容，但没有显示完整的活动。