维护人员不需要更多的人工智能漏洞报告。他们需要的是修复。

在Codename MDASH试点项目中,GitHub和微软将数以千计的原始AI发现转化为99份经过核查的私有报告,其中包含针对六个广泛使用的开源项目的建议修复方案。维护者已经修复了其中一半以上的问题。文章《维护者不需要更多的人工智能漏洞报告。他们需要……》

GitHub 开源项目总监我负责开源战略和项目,为 GitHub 内部和整个生态系统的维护者提供支持。我还担任 TODO Group 的指导委员会成员,我们帮助各组织负责任地使用和维护开源软件。人工智能让发现潜在漏洞变得快速且廉价。修复这些漏洞仍然需要人的判断,而在开源领域,这项工作由维护者负责。

许多人已经被 AI 生成的安全发现淹没,其中包括重复项和根本不是漏洞的报告。再来一次原始扫描对他们没有帮助。任何想将新模型应用于项目的人都应先征求项目维护人员的意见,并提供修复方案,而不仅仅是提出发现结果。维护人员正承受着这些大量报告带来的巨大压力。

正如Log4j的维护者Christian Grobmeier所说,捍卫开源的人工智能必须比攻击开源的人工智能更胜一筹。人工智能不应增加维护人员的工作量。因此,GitHub 和微软与维护者一起开展了一项试点项目:人工智能能否帮助维护者交付修复补丁,而不是向他们提供更多发现?

GitHub 和 Microsoft 正在使用 Microsoft 的多模型代理扫描工具 Codename MDASH,来查找和修复广泛使用的开源软件中的安全漏洞,从而夯实世界上许多代码所基于的基础。流程我们的试点项目有两个目标:只发送重要的发现,绝不向维护者发送未经核实的发现。以下是其运作方式:查找。

代号为 MDASH 的微软安全人工智能系统使用微软的 MAI Cyber 模型扫描了每个项目,并针对发现的问题提出了修复建议。筛选。来自 GitHub 安全实验室的 AI 分流代理基于量身定制的 Copilot 技能,删除了重复项,检查了有效性,并重点关注高影响漏洞,因此维护人员无需审核原始扫描结果。验证。