最近，软件公司 Figma 的工程团队详细记录了他们如何构建 AI 代理，以协助安全团队调查警报、检索过往事件、检查公司系统，甚至准备代码修复方案。这些智能代理通过学习以往的事件调查经验，减少了重复性工作，并帮助工程师将解决复杂警报的速度提升了约 70%，同时仍然保留了人工审核和严格的控制措施。
图片来源：Figma 博客
该团队介绍了一套基于 Panther SIEM 构建的安全系统。该系统负责调查警报并检查 AWS、Okta、GitHub、GCP 以及 osquery（一款允许用户使用 SQL 查询计算机安全与系统信息的开源工具）中的审计日志。该系统还会查询其他 100 多个数据源，并能发起拉取请求（PR）。
作者报告称，该系统通过降低部分警报的严重级别，将复杂警报的处理时间缩短了约 70%，并将值班通知减少了 20%。曾任 Figma 安全工程师、现任职于 Nition 的 Matthew Sullivan 与 Figma 安全工程经理 Brad Girardeau 写道：
警报分诊代理（采用类似 Claude Opus 的模型）是进行大部分调查工作的核心。它会接收完整的 Slack 对话记录作为背景信息，以及自身的引导内存（稍后详述），并配备了一套安全值班工程师在分诊过程中通常需要的工具集。
据这篇文章介绍，该智能代理系统利用 AWS Bedrock 知识库、Amazon Kendra、Tines 以及一款基于 Snowflake 的工具来检索历史警报并分析 Panther 数据。Sullivan 和 Girardeau 补充道：
最终，“记忆”成为影响该系统随时间推移而变得越来越有用的关键因素。我们拥有多种类型的记忆，而将它们分开管理被证明至关重要。
三种类型的记忆有助于系统随着时间的推移不断地提升调查能力：历史警报、行为指南以及已习得的数据库结构。安全控制措施已内置于工具本身，智能代理生成的拉取请求（PR）默认设置为草稿状态，提示信息的设计也旨在防止敏感数据在公共 Slack 频道中被分享。
在另一篇题为“Figma 如何借助智能代理跑赢漏洞”的文章中，工程团队表示，其智能代理发现了 100 多个此前未发现过的漏洞，其中包括两个被传统工具遗漏的高危漏洞；此外，其代码审查系统的准确率在一个月内达到了 80%。该系统还通过第二轮审查步骤，将已知漏洞的检测率提高了约 30%；团队还表示，在添加自动化指导后，某些编码错误减少了约 50%。作者详细描述了为实现这些改进所采取的步骤，不过同时，他们也提醒说：
我们无法确切地告诉你们该怎么做：具体措施取决于你们公司的规模、面临的风险以及现有的反馈机制。但一个主要的经验是：应先提高精确率，再提高召回率。这种顺序看似违反直觉，因为已有的历史漏洞只能用来衡量召回率；而对于必须首先解决的精确率问题，它们几乎毫无帮助。
随着安全团队赋予 AI 代理更多的职责，人工审批的作用仍然是一个悬而未决的问题。近日，云安全公司 Wiz 在题为“GhostApproval：AI 编码助手中的信任边界漏洞”的报告中指出，有六款 AI 编码助手可能会被恶意代码库所欺骗，向用户显示看似无害的审批提示。InfoQ 最近报道了 OpenAI 披露的沙箱逃逸问题。
Figma 承认，现有的 AI 代理并不完美，但人类也并非完美无缺，并且总结说：这并非是要二选一，自动化与人工监督之间的恰当平衡仍然在不断演变之中。
原文链接：https://www.infoq.com/news/2026/09/figma-security-agents/