Figma构建安全AI代理，复杂警报处理提速约70%

Figma工程团队构建了一套面向安全运营的AI代理系统，用于调查安全警报、检索历史事件、检查公司系统，并准备代码修复方案。代理会参考过往调查经验，减少重复劳动，使复杂警报的处理速度提升约70%，同时保留人工审核和必要的安全控制。

这套系统以Panther SIEM为基础，能够分析AWS、Okta、GitHub、GCP和osquery等平台的审计日志，并连接100多个数据源，还可以发起拉取请求。警报分诊代理采用类似Claude Opus的模型，接收完整Slack对话和自身引导记忆，调用值班安全工程师常用的工具。系统通过适当降低部分警报的严重级别，将值班通知数量减少了20%。

在信息检索方面，系统使用AWS Bedrock知识库、Amazon Kendra、Tines，以及基于Snowflake的工具查询历史警报和分析Panther数据。团队将记忆分为三类：历史警报、行为指南和已掌握的数据库结构，分别帮助代理理解过往案例、遵循调查流程并正确使用数据。安全限制被嵌入工具中，代理生成的代码PR默认处于草稿状态，提示词也用于避免敏感信息被发布到公共Slack频道。

Figma团队还介绍了另一套用于代码安全审查的代理系统。该系统发现了100多个此前未识别的漏洞，其中包括传统工具遗漏的两个高危漏洞；代码审查准确率在一个月内达到80%。增加第二轮审查后，已知漏洞的检测率提高约30%，加入自动化指导后，部分编码错误减少约50%。团队建议先提升精确率，再逐步扩大召回率，因为历史漏洞数据更适合衡量召回率，却难以帮助解决误报问题。

随着代理承担更多安全职责，人工审批仍面临信任边界挑战。Wiz曾披露，六款AI编码助手可能被恶意代码库诱导，向用户展示看似安全的审批提示；OpenAI也披露过沙箱逃逸问题。Figma认为AI代理和人工都并非绝对可靠，实际重点不是二选一，而是在自动化效率与人工监督之间持续调整平衡。