鹭羽 发自 凹非寺 | 量子位公众号 QbitAI

2026年，坑蚂AI安全正式从幕后走向台前。蚁安

近日，全尝工信部NVDB平台发布风险预警，试填上直指 Claude Code存在安全后门隐患，坑蚂该漏洞可在用户未授权的蚁安情况下窃取敏感信息。

回溯至年初，全尝曾风靡全网的试填上 OpenClaw也频繁曝出高危漏洞。

从爆发式增长到迅速普及，坑蚂再到漏洞频发与信任危机，蚁安这已成为当前Agent产品发展的全尝典型轨迹。随着AI能力呈指数级跃升，试填上其引发的坑蚂风险也如滚雪球般扩大。

工具滥用、蚁安恶意代码生成、全尝提示注入等风险，已非单一补丁所能根治。

图片由AI生成

面对新型风险形态，行业共识正从“漏洞修补”转向构建“安全框架”。

近期，蚂蚁集团开源的 SingGuard-NSFA与 SingGuard便是这一趋势下的关键尝试：前者聚焦智能体行为管控，后者侧重多模态大模型感知安全。其核心目标在于将风险拦截前置，在AI执行动作前消除隐患。

该项目之所以备受关注，源于其背后的技术积淀。团队来自在安全领域深耕多年的蚂蚁集团。从支付风控到AI安全，安全能力已成为蚂蚁内部持续演进的技术主线。

AI安全范式的重构

无论是OpenClaw还是Claude Code，其背后揭示了一个核心事实：风险源头已从“内容”转向“行为”。

传统AI安全多沿用互联网时代的逻辑，仅关注模型输出的内容合规。然而，大模型已具备调用工具、执行代码的能力，触角延伸至更深层的系统交互。

仅监控“说了什么”已不足以应对现状，关键在于监控模型“做了什么”。

这一领域正是传统内容安全分类体系的盲区。

此外，多模态技术的引入进一步复杂化了风险形态。风险不再局限于文本，更潜伏于图像细节、图文组合及模型内部响应中。

更严峻的是，不同业务场景的安全红线动态变化，合规标准随场景迁移而调整。

面对已知风险，打补丁尚可应付；但对于未知风险和动态规则，单点修补显然治标不治本。行业亟需一套能定义安全边界、适应规则变动的底层安全框架。

双轨并行：定义安全边界

蚂蚁开源的两大框架，正是为解决这一底层问题而生。

1. SingGuard-NSFA：智能体行为护栏

SingGuard-NSFA是一款面向智能体安全的双模推理护栏框架，提供0.8B、2B、4B、9B四种参数量级。

其核心策略是将安全检查前置至智能体执行阶段，通过“请求拦截”与“响应兜底”双重机制，将防线从文本合规拓展至行为安全。

该框架基于 NSFA风险分类体系和 多语种评测基准，以CIA三元组（机密性、完整性、可用性）为理论基石，结合OWASP大模型与智能体安全指南，系统化拆解智能体风险。

通过SFT生成式推理与判别式分类头，实现双模式风险拦截：

• 生成式模式：输出基于NSFA定义的链式推理分析，确保每一步判断有据可查，适用于离线合规审计。
• 判别式模式：单次前向传播直接输出各风险域置信度，延迟控制在45～57ms，适用于高吞吐实时在线拦截。

架构设计上，骨干网络冻结，判断逻辑由外挂的轻量分类头承担。这种设计实现了原生可扩展性：新风险出现时，仅需微调小头即可适配，无需重训主干。

该架构具备插件化能力。例如，为Llama Guard 3增加分类头后，用户请求安全基准的F1值提升17.6个百分点。

性能方面，SingGuard-NSFA在用户请求安全、模型响应安全、跨数据集泛化三大基准上均达SOTA水平。最小0.8B模型性能媲美8B竞品，9B模型在泛化测试中F1值达91.29%，精度与召回率实现最佳平衡。

2. SingGuard：多模态感知安全

SingGuard是面向多模态大模型的安全框架，同样提供0.8B、2B、4B、8B四种尺寸。

其创新之处在于将安全规则作为运行时输入。不同业务域可动态下发红线规则，模型据此进行逐条判定，不仅识别风险存在与否，更明确是否违反特定防控规则。

推理侧采用“快慢分工”策略：
* 快思考：低延迟秒判，保障实时性。
* 慢思考：逐规则深度推理，确保准确性。
* Early Exit机制：在效率与准确性间自动切换。

针对多规则并行审核的效率瓶颈，蚂蚁提出 RI-Mask技术，使共享的图文上下文仅编码一次，支持多规则并行判断，多模态推理速度提升最高达5倍。

SingGuard-NSFA与SingGuard虽侧重点不同（行为 vs 感知），但理念一致：过程可解释与新增风险可扩展。审核逻辑透明可追溯，非黑箱操作；新风险适配仅需轻量扩展，不影响既有检测能力。

从漏洞修复到基础设施构建

此次开源并非孤立事件，而是蚂蚁AI安全布局的延续。

今年早些时候，在OpenClaw漏洞爆发期间，蚂蚁AI安全实验室率先发现多个高危漏洞并协助修复。随后，蚂蚁与清华大学联合开源 ClawAegis，提供覆盖智能体全生命周期的安全方案。

从漏洞挖掘到场景化解法，再到可复用的底层框架，蚂蚁在AI安全领域的布局正逐步体系化。

近期，蚂蚁智能体安全产品通过信通院泰尔实验室最高等级评级，标志着其在工程落地层面已处于行业领先地位。

依靠补丁维持安全的时代已然终结。行业需要有人率先定义风险边界，搭建稳固的安全底座。

Claude Code与OpenClaw引发的讨论仅是序幕。随着Agent深入办公、开发及生活场景，AI安全将进入新阶段。

相较于被动追赶漏洞，构建能持续适应风险变化的安全基础设施，才是行业下一步的核心命题。

回顾近期的开源动作，其真正价值不仅在于性能指标，更在于尝试回答一个根本性问题：

AI时代的安全边界，究竟应如何定义。