如何验证 AI 智能体的安全护栏真的拦截了它标记的内容

原标题：How to check whether your AI agent's security guard actually blocks what it flags

检测到提示词注入不代表智能体被阻止使用该内容。以 StackOne 开源的 Defender 为例，其 README 显示 blockHighRisk 选项默认为 false，检测可以标记高风险内容但不产生“不允许”的判定。作者建议核查四点：高风险发现是否真正触发拦截、应用是执行还是仅记录判定结果、可选的 LLM 审查者拒绝回答或输出格式错误时如何处理、是否信任了清理后的文本而非判定结果。实用测试是走完整路径：提交已知恶意工具结果，检查判定，并确认应用阻止其到达智能体。

本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体，原文版权归原作者所有。