IBM 发布两款抵抗间接提示词注入的开源 Granite 4.1 LLMON 预览模型
原标题:IBM trains two small open models to ignore orders hidden in documents
2026年11月12日,IBM Granite 团队发布两个旨在抵抗间接提示词注入的开源预览模型 granite-4.1-3b-llmon-preview 和 granite-4.1-8b-llmon-preview(3.7B / 8.8B 参数),基于 LLMON 标记系统把指令与模型读取的内容分开。两模型以 Apache 2.0 许可在 Hugging Face 开放下载;在 OPI 基准上攻击成功率从标准版的 100% 降至 0.1%(3B)、96.3% 降至 0.02%(8B)。IBM 仍仅将预览版限于探索与评估,指出直接攻击和多轮攻击仍难以拦截,通用能力基本不变(3B 保持 66.7,8B 从 74.2 降至 72.8)。
文章基于 IBM 的模型卡和论文,梳理了 LLMON 标签机制的原理、基准成绩与官方承认的局限,可帮助读者评估该方案的适用边界。
本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体,原文版权归原作者所有。