把反例贴进提示词反而诱导智能体复现坏模式:一个用正向覆写和 Graphviz DOT 打破配额消耗循环的方法
原标题:Why "my agent burns my 7-day quota in 3 days" and "my agent ignores my style guide" are the exact same attention bug
作者认为「7 天配额 3 天烧完」和「智能体无视风格指南」是同一个注意力 bug:把坏代码示例以 DON'T 形式贴进系统提示词,会让这些 token 进入 KV-cache 成为语义吸引子,反而诱导模型生成被禁止的 nullable 联合类型和静默 fallback,随后多轮争论和追加规则进一步稀释注意力、耗尽配额。他在 238 个生产工单中验证了两个解法:用 4 部分正向覆写结构(点名运行时崩溃、指出权重倾向的教程式捷径、允许智能体叫停并反向提议、给出确切正向序列)替代 DON'T 反例;让考古子智能体用 1991 AT&T Bell Labs Graphviz DOT(strict digraph)而非散文或 Mermaid 向编码和评审子智能体传递调用图影响范围和状态机,以触发模型的 LLVM/GCC 编译器控制流训练记忆。
为什么值得看
作者把两个常见智能体痛点归因于同一个注意力机制问题,并给出可复用的正向覆写模板和 Graphviz DOT 传递方案。
本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体,原文版权归原作者所有。