电子工程师分享智能体操作物理世界的权限阶梯设计并征求同行意见

原标题：What do you require before an agent may change something in the physical world?

作者讲述 8 月自己 bench 上一个智能体因 SSH 超时和网络扫描无结果而误判一块通电的板子已断电，实际电源仍在向其供 0.635 A，摄像头画面也显示屏幕亮着。此后他设计了权限阶梯：读仪器和看摄像头始终允许，物理世界结论必须来自读数而非静默通道，移摄像头允许，断电无需请示但须立即报告且只能走已在真实硬件上验证过的 kill path，任何给 bench 加电的操作须等人。他向 r/AI_Agents 提问：这条线该画在哪里、如何证明 kill path 有效。talk 和代码链接在其评论中。

本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体，原文版权归原作者所有。