总目录 大模型安全研究论文整理 2026年版：https://blog.csdn.net/WhiffeYF/article/details/159047894
https://arxiv.org/abs/2603.13151
该论文名为《Defensible Design for OpenClaw: Securing Autonomous Tool-Invoking Agents》，由来自海南大学的Zongwei Li、Wenkai Li和Xiaoqi Li共同撰写。该论文发表在arXiv 2026上。这篇论文主要探讨了像OpenClaw这样能够调用外部工具的自主智能体的安全与防御问题。
随着技术的演进，像OpenClaw这样的智能体不仅能生成文本，还能浏览网页、操作本地文件并调用外部工具。然而，该论文指出，由于它们将不可信的输入、自主操作、扩展能力和系统特权集中在同一个执行循环中，这种架构在默认情况下是非常不安全的。这导致了四大核心安全威胁：提示词注入、有害误操作、扩展插件供应链风险以及部署漏洞。
为了应对这些架构漏洞，该论文并没有局限于修补单个Bug，而是提出了一套“防御性设计”蓝图，核心包含四项安全工程原则：最小特权、运行时隔离、扩展治理和可审计性。
打个通俗的比方来解释这个方法：假设你雇佣了一个极其能干的机器管家（智能体）来管理房子。如果不加限制，坏人塞进门缝的一张带有隐藏指令的小纸条（提示词注入），就可能骗过管家，让他把家里的贵重物品或隐私送出去。而该论文提出的防御方案，就是给管家定下严格的“系统家规”：每次干活只给他完成当前任务所需的特定钥匙（最小特权）；管家工作的区域和存放保险箱的区域必须物理隔开（运行时隔离）；管家想找外包工人（安装扩展插件）时，必须严格查验对方资质和权限（扩展治理）；并且，管家的每一个决策和动作都必须有清晰的监控录像（可审计性）。
该论文的最终目标是引导整个AI社区改变思路，从“发现一个漏洞打一个补丁”，转向系统化的防御工程与稳健的部署实践。通过构建完善的评估基础设施、权限架构和监督遥测机制，让未来的智能体在保持强大的同时，做到可测试、受边界约束并具备可追溯性。
