让Agent在可知、可控、可追溯中走向可信

近期，由上海市徐汇区人民政府指导，上海徐汇思源人工智能研究院、上海市漕河泾新兴技术开发区发展总公司主办，上海科学技术交流中心共同支持的“AI平台经济生态协作大会”，在上海市徐汇区漕河泾会议中心召开，汇聚学界、产业界及投资界70多位代表。上海交通大学俞勇教授发表开场致辞，他深入阐述了AI技术浪潮带来的时代机遇与平权效应，强调技术正以前所未有的方式降低创新门槛、赋能千行百业。

Noumena 物自体联合创始人兼CTO李佳骏围绕 OpenClaw 的安全治理体系发表主题演讲，系统介绍了面向 Agent 时代的“可知、可控、可追溯”安全方案。面对 Agent 在获得更高权限之后所带来的行为不透明、执行路径难以还原、异常责任难以归因等现实挑战，李佳骏指出，如果一个 Agent 系统无法被治理，它就很难成为真正可信的基础设施。

围绕这一核心命题，李佳骏在演讲中提出了 OpenClaw 的三层安全治理思路：一是“可知”，即系统需要对 Agent 的状态、调用过程、任务路径和关键行为具备足够透明度，让人能够看见 Agent 在做什么；二是“可控”，即系统需要在权限、边界、流程和风险环节上建立有效约束，确保 Agent 的执行能力始终运行在被允许的范围内；三是“可追溯”，即一旦出现异常行为、误调用或非预期结果，系统能够完整还原上下文与执行链路，为排查、修复和责任判断提供依据。

为了让这一治理框架真正落地，Noumena GrowClaw的实践中，已在产品体系内形成了多项具体实践。李佳骏介绍，GrowClaw 通过“龙虾医院”构建面向 Agent 全链路运行状态的监控与诊断能力，对关键行为、异常情况和系统运行过程进行持续观测；同时借助“龙虾病例”体系对异常案例进行沉淀和留档，把运行中的偏差、故障与风险事件转化为后续优化治理的基础素材。“龙虾学院”推动技能认证机制建设，使 Agent 所具备的能力边界、工具使用方式与任务执行规范能够被更清晰地定义和管理。

在李佳骏看来，安全不是 Agent 生态成熟之后再补上的附加项，而是生态能够走向规模化协作的前提条件。尤其是在 Agent 持续进入企业真实场景、触达更多系统接口、承担更多跨角色任务之后，只有可被治理、可被审计、可被复盘的系统，才可能成为值得长期依赖的企业级能力底座。