“已为您成功完成”不等于真的完成:可靠性来自每一步的验证。
为一个 Agent 的全部动作填写“动作 → 验证方式 → 失败处理”表。
Think → Act 之后缺失的 Verify,是 Demo 与产品的分界线。
发邮件看 message_id、写库后读回、改代码跑测试、发布后做 HTTP 检查。
模型自评、模型互评与程序化验证的可靠性差异。
工具失败、数据缺失、推理错误、规则冲突与环境异常。
重试上限、置信度阈值,以及升级到人工的交互设计。
试试:上下文、MCP、沙箱、Prompt 注入、外链