删除、批量修改这类操作,Agent 容易一刀切。
加一个预览机制:
- 工具支持 dry_run 参数,返回「将会影响哪些对象」而不执行
- 引导模型先 dry_run,把结果给人看,确认后再真执行
- 影响超过阈值(比如 100 条)强制要求确认
效果:误删率降到接近零,而且不牺牲效率。
这个设计比「禁止危险操作」好。禁止了它就绕路,用别的方式达成目的,反而更难控制。
同理适用于:批量发邮件、批量改配置、批量退款。
主楼- 暂无回复
继续逛逛
删除、批量修改这类操作,Agent 容易一刀切。
加一个预览机制:
效果:误删率降到接近零,而且不牺牲效率。
这个设计比「禁止危险操作」好。禁止了它就绕路,用别的方式达成目的,反而更难控制。
同理适用于:批量发邮件、批量改配置、批量退款。