知识库 · 方法论
AI 工作流里，规则、模型和人应该怎样分工？
稳定、可明确编码的步骤优先交给确定性软件；需要理解非结构化信息或有限判断的步骤交给模型；高风险例外、责任接受和不可轻易撤销的动作保留人工授权。分工不是一次决定，应随评测与运行证据逐步调整。
核心要点
- 确定性软件：固定计算、格式校验、权限检查、状态流转和明确规则
- 模型或 Agent：理解、归纳、生成、分类和有限建议，输出必须可评测和复核
- 人工授权：高风险例外、价值取舍、对外承诺、付款、发布、删除及责任接受
- 先问错误代价和责任边界，再决定自动化比例；不是能用模型就全部用模型
- 权限阶梯：建议/草稿 → 人工确认 → 影子运行 → 有限自动执行 → 证据达标后扩大权限
- 数据、流程或模型发生变化时，自动权限可以退回上一档重新验证
具体怎么做？
- 画出一条真实业务流程，逐步标记输入、规则、例外、动作和责任人
- 把可重复、规则稳定的步骤先放进确定性工作流
- 为模型步骤建立真实样例、拒答、异常和安全评测
- 高风险动作先采用人工确认或影子运行，再根据证据决定是否扩大权限