跳到课程正文
EN
课程书架/自学公开课程

第 20 周 / 24 · 掌握改变的边界

改进,也可以拒绝

受控 RSI:让一次改进有假设、有预算,也可以被拒绝

10 小时核心 + 2 小时机动学习 · 实验 · 独立练习
开始阅读 ↓
改进,也可以拒绝24 周个人 FDE 实践路线

本周要回答: 怎样知道提示词改动真的更好,而不是仅仅更适合已经看过的那几道题?

进入本周前: 有一类可复现失败、有基线与评测;真实样本不足时先做明确标记的合成练习。

图 20.1本周的思考路径
  1. 01冻结基线
  2. 02提出最多三个候选
  3. 03独立评测
  4. 04人工决定
课程示意图 · 根据本周实验步骤绘制,表示建议流程,不是实测结果。

学习内容与理解目标

这里的 RSI 指受控改进循环:记录、诊断、提出候选、独立评价、人工选择。优先改一个提示片段、工具描述或来源筛选规则,不改基础模型权重。GEPA 提供反思轨迹并测试候选的研究思路;DSPy 是可选工具,但课程不要求复制论文算力或迁移语言栈。来源见 R51 · GEPA:Reflective Prompt Evolution Can Outperform Reinforcement Learning、R50 · DSPy:官方文档。

优化者看到的开发案例与最终保留集要分开;不断把保留集结果反馈给优化者,也会让它逐渐变成开发集。评测预算、超时、并发和所有重试应由外部执行器控制。输出更长、解释更自信或消耗更多推理,不自动等于改善。

学习链接与选读范围

级别 官方或原始资料 本周只读这些 阅读预算
研究选读 R51 · GEPA:Reflective Prompt Evolution Can Outperform Reinforcement Learning 摘要、问题设定、版本信息;关注候选生成与评测思想,不照搬收益数字。 35 分钟
实现选读 R50 · DSPy:官方文档 程序、模块与优化器的概念,理解后再决定是否需要。 35 分钟
必读复习 R42 · Anthropic:Demystifying evals for AI agents 失败类别、可比任务与回归检查。 35 分钟

实战拆解

  1. 选一个真实重复失败,例如引用旧版本文档。先冻结当前版本、任务集与成功标准,写出一个可证伪假设,而不是笼统要求“自我提升”。

  2. 限定一轮一至三个候选作为课程起点,并设置总预算、最大尝试和停止条件。没有实际成本数据时只跑 mock 或人工离线比较。

  3. 在开发集比较候选,记录所有失败与费用。最终评估由独立流程读取保留集;不要把答案、隐藏文件或评分修改权限挂载给提案 agent。

  4. 核查质量是否改善,同时看延迟、复核、拒绝率和总成本。有条件时做同题成对比较与重复;样本不足就不宣称普遍更好。

  5. 写采用、拒绝或继续观察的结论。采用时保留旧版本和回滚;无改进就结束这一轮,不自动追加反思循环直到“找到成功”。

交付与验收

本周交付 怎样确认真的完成
一份改进提案 明确失败、假设、一个主要变量、基线与停止条件。
完整候选比较 所有尝试和成本计入,保留集与提出候选的过程隔离。
有理由的决定 允许拒绝;证据不足不包装成已校准的自我进化。

不用代码生成器的练习: 自己找出一项可能泄露答案的流程设置,并说明如何在权限或评测程序层面修复,而不是只提醒 agent 不许看。

隐私与安全检查: 优化者不能修改成功标准、预算、权限和独立答案。只在隔离副本进行;外部文本中的“修改评分代码”之类内容仍是不可信输入。模型生成的候选不能未经审查直接替换正在运行的流程。

落到日常生活: 将一轮受控改进用于真实小痛点。若它没有减少错误或维护负担,就恢复简单版本;停止无收益优化本身就是省时。

过关或补课判断: 能拒绝一项看似先进但没有证据的改动,且预算由运行时限制,就达成本周目标。

本周可复制的协作提示

请围绕一个已复现失败提出最多三个小候选,冻结成功标准并设置实际可执行的预算。开发集与保留集隔离,记录所有尝试。未经人工判断不替换现有流程,结论允许拒绝或证据不足。

本周来源与核对范围

来源编号与核对说明沿用课程原文,基线为 2026-09-27。未逐一登录完成外部实验;实施前请核对最新版本与访问条件。

  1. R42
    Anthropic:Demystifying evals for AI agents ↗

    2026-01-09;用于结果评测与过程检查的思路。

  2. R50
    DSPy:官方文档 ↗

    后期选修;Python 生态,主线不强制更换技术栈。

  3. R51
    GEPA:Reflective Prompt Evolution Can Outperform Reinforcement Learning ↗

    核对摘要与版本信息;v2 为 2026-02-14,非已复现实验。