跳到课程正文
EN
课程书架/自学公开课程

第 19 周 / 24 · 掌握改变的边界

可信的任务账本

建立可信经验:AI 任务账本、用量估计与不确定性

10 小时核心 + 2 小时机动学习 · 实验 · 独立练习
开始阅读 ↓
可信的任务账本24 周个人 FDE 实践路线

本周要回答: 你推荐某个模型或强度,是因为它真的在同类任务上更合适,还是因为最近一次表现令人印象深刻?

进入本周前: 至少有少量真实运行记录,能区分任务、尝试、结果与人工复核;缺少数据也可以开始,但不能假装已经校准。

图 19.1本周的思考路径
  1. 01记录尝试
  2. 02标注来源
  3. 03比较同类任务
  4. 04建议或不推荐
课程示意图 · 根据本周实验步骤绘制,表示建议流程,不是实测结果。

学习内容与理解目标

启动 P3——AI 任务与成本账本。每条记录只保留必要字段:任务类别、运行环境、真实模型或工具版本、可获得的推理配置、尝试次数、主动耗时、结果与用量来源。未知记为 null 或明确状态,不用零替代。原始提示与个人资料默认不收集。

比较模型时,任务难度、工具权限、上下文长度和重试策略都可能影响结果。中位数可描述典型情况,较差情形和失败比例也必须看;小样本只能支持局部观察。某个固定样本数不是“校准完成”的通行证。订阅额度百分比也不是天然可换算为统一 token 数,无法从官方或实测获得就标估计或不可得。

学习链接与选读范围

级别 官方或原始资料 本周只读这些 阅读预算
必读复习 R17 · Harvard CS50 SQL 聚合、筛选与查询;保持任务粒度和尝试粒度分开。 35 分钟
必读复习 R42 · Anthropic:Demystifying evals for AI agents 多次尝试、结果与回归记录的用途。 35 分钟
安全选读 R65 · OpenTelemetry:Handling sensitive data 用量与追踪字段最小化。 30 分钟

实战拆解

  1. 定义任务账本的数据契约,把“模型自述成功”和“本人或检查器确认成功”分开。包含失败、超时、取消与未知,不只录入令人满意的任务。

  2. 对官方显示、直接测量、估算与未知分别打标签。拿不到准确调用费用或上下文长度时,保留来源与限制,不从界面猜一个精确数字。

  3. 只在相近任务组内计算耗时、重试与完成情况。先检查重复记录和异常缺失,再画或计算汇总;数据太少时输出“证据不足”。

  4. 设计一个简单建议规则,例如优先使用在该类低风险任务中已有可接受结果的常规档,遇到指定失败再升级。规则先人工审阅,不让模型根据一次结果不断换档。

  5. 将 P3 用于下一次真实开发会话的选择与预算记录。只记录必要元数据,展示统计改进可以先不增加一次额外 LLM 调用。

交付与验收

本周交付 怎样确认真的完成
可信任务账本 任务与尝试清楚区分;结果和用量的来源可追溯。
带限制的汇总 相近任务可比较,未知与失败没有被吞掉。
一个局部建议 明确适用范围;数据不足时保持不推荐,而非制造精确排行榜。

不用代码生成器的练习: 自己检查一组包含重复与缺失的合成记录,解释为什么直接取平均会误导,再写正确查询。

隐私与安全检查: 不要读取不透明内部数据库、抓取会话凭据或绕过产品接口来获得额度。只使用官方提供、本人有权导出的信息。对任务名称和文件路径也做最小化;公开聚合仍可能暴露个人活动,不自动发布。

落到日常生活: 下次开工前按任务类别选择已有验证的配置,而不是默认最大强度。课后看它是否降低返工和切换成本,不把用完套餐当成收益。

过关或补课判断: 能够把实测、估算和未知分开,就完成 RSI 的记录层。样本不足是合格结论,不为凑数量大量制造无意义任务。

本周可复制的协作提示

请以隐私最小化的元数据建立任务账本,区分任务、尝试、结果和用量来源。只比较相近任务,未知不填零,不伪造模型或额度。先用本地统计提出有限建议,不新增自我反思调用。

本周来源与核对范围

来源编号与核对说明沿用课程原文,基线为 2026-09-27。未逐一登录完成外部实验;实施前请核对最新版本与访问条件。

  1. R17
    Harvard CS50 SQL ↗

    公开目录;查询、关系、设计与写入是主线选读范围。

  2. R42
    Anthropic:Demystifying evals for AI agents ↗

    2026-01-09;用于结果评测与过程检查的思路。

  3. R65
    OpenTelemetry:Handling sensitive data ↗

    遥测最小化、处理与过滤;不默认上传全部提示和输出。