LoRA 学习实施清单

勾选表示有实际证据，不表示“教程已写到这里”。命令见 plan.md，本地验证见 verification.md。

A. 已实现的材料

• 小学中文科学探索，覆盖三个学段和五类主题。
• 顺序教程：概念、硬件、环境、训练、评估、导出、API、排错。
• 60 张事实卡，500 段训练 + 50 段验证 + 50 段测试，全部为待审核合成对话。
• 数据校验、对话展开、模板/长度/监督检查。
• 单文件 dataset.json、完整样例与字段说明；Notebook 用 D1～D7 标出数据使用位置。
• 独立轻量分词环境；PyTorch / TRL 测试移到开发者选读章节。
• QLoRA 训练和恢复、A/B/C 推理、连续对话、盲评与冻结。
• BF16 合并及本地单轮/多轮 API 调用示例。
• 直接展示训练代码的教学 Notebook，每格附解释，包含产物核对、重载与评估。
• 魔搭下载、HF 镜像备用、固定文件 SHA-256 校验与缺分片报错。

B. 本地机制检查

• 数据与监督自动化测试。
• 固定模型 revision，仅下载分词器与配置。
• 用真实 Qwen tokenizer 和 TRL collator 检查 1150 条训练样本的 mask/EOS/padding。
• 微型 CPU 模型仅更新 LoRA，可保存、恢复、重载及合并。
• 直接执行教程 API 示例的本地 HTTP 与历史传递测试。
• 盲评配对、缺失评分和主题聚类统计测试。

C. 理解与审核

• 用自己的话解释 SFT/LoRA/QLoRA、显存、Step/Epoch。证据：一页笔记。
• 阅读至少 10 条实际监督目标。证据：audit 与笔记。
• 审核全部 600 段候选对话。证据：真实 reviewer、notes 与修改记录。
• 复核事实来源，特别是本次网页访问受限资料。证据：卡片审核记录。

D. GPU 机制学习（先读懂第 2 章，Notebook 直接读单文件）

• Linux NVIDIA 环境联调。证据：版本、驱动、BF16、pip check。
• 下载并校验固定版本完整基座，保存原模型观察题回答。
• 1 Epoch（约 72 步）QLoRA。证据：有限 Loss、loss-curve.png、参数更新、adapter、峰值显存。
• 训练时用 nvidia-smi 记录显存，与第 4.3 节估算对照。证据：读数与笔记。
• 20 条过拟合。证据：Loss 变化和训练内输出，不声称泛化。
• 5→10 步恢复。证据：优化器/调度器快照与日志。

E. 正式对照（依赖 C、D）

• 60 张卡、600 段对话，每类 100/10/10；主题和事实引用不跨 split。
• 全部参考回复审核、近重复检查。证据：review 与家族记录。
• 草稿数据探索性对照（--allow-draft --formal prepare/audit）。证据：manifest（draft: true）、分词器指纹、Token 报告。
• r16/alpha32 与 r8/alpha16 各 1 Epoch。证据：配置、时间、显存、文件大小。
• 验证集固定历史/连续对话。证据：盲评、事实审查与失败分类。
• 冻结候选后运行全部 50 段测试（5 个主题）。证据：冻结文件、输出及不确定性。
• 写出收益/无收益/不确定结论，说明限制。

F. 导出与 API（依赖 D；正式效果结论依赖 E）

• 实际 4B adapter 可重新加载。证据：相同 SHA 的输出。
• BF16 基座合并。证据：merge manifest、完整权重、tokenizer、许可证。
• 同精度合并前后对比，单独记录 NF4/BF16 差异。
• vLLM 启动。证据：独立推理环境版本、服务日志、健康检查。
• KV Cache 估算与启动日志对照。证据：GPU KV cache size、Maximum concurrency 两行与第 5.3 节表格。
• API 单轮/多轮/流式调用。证据：真实模型响应。
• 挂载 adapter 部署，同一服务对比 qwen3-4b-base 与 science-lora。证据：两组回答。
• vllm bench serve 并发 1/4/16 压测，并调整 --max-num-seqs 复测。证据：填好的 TTFT/TPOT/吞吐表。
• 核对费用、保存结果、停止闲置实例。证据：成本记录。

后续另行讨论

网页、朗读、多语言、在监护人知情同意下的真实儿童使用研究、推广文章、公网服务及更多训练方法。