LLaMA-Factory
中文 Tutorial 入门书
面向:第一次想微调一个 7B 模型的中文开发者;不想自己写训练循环、希望"改改配置就能跑"的实战派。
前置:会用 Python、会装 conda;最好理解什么是 LoRA。
本书的目标
LLaMA-Factory 是中文圈最广泛使用的"一体化微调框架"。读完本书你应该能:
- 用 Web UI 或 YAML 跑完 SFT、DPO、PPO 三种典型训练;
- 在自己的中文数据集上微调 Qwen / Llama / DeepSeek 等模型;
- 把训练好的 LoRA / 全量模型 merge、导出、量化部署。
目录
| 章节 | 标题 | 状态 |
|---|---|---|
| 序 | 中文社区为什么选 LLaMA-Factory | ✅ |
| 第 1 章 | 项目背景与定位 | ✅ |
| 第 2 章 | 环境准备与安装(Docker / 源码 / 本地 repo) | ✅ |
| 第 3 章 | 快速上手:跑通你的第一次 LoRA SFT | ✅ |
| 第 4 章 | 核心概念:6 类 args / template / stage / data registry | ✅ |
| 第 5 章 | 配置系统:YAML 全字段拆解 | ✅ |
| 第 6 章 | SFT:全参 / LoRA / QLoRA / 长上下文 | ✅ |
| 第 7 章 | DPO / ORPO / SimPO:偏好对齐 | ✅ |
| 第 8 章 | PPO 与 GRPO:RLHF 全流程 | ✅ |
| 第 9 章 | 多模态:LLaVA / Qwen2-VL / Qwen3-VL 微调 | ✅ |
| 第 10 章 | 加速集成:DeepSpeed / FSDP / Unsloth / FlashAttention | ✅ |
| 第 11 章 | 常见错误:OOM、数据格式、模板 | ✅ |
| 第 12 章 | 模型导出:merge、量化、推理服务 | ✅ |
| 第 13 章 | 源码导读:Trainer 继承链与文件地图 | ✅ |