大模型训练框架导览
从预训练到 RLHF 的 15 个主流开源框架,附中文 tutorial 入门书。
这套目录把当前主流的 15 个 LLM 训练框架按"预训练 / 微调 / RLHF / PEFT"四类整理。
每个框架都配套了一本 13 章的中文 tutorial 入门书,章节内容基于具体 commit 编写,所有路径
与代码引用都可在配套源码 repos/<name>/ 里直接对照。
阅读顺序建议:先扫一遍 版本基线 了解所有仓库的快照 commit; 再按下方分区选你感兴趣的框架进入对应 tutorial。每本书的章节都列在书内左侧侧边栏, 随时可以跳转。
·完整目录
- 01 Megatron-LM NVIDIA · 张量并行 / 流水线并行 / 序列并行的事实标准;几乎所有千亿模型都直接或间接复用 TP · PP · SP
- 02 DeepSpeed Microsoft · ZeRO 系列优化器状态分片的开山之作;HF Trainer 默认后端之一 ZeRO · MoE
- 03 ColossalAI HPC-AI Tech · 国产一站式并行训练;整合 ZeRO、TP、PP、序列并行与 Gemini 异构内存 异构内存 · 国产
- 04 TorchTitan PyTorch 官方 · 原生分布式参考实现,FSDP2 + TP + PP 全用 PyTorch 自带能力 FSDP2 · 官方
- 05 nanotron HuggingFace · 极简预训练代码库;3D 并行 + ZeRO-1,几千行代码读完就能上手改 极简 · 教学友好
- 06 NeMo NVIDIA · 端到端多模态训练栈:LLM / ASR / TTS / 视觉全包,底座是 Megatron-Core 多模态 · 企业级
- 07 LLaMA-Factory 中文社区使用最广的一体化微调框架;YAML / WebUI 双入口,100+ 模型 + SFT / RM / PPO / DPO 全流程 中文友好 · WebUI
- 08 ms-swift 阿里魔搭官方微调框架,200+ LLM/MLLM,原生支持 ModelScope 模型与数据集 hub 国产 · 多模态
- 09 Axolotl 配置文件驱动的英文社区主流 SFT/DPO 框架;YAML 一份配置走天下 YAML · Llama 系
- 10 Unsloth 单卡 2–5× 加速 + 显存大幅下降;手写 Triton kernel 重写 LoRA / QLoRA 前后向 Triton · 单卡友好
- 11 XTuner 上海 AI Lab · 消费级 GPU 上微调 7B-70B;InternLM 系模型一等公民 InternLM · 国产
- 15 PEFT HuggingFace · LoRA / QLoRA / AdaLoRA / IA³ / Prefix Tuning 等 20+ 种参数高效微调方法的官方实现 LoRA · QLoRA
本目录怎么组织
本目录的物理结构如下,所有路径都在 /Users/zjw/Documents/LLM/train/ 下:
train/
├── index.html (当前页面)
├── VERSIONS.html 15 个仓库的 commit 基线表
├── assets/style.css 全站统一样式
├── tutorials/ 15 本中文 tutorial
│ ├── 01-megatron-lm/ index.html + ch01-13 + appendix-a
│ ├── 02-deepspeed/ index.html + ch01-13
│ ├── ...
│ └── 15-peft/ index.html + ch01-13
└── repos/ 15 个仓库的浅克隆(git clone --depth=1)
├── megatron-lm/
├── deepspeed/
└── ...
从哪开始读
对大模型工程系统感兴趣 → 先看 Megatron-LM 或 DeepSpeed
想微调一个 7B 模型 → 直接进 LLaMA-Factory
对 R1 风格 RLHF 感兴趣 → 进 verl 或 OpenRLHF
只想理解 LoRA → 进 PEFT
章节完成度
| 书 | Star | 章节 | 状态 |
|---|---|---|---|
| LLaMA-Factory | 71,616 | 13 / 13 | ✅ 完结 |
| Unsloth | 65,170 | 13 / 13 | ✅ 完结 |
| DeepSpeed | 42,396 | 13 / 13 | ✅ 完结 |
| ColossalAI | 41,384 | 13 / 13 | ✅ 完结 |
| verl | 21,568 | 13 / 13 | ✅ 完结 |
| PEFT | 21,188 | 13 / 13 | ✅ 完结 |
| TRL | 18,471 | 13 / 13 | ✅ 完结 |
| NeMo | 17,262 | 13 / 13 | ✅ 完结 |
| Megatron-LM | 16,456 | 13 / 13 + 附录 | ✅ 完结 |
| ms-swift | 14,269 | 13 / 13 | ✅ 完结 |
| Axolotl | 11,964 | 13 / 13 | ✅ 完结 |
| OpenRLHF | 9,548 | 13 / 13 | ✅ 完结 |
| TorchTitan | 5,384 | 13 / 13 | ✅ 完结 |
| XTuner | 5,138 | 13 / 13 | ✅ 完结 |
| nanotron | 2,701 | 13 / 13 | ✅ 完结 |