大模型训练框架导览

从预训练到 RLHF 的 15 个主流开源框架,附中文 tutorial 入门书。

📦 项目数:15  ·  📚 中文教程:13 章 / 本  ·  🗓️ 整理:2026-05  ·  🔖 版本基线

这套目录把当前主流的 15 个 LLM 训练框架按"预训练 / 微调 / RLHF / PEFT"四类整理。 每个框架都配套了一本 13 章的中文 tutorial 入门书,章节内容基于具体 commit 编写,所有路径 与代码引用都可在配套源码 repos/<name>/ 里直接对照。

阅读顺序建议:先扫一遍 版本基线 了解所有仓库的快照 commit; 再按下方分区选你感兴趣的框架进入对应 tutorial。每本书的章节都列在书内左侧侧边栏, 随时可以跳转。


·完整目录

PART A 预训练 & 分布式底座 从零训练大模型绕不开的基础设施层
PART B 微调框架 已有基座模型,用自己数据做 SFT / DPO / 持续预训练
PART C RLHF / 后训练 DPO / PPO / GRPO 把基础模型调教成"听话模型"
PART D 通用加速 / PEFT 所有微调框架背后都会用到的算法层

本目录怎么组织

本目录的物理结构如下,所有路径都在 /Users/zjw/Documents/LLM/train/ 下:

train/
├── index.html              (当前页面)
├── VERSIONS.html           15 个仓库的 commit 基线表
├── assets/style.css        全站统一样式
├── tutorials/              15 本中文 tutorial
│   ├── 01-megatron-lm/     index.html + ch01-13 + appendix-a
│   ├── 02-deepspeed/       index.html + ch01-13
│   ├── ...
│   └── 15-peft/            index.html + ch01-13
└── repos/                  15 个仓库的浅克隆(git clone --depth=1)
    ├── megatron-lm/
    ├── deepspeed/
    └── ...
从哪开始读

对大模型工程系统感兴趣 → 先看 Megatron-LMDeepSpeed

想微调一个 7B 模型 → 直接进 LLaMA-Factory

对 R1 风格 RLHF 感兴趣 → 进 verlOpenRLHF

只想理解 LoRA → 进 PEFT

章节完成度

Star 章节 状态
LLaMA-Factory 71,61613 / 13✅ 完结
Unsloth 65,17013 / 13✅ 完结
DeepSpeed 42,39613 / 13✅ 完结
ColossalAI 41,38413 / 13✅ 完结
verl 21,56813 / 13✅ 完结
PEFT 21,18813 / 13✅ 完结
TRL 18,47113 / 13✅ 完结
NeMo 17,26213 / 13✅ 完结
Megatron-LM 16,45613 / 13 + 附录✅ 完结
ms-swift 14,26913 / 13✅ 完结
Axolotl 11,96413 / 13✅ 完结
OpenRLHF 9,548 13 / 13✅ 完结
TorchTitan 5,384 13 / 13✅ 完结
XTuner 5,138 13 / 13✅ 完结
nanotron 2,701 13 / 13✅ 完结