项目背景与定位

1.1 一句话定位

Axolotl 是 OpenAccess-AI Collective（现为 Axolotl AI Cloud）维护的、英文社区使用最广的"配置文件驱动型 LLM 微调框架"。它的核心理念是：用户只需要写一份 YAML config，剩下所有事 Axolotl 替你搞定。

你在 HuggingFace Hub 上看到的很多英文社区流行模型——Hermes、OpenChat、Capybara、Solar 等——它们的发布说明里几乎都会提到 "Trained with Axolotl"。

1.2 为什么会有 Axolotl

2023 年中，Llama 1/2 开放权重后，社区涌现大量"我也想训一个 Llama 微调版"的需求。当时的痛点：

• HF Trainer + PEFT + accelerate + bitsandbytes + DeepSpeed 拼起来需要写不少胶水代码；
• 不同社区的数据格式（Alpaca、ShareGPT、ChatML）转换起来麻烦；
• 多卡微调需要熟悉 DeepSpeed JSON / FSDP API；
• 量化（4bit/8bit）需要单独处理。

Axolotl 的回答：一份 YAML 配置全包。 写法是这样：

base_model: meta-llama/Llama-3-8B
load_in_4bit: true
adapter: qlora
datasets:
  - path: tatsu-lab/alpaca
    type: alpaca
deepspeed: deepspeed_configs/zero2.json

然后 accelerate launch -m axolotl.cli.train config.yml，剩下的事不用管。

1.3 它和 LLaMA-Factory / ms-swift 的对比

1.4 设计哲学：YAML 是契约

• 极简的 Python 调用：用户基本不需要写 Python，只调一个命令；
• 配置文件可以共享、可以版本控制：社区里发布"Hermes-3 训练配置"就是丢一个 yaml 出来；
• 大量约定大于配置：例如 gradient_checkpointing: true 默认开启。

代价：当 YAML 太长（300 行 +）时变得难以维护；想做"YAML 不支持的事情"需要去改源码或 monkey patch。

1.5 它适合用来做什么、不适合做什么

1.6 本书将怎么带你走完这趟旅程

• 第 2-3 章最快路径装好 Axolotl，跑一个 Llama-3 8B QLoRA；
• 第 4-5 章完整剖析一份 YAML，分门别类讲每个字段，并解释数据格式的 type 字段；
• 第 6-7 章训练算法（SFT/DPO/ORPO/KTO）+ PEFT + 量化；
• 第 8 章多 GPU 训练，DeepSpeed / FSDP 怎么接；
• 第 9 章怎么写自己的 prompt 模板；
• 第 10 章完整实战：训一个 Hermes 风格对话模型；
• 第 11-13 章错误排查、导出推理、源码导读。

1.7 Axolotl 2024–2026 关键节点

本书基线 commit ab1a0d8（2026-05-26）。README 顶部的"Latest Updates"流水按时间倒序覆盖了过去 2 年的大动作：

1.8 Axolotl 支持矩阵（60+ 模型族）

README 列的"原生支持模型族"（基线 commit 上）：

1.9 跟 LLaMA-Factory / ms-swift 的真实差异（升级版）