数据集格式与 type 字段

Axolotl 的 datasets[i].type 决定数据怎么解析成 input_ids + labels。本章把常见 type 都过一遍，再讲怎么自定义。

5.1type 全清单（常用）

5.2chat_template 类型（最通用）

datasets:
  - path: ./my_chat.jsonl
    type: chat_template
    chat_template: llama3              # tokenizer 自带 chat template
    field_messages: messages           # 数据列名
    message_field_role: role
    message_field_content: content
    roles:                              # 每个 role 是否算 loss
      user:
        - human
      assistant:
        - gpt
        - assistant

对应 jsonl：

{"messages": [
  {"role": "user", "content": "..."},
  {"role": "assistant", "content": "..."}
]}

5.3alpaca 类型

datasets:
  - path: tatsu-lab/alpaca
    type: alpaca

# 数据列
{"instruction": "...", "input": "...", "output": "..."}

Axolotl 自动拼成 ### Instruction:\n... ### Input:\n... ### Response:\n...。 注意：alpaca 是非 chat 模板，有 instruction-following 格式但没 chat 角色。

5.4sharegpt 类型

datasets:
  - path: ./sharegpt.jsonl
    type: sharegpt

# 数据列
{"conversations": [
  {"from": "human", "value": "..."},
  {"from": "gpt", "value": "..."}
]}

5.5DPO / KTO 数据

rl: dpo
datasets:
  - path: HuggingFaceH4/ultrafeedback_binarized
    split: train_prefs
    type: chatml.intel                   # 命名约定 = type + variant

# 内部期望
{"prompt": "...", "chosen": "...", "rejected": "..."}

DPO 数据 type 有十几个 variant：chatml.intel、llama3.intel、ultra.argilla 等，对应不同公开偏好集格式。

5.6多数据集混合

datasets:
  - path: tatsu-lab/alpaca
    type: alpaca
  - path: ./domain.jsonl
    type: chat_template
    chat_template: llama3
  - path: HuggingFaceH4/no_robots
    type: sharegpt

Axolotl 默认 concat 所有数据集，按比例 = 各自 sample 数。要权重：

datasets:
  - path: domain.jsonl
    type: chat_template
    weight: 3.0           # 上采样 3×

5.7自定义 type

看 src/axolotl/prompt_strategies/，每个 type 是一个 PromptStrategy 子类。简化：

class MyStrategy(PromptStrategy):
    def tokenize_prompt(self, example):
        prompt = f"<|user|>{example['q']}<|assistant|>{example['a']}"
        ids = self.tokenizer(prompt, return_tensors=None)
        labels = ids["input_ids"].copy()
        # mask user 部分
        ...
        return {"input_ids": ids["input_ids"], "labels": labels}

def load(tokenizer, cfg):
    return MyStrategy(tokenizer, cfg)

把文件放在 src/axolotl/prompt_strategies/my_strat.py，YAML 里写 type: my_strat 即可。

5.8predict 用 dataset_processes

大数据集 tokenize 慢，开多进程：

dataset_processes: 16

预处理结果缓存到 dataset_prepared_path，第二次跑直接读 cache。

5.9常见踩坑

5.1033+ prompt strategy 全表

v2026 之后 src/axolotl/prompt_strategies/ 已经累计 33+ 个策略，按"训练阶段"分类：

5.11type 字段的动态解析

YAML 的 type: dpo.chatml 怎么找到代码？来源 prompt_strategies/__init__.py:12–53 的 load() 函数：

1. 字符串按 . 切分；
2. 第一段是 subdir / 文件名（如 dpo）；
3. 后续段拼成模块（dpo.chatml → prompt_strategies.dpo.chatml）；
4. importlib 动态 import 该模块；
5. 调它的 load(tokenizer, cfg, ...) 函数返回 strategy 实例；
6. 找不到模块时静默返回 None（不报错） —— 这是新人常踩的坑：拼错 type 不会立刻 fail，会被当 user_defined。

5.12三种 dataset schema

schemas/datasets.py:254–297 用判别式联合区分三种 dataset config：

同一 YAML 里同时混 SFT 和 DPO dataset 不允许——rl 字段决定整个 datasets 列表的 schema。

5.13label masking 三选一

不同 type 决定哪段 token 算 loss。看 prompt_tokenizers.py 的 IGNORE_INDEX=-100（line 14）+ 各 strategy 自定义 mask 逻辑：

5.14这章你需要带走的

• 核心 type：chat_template / alpaca / sharegpt / completion；
• 对齐数据用 rl: dpo + type 变体；
• 自定义 type 写一个 PromptStrategy 类即可；
• 多数据集用 weight 字段调比例。