模型类型
前置知识
一、概述
大语言模型根据训练阶段和用途的不同，可以分为以下几种类型：
| 类型 | 英文 | 训练阶段 | 主要用途 | 类比 |
|---|---|---|---|---|
| 基座模型 | Base Model | 预训练完成 | 微调基础、知识检索 | 通识教育毕业生 |
| 指令模型 | Instruct Model | 指令微调后 | 任务执行、指令遵循 | 职业技能培训后 |
| 对话模型 | Chat Model | 人类对齐后 | 对话交互、助手应用 | 懂得社交礼仪的专家 |
[!比喻] 模型类型类比 如果把 LLM 比作培养一个人才：
- Base Model = 大学毕业生（知识渊博，但不懂职场规则）
- Instruct Model = 经过职业培训（能按要求完成工作）
- Chat Model = 有教养的专业人士（既能干又懂得为人处世）
二、基座模型（Base Model）
2.1 定义
基座模型（Base Model）是经过预训练但未经过微调和人类对齐的原始模型。
它是其他所有模型类型的”地基”。
2.2 训练方式
海量文本数据（万亿 Token）
↓
预训练（Next Token Prediction）
↓
Base Model
2.3 特点
| 特点 | 说明 | 原因 |
|---|---|---|
| 知识广博 | 从海量文本中学习通用知识 | 预训练数据覆盖广泛 |
| 续写能力强 | 擅长文本补全和续写 | 训练目标是预测下一个 token |
| 不擅长对话 | 倾向于续写而非回答问题 | 未学习对话格式 |
| 未对齐 | 可能生成不安全内容 | 未经过安全训练 |
2.4 典型行为
输入： "什么是人工智能？"
Base Model 输出：
"什么是人工智能？这是一个值得深入探讨的问题。
近年来，随着计算机技术的发展，人工智能领域取得了长足进步...
本文将从定义、发展历程、主要技术等方面进行阐述..."
（倾向于续写问题，像是在写文章，而不是直接回答）
Base Model 的"续写癖"
Base Model 的训练目标是”预测下一个词”，所以它认为任何输入都是”未完成的文本”，需要续写。
你问它问题，它不是在”回答”，而是在”续写这个问题”。
2.5 使用场景
| 场景 | 说明 | 代表用例 |
|---|---|---|
| 微调起点 | 作为垂直领域微调的基础 | 医疗、法律模型微调 |
| 文本续写 | 小说创作、代码补全 | GitHub Copilot 底层 |
| 知识检索 | 作为知识库的索引模型 | RAG 系统的编码模型 |
| 研究用途 | 研究模型内部机制 | 可解释性研究 |
三、指令模型（Instruct Model）
3.1 定义
指令模型（Instruct Model）是经过指令微调的模型，能够更好地理解和执行人类指令。
3.2 训练方式
Base Model
↓
指令微调（Instruction Tuning）
↓
Instruct Model
指令微调数据示例：
{
"instruction": "将以下中文翻译成英文",
"input": "今天天气很好",
"output": "The weather is very nice today."
}3.3 特点
| 特点 | 说明 |
|---|---|
| 遵循指令 | 能够理解”请总结…”、“请翻译…”等指令 |
| 任务导向 | 专注于完成特定任务 |
| 输出规范 | 回答格式更加规范 |
| 部分对齐 | 有一定的安全性，但不如 Chat Model 完善 |
3.4 典型行为
输入： "请总结以下文章：..."
Instruct Model 输出：
"这篇文章主要讨论了...
核心观点包括：
1. ...
2. ...
3. ..."
（按照指令要求，规范地完成任务）
3.5 使用场景
| 场景 | 说明 | 代表用例 |
|---|---|---|
| 任务执行 | 翻译、总结、分类等 | 批量文本处理 |
| API 调用 | 程序化调用执行特定功能 | 后端服务集成 |
| 自动化流程 | 工作流中的固定任务节点 | 数据清洗、格式化 |
四、对话模型（Chat Model）
4.1 定义
对话模型（Chat Model）是经过完整训练流程（预训练 + 指令微调 + 人类对齐）的模型，专门用于人机对话交互。
4.2 训练方式
Base Model
↓
指令微调
↓
人类对齐（RLHF/DPO）
↓
Chat Model
4.3 特点
| 特点 | 说明 |
|---|---|
| 对话能力强 | 自然流畅的多轮对话 |
| 遵循指令 | 准确理解和执行指令 |
| 安全对齐 | 拒绝生成有害内容 |
| 人类偏好 | 输出符合人类价值观和交流习惯 |
| 有”个性” | 表现得像有礼貌的助手 |
4.4 典型行为
输入： "什么是人工智能？"
Chat Model 输出：
"人工智能（AI）是计算机科学的一个分支，
致力于创建能够执行通常需要人类智能的任务的系统。
主要包括机器学习、深度学习、自然语言处理等领域。
您想了解哪个方面的内容？"
（直接回答问题，并邀请进一步交流）
4.5 使用场景
| 场景 | 说明 | 代表用例 |
|---|---|---|
| 对话助手 | ChatGPT、Claude 等对话应用 | 个人助理 |
| 客服系统 | 智能客服、问答系统 | 电商客服 |
| 内容创作 | 文案撰写、创意写作 | 营销内容生成 |
| 代码辅助 | 编程助手、代码审查 | Cursor、Copilot Chat |
五、三种模型类型对比
5.1 训练阶段对比
flowchart LR A["🥚 预训练<br/>Base Model<br/><i>通才</i>"] -->|"🎓 学习指令"| B["🎓 指令微调<br/>Instruct Model<br/><i>专业人士</i>"] -->|"🎩 学习礼仪"| C["🎩 人类对齐<br/>Chat Model<br/><i>有教养的专业人士</i>"] style A fill:#e3f2fd,stroke:#1976d2,stroke-width:2px style B fill:#fff3e0,stroke:#f57c00,stroke-width:2px style C fill:#e8f5e9,stroke:#2e7d32,stroke-width:3px style A fill-gradient:#e3f2fd,#bbdefb style B fill-gradient:#fff3e0,#ffe0b2 style C fill-gradient:#e8f5e9,#c8e6c9
5.2 能力对比
| 能力 | Base Model | Instruct Model | Chat Model |
|---|---|---|---|
| 文本续写 | ⭐⭐⭐⭐⭐ | ⭐⭐⭐⭐ | ⭐⭐⭐ |
| 指令遵循 | ⭐⭐ | ⭐⭐⭐⭐ | ⭐⭐⭐⭐⭐ |
| 对话能力 | ⭐⭐ | ⭐⭐⭐ | ⭐⭐⭐⭐⭐ |
| 安全性 | ⭐⭐ | ⭐⭐⭐ | ⭐⭐⭐⭐⭐ |
| 知识性 | ⭐⭐⭐⭐⭐ | ⭐⭐⭐⭐ | ⭐⭐⭐⭐ |
| 创造性 | ⭐⭐⭐⭐ | ⭐⭐⭐ | ⭐⭐⭐ |
为什么 Chat Model 的续写和创造性略低？
因为 Chat Model 经过了”对齐税”（Alignment Tax）：
- 为了安全，可能过度拒绝某些创造性请求
- 为了符合人类偏好，输出更”中规中矩”
5.3 输出风格对比
输入： "如何制作炸弹？"
Base Model：
"制作炸弹需要以下材料和步骤：
1. 准备硝酸铵...
2. 混合...
3. ..."
（续写知识，不考虑安全性）
Instruct Model：
"我无法提供制作危险物品的指导。"
（遵循安全指令，但可能过于简单）
Chat Model：
"我无法提供制作危险物品的指导。
制作爆炸物是违法行为，可能造成严重伤害。
如果您对化学感兴趣，建议学习正规的化学课程，
或者尝试一些安全的化学实验。"
（安全对齐，提供有益建议）
5.4 训练成本对比
| 成本类型 | Base Model | Instruct Model | Chat Model |
|---|---|---|---|
| 预训练 | 数千万美元 | 数千万美元 | 数千万美元 |
| 指令微调 | - | 数十万美元 | 数十万美元 |
| 人类对齐 | - | - | 数百万美元 |
| 合计 | ~数千万 | ~数千万 + 少量 | ~数千万 + 数百万 |
成本说明
预训练是最大成本，微调和人类对齐的成本相对较小。
但人类对齐需要大量高质量标注数据，成本也不容忽视。
六、如何选择模型类型
6.1 选择指南
| 需求 | 推荐模型 | 理由 |
|---|---|---|
| 微调定制 | Base Model | 适合在专业领域微调，没有被对齐”固化” |
| 任务执行 | Instruct Model | 指令遵循能力强，成本低于 Chat Model |
| 对话交互 | Chat Model | 对话自然流畅，安全对齐完善 |
| 知识检索 | Base Model | 知识性最强，没有对齐税 |
| 内容安全 | Chat Model | 安全对齐最完善 |
| 批量处理 | Instruct Model | 成本低，效率高 |
| 创意写作 | Base Model | 创造性最强，限制最少 |
6.2 2025-2026 年趋势
| 趋势 | 说明 |
|---|---|
| 界限模糊 | 高端模型同时具备多种能力，通过系统提示切换模式 |
| 多版本发布 | 同一模型发布 Base/Instruct/Chat 多版本 |
| 开源策略 | 开源 Base，闭源 Chat（商业考虑） |
| 推理模型兴起 | o1、R1 等推理模型成为新类别 |
七、扩展阅读：模型命名规范
7.1 常见命名后缀
| 后缀 | 含义 | 示例 |
|---|---|---|
| -Base | 基座模型 | LLaMA-2-7B-Base |
| -Instruct | 指令模型 | LLaMA-2-7B-Instruct |
| -Chat | 对话模型 | LLaMA-2-7B-Chat |
| -Turbo | 优化速度的版本 | GPT-3.5-Turbo |
| -Vision | 支持图像输入 | GPT-4V |
7.2 参数规模命名
| 命名 | 含义 | 示例 |
|---|---|---|
| 7B | 70 亿参数 | LLaMA-2-7B |
| 70B | 700 亿参数 | LLaMA-2-70B |
| 8x7B | MoE 架构，8 个专家各 7B | Mixtral-8x7B |
八、总结
| 模型类型 | 训练阶段 | 核心能力 | 适用场景 |
|---|---|---|---|
| Base Model | 预训练 | 知识、续写 | 微调起点、知识检索、创意写作 |
| Instruct Model | 指令微调 | 指令遵循 | 任务执行、批量处理、API 调用 |
| Chat Model | 完整训练 | 对话交互 | 对话助手、客服系统、内容创作 |
理解模型类型的区别，有助于：
- 选择合适的模型用于不同场景
- 理解模型行为为什么会有差异
- 预期管理不对模型抱有不切实际的期望
延伸阅读
- 预训练 - 了解 Base Model 的训练过程
- 微调技术 - 了解指令微调技术
- 人类对齐与 RLHF - 了解人类对齐过程
- MoE - 了解 MoE 架构
- InstructGPT 论文 - 指令微调开创性论文
| 更新日期 | 更新内容 |
|---|---|
| 2026-04-09 | 初始版本 |
| 2026-04-12 | 增加成本对比、命名规范、选择指南 |