大模型基础理论
本模块系统性介绍大语言模型(LLM)的基础理论知识,从基本原理到训练方法,再到进阶概念,帮助你建立扎实的 LLM 理论基础。
学习路径
前置知识:无,适合零基础开始学习
建议学习顺序:
01-大模型基本原理 → 02-预训练与微调 → 03-大模型进阶概念
核心笔记索引
| 子模块 | 内容概要 | 链接 |
|---|---|---|
| 大模型基本原理 | LLM 定义、概率预测机制、Transformer 架构 | 大模型基本原理 |
| 预训练与微调 | 预训练、指令微调、RLHF 人类对齐 | 预训练与微调 |
| 大模型进阶概念 | 模型类型、推理技术、MoE 架构 | 大模型进阶概念 |
核心概念速查
| 概念 | 说明 |
|---|---|
| LLM(大语言模型) | 基于深度学习的大规模语言模型,具备理解和生成自然语言的能力 |
| Transformer | LLM 的核心架构,基于自注意力机制实现并行计算 |
| 预训练 | 在海量无标注文本上学习语言基础,产出 Base Model |
| 微调 | 在少量专业数据上调整模型,适应特定任务 |
| RLHF | 基于人类反馈的强化学习,对齐人类价值观 |
与其他模块的关联
更新记录
| 日期 | 更新内容 |
|---|---|
| 2026-04-11 | 初始版本,创建模块索引 |