大模型基础理论

本模块系统性介绍大语言模型(LLM)的基础理论知识,从基本原理到训练方法,再到进阶概念,帮助你建立扎实的 LLM 理论基础。

学习路径

前置知识:无,适合零基础开始学习

建议学习顺序

01-大模型基本原理 → 02-预训练与微调 → 03-大模型进阶概念

核心笔记索引

子模块内容概要链接
大模型基本原理LLM 定义、概率预测机制、Transformer 架构大模型基本原理
预训练与微调预训练、指令微调、RLHF 人类对齐预训练与微调
大模型进阶概念模型类型、推理技术、MoE 架构大模型进阶概念

核心概念速查

概念说明
LLM(大语言模型)基于深度学习的大规模语言模型,具备理解和生成自然语言的能力
TransformerLLM 的核心架构,基于自注意力机制实现并行计算
预训练在海量无标注文本上学习语言基础,产出 Base Model
微调在少量专业数据上调整模型,适应特定任务
RLHF基于人类反馈的强化学习,对齐人类价值观

与其他模块的关联

更新记录

日期更新内容
2026-04-11初始版本,创建模块索引