第一部分 推理原理（只学到"够用"）

这一部分要回答的问题：承接序章：模型跑起来了，但为什么这么吃内存？为什么一个字一个字地往外吐？

这一部分只讲六个概念，顺序是一条因果链（图 1-1）：文本先被切成 token（1.1），模型逐个生成 token（1.2），一次请求因此分成 prefill 与 decode 两段（1.3），decode 需要缓存历史状态，于是有了 KV Cache（1.4），而每一 token 的生成速度由内存带宽决定（1.5）。最后把这些拼成一个可以提前算出来的显存公式（1.6）。读完后，你应该能在没跑之前就判断"这套配置会不会 OOM、大概多快"。

图 1-1每一节都是上一节动手时冒出来的问题；跳读会断掉这条链。

• 1.1 Token 与分词
• 1.2 自回归生成
• 1.3 Prefill 与 Decode
• 1.4 KV Cache
• 1.5 带宽瓶颈
• 1.6 显存估算