主题
第二部分 模型选型
这一部分要回答的问题：承接第一部分：既然参数量决定内存和速度，那我该选多大、选哪个模型？
这一部分从"名字怎么读"开始（2.1，整体顺序见图 2-1），依次讨论参数量的代价（2.2）、dense 与 MoE 的区别（2.3）、上下文与协议的边界（2.4）、榜单的局限（2.5），最后收束成一张可以直接照着走的决策表（2.6）。读完后，你应该能面对一个陌生场景，在半小时内给出"用哪个模型、哪个量化、大概多快"的结论，并说清理由。
这一部分要回答的问题：承接第一部分：既然参数量决定内存和速度，那我该选多大、选哪个模型？
这一部分从"名字怎么读"开始（2.1，整体顺序见图 2-1），依次讨论参数量的代价（2.2）、dense 与 MoE 的区别（2.3）、上下文与协议的边界（2.4）、榜单的局限（2.5），最后收束成一张可以直接照着走的决策表（2.6）。读完后，你应该能面对一个陌生场景，在半小时内给出"用哪个模型、哪个量化、大概多快"的结论，并说清理由。