主题
第七部分 GPU 服务器与推理加速
这一部分要回答的问题:承接第六部分:Mac 上一个人用没问题,工厂 50 人同时用、要上服务器怎么办?(原理在 Mac 上学,实操租云 GPU)
当前状态:7.1–7.9 已有初稿;7.2–7.8 的实测数字待第一次 GPU session 补。7.1/7.9 可以先独立阅读;第八部分的 8.1/8.2 不依赖这些数据。
九节从硬件讲到容量(图 7-1):先认卡、再认软件栈,能跑起来之后才谈调优,最后把前面所有数字收成一张选卡清单。7.8 是这一部分的出口——卡住了照它排查。