主题
第三部分 本地部署
这一部分要回答的问题:承接第二部分:模型选定了,为什么同一个模型有这么多文件格式和跑法?
这一部分的实验代码在 labs/03-deployment/,依赖只有 OpenAI 官方 SDK。先在仓库根目录 source labs/env.sh,再按各节末尾的「动手实验」执行。
七节的顺序是"先能加载,再能对话,最后能测"(图 3-1):格式决定能不能被引擎读,模板决定模型说的是不是人话,服务化和并发决定别人能不能用,测量方法决定你说的数字算不算数。
这一部分要回答的问题:承接第二部分:模型选定了,为什么同一个模型有这么多文件格式和跑法?
这一部分的实验代码在 labs/03-deployment/,依赖只有 OpenAI 官方 SDK。先在仓库根目录 source labs/env.sh,再按各节末尾的「动手实验」执行。
七节的顺序是"先能加载,再能对话,最后能测"(图 3-1):格式决定能不能被引擎读,模板决定模型说的是不是人话,服务化和并发决定别人能不能用,测量方法决定你说的数字算不算数。