From 5397f59fd0f55e4baaeade6dfc2f331dad3185ab Mon Sep 17 00:00:00 2001 From: Ma Zhiming <101508488+JimmyMa99@users.noreply.github.com> Date: Mon, 25 Dec 2023 19:46:51 +0800 Subject: [PATCH] Update lmdeploy.md MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit 头凸->头秃 --- lmdeploy/lmdeploy.md | 6 +++--- 1 file changed, 3 insertions(+), 3 deletions(-) diff --git a/lmdeploy/lmdeploy.md b/lmdeploy/lmdeploy.md index 14d7110a0..e2a4555ff 100644 --- a/lmdeploy/lmdeploy.md +++ b/lmdeploy/lmdeploy.md @@ -14,7 +14,7 @@ - [2.4.1 TurboMind服务作为后端](#241-turbomind%E6%9C%8D%E5%8A%A1%E4%BD%9C%E4%B8%BA%E5%90%8E%E7%AB%AF) - [2.4.2 TurboMind推理作为后端](#242-turbomind%E6%8E%A8%E7%90%86%E4%BD%9C%E4%B8%BA%E5%90%8E%E7%AB%AF) - [2.5 TurboMind推理+Python代码集成](#25-turbomind%E6%8E%A8%E7%90%86python%E4%BB%A3%E7%A0%81%E9%9B%86%E6%88%90) - - [2.6 这么多,头凸,有没有最佳实践](#26-%E8%BF%99%E4%B9%88%E5%A4%9A%E5%A4%B4%E5%87%B8%E6%9C%89%E6%B2%A1%E6%9C%89%E6%9C%80%E4%BD%B3%E5%AE%9E%E8%B7%B5) + - [2.6 这么多,头秃,有没有最佳实践](#26-%E8%BF%99%E4%B9%88%E5%A4%9A%E5%A4%B4%E5%87%B8%E6%9C%89%E6%B2%A1%E6%9C%89%E6%9C%80%E4%BD%B3%E5%AE%9E%E8%B7%B5) - [2.6.1 方案实践](#261-%E6%96%B9%E6%A1%88%E5%AE%9E%E8%B7%B5) - [2.6.2 模型配置实践](#262-%E6%A8%A1%E5%9E%8B%E9%85%8D%E7%BD%AE%E5%AE%9E%E8%B7%B5) - [3 模型量化](#3-%E6%A8%A1%E5%9E%8B%E9%87%8F%E5%8C%96) @@ -383,7 +383,7 @@ Prompt 其实就是增加了 `<|System|>` 消息和 `<|User|>` 消息(即用 "你好啊,有什么我可以帮助你的吗?" ``` -### 2.6 这么多,头凸,有没有最佳实践 +### 2.6 这么多,头秃,有没有最佳实践 #### 2.6.1 方案实践 @@ -827,4 +827,4 @@ lmdeploy serve gradio localhost:33337 \ 结果如下图所示。 -![](img/18.png) \ No newline at end of file +![](img/18.png)