最近更新时间：2025-02-22 23:21:06
本文给出了不同规格内置大模型的资源规格配置建议，用户在部署内置大模型时可参考以下规格建议进行实例资源配置。
模型 | CPU（核数） | Mem（GB） | GPU（数量） | 是否支持跨机部署(跨机部署会占用机器所有GPU资源) |
DeepSeek-R1 Distill Qwen-1.5B | 6 | 24 | 1 | 否 |
DeepSeek-R1-Distill-Qwen-7B | 8 | 24 | 1 | 否 |
DeepSeek-R1-Distill-Qwen-14B | 24 | 96 | 1 | 是 |
DeepSeek-R1-Distill-Qwen-32B | 32 | 160 | 2 | 是 |
DeepSeek-R1-Distill-Llama-8B | 24 | 64 | 1 | 是 |
DeepSeek-R1-Distill-Llama-70B | 48 | 192 | 4 | 是 |
DeepSeek-R1 | 72 | 512 | 8 | 是（不支持单节点部署） |
DeepSeek-V3 | 72 | 512 | 8 | 是（不支持单节点部署） |
纯净模式
