全部文档

当前文档

热搜词推荐

云服务器虚拟私有网络边缘节点计算对等连接

暂无内容

如果没有找到您期望的内容，请尝试其他搜索词

星流平台

查看更多结果

未找到含当前关键字的文档标题

页面目录

全部展开全部收起

产品更新动态

未找到含该关键词的产品

文档中心

星流平台

训推平台

模型在线服务

内置大模型资源配置建议

内置大模型资源配置建议

最近更新时间：2026-04-29 10:47:27



本文给出了不同规格内置大模型的资源规格配置建议，用户在部署内置大模型时可参考以下规格建议进行实例资源配置。

不同模型推荐资源配置

模型分类	模型	CPU（核）	内存（Gi）	GPU（卡）	是否支持多机部署	是否支持单点部署
deepseek	DeepSeek-R1-Distill-Qwen-1.5B	6	24	1	否	是
	DeepSeek-R1-Distill-Qwen-7B	8	24	1	否	是
	DeepSeek-R1-Distill-Qwen-14B	24	96	1	否	是
	DeepSeek-R1-Distill-Qwen-32B	32	160	2	否	是
	DeepSeek-R1-Distill-Llama-8B	24	64	1	是	是
	DeepSeek-R1-Distill-Llama-70B	48	192	4	是	是
	DeepSeek-R1	72	512	8	是	否
	DeepSeek-V3	72	512	8	是	否
	DeepSeek-V3-0324	72	512	8	是	否
	DeepSeek-V3.1	72	512	8	是	否
Baichuan	Baichuan-M2-32B	32	160	2	否	是
GLM	GLM-4-9B-0414	24	64	1	是	是
	GLM-4-32B-0414	32	160	2	是	是
	GLM-4-32B-Base-0414	32	160	2	是	是
	GLM-Z1-9B-0414	24	64	1	是	是
	GLM-Z1-32B-0414	32	160	2	是	是
	GLM-Z1-Rumination-32B-0414	32	160	2	是	是
Kimi	Kimi-K2-Base	72	512	8	是	否
Kimi	Kimi-K2-Instruct	72	512	8	是	否
Qwen	Qwen2.5-VL-7B-Instruct	16	48	1	否	是
	Qwen2.5-VL-32B-Instruct	48	160	2	否	是
	Qwen3-30B-A3B	32	160	2	是	是
	Qwen3-32B	32	160	2	是	是
	Qwen3-235B-A22B	48	256	4	是	是
MiMo	MiMo-7B-RL	24	64	1	是	是
MiMo	MiMo-7B-RL-Zero	24	64	1	是	是
Cosmos	cosmos-Reason1-7B	8	24	1	否	是

文档导读

上一篇：查看和管理模型在线服务

下一篇：资产管理

纯净模式常规模式

纯净模式

点击可全屏预览文档内容

文档反馈