DeepSeek如何本地部署?

242次阅读
2025-02-11

一、本地部署使用Ollama

Ollama 官网:ollama.com

DeepSeek 如何本地部署?
ollama 官网

我在这里使用 Windows 下载安装。

二、下载模型DeepSeek-R1

1、在 Ollama 官网中找到

DeepSeek 如何本地部署?

2、进入就可以看到 deepseek-r1 模型

DeepSeek 如何本地部署?

3、可以看到非常多版本,1.5b、7b、8b、14b、32b、70b 或 671b。我们这里采用 8b 版本,粗略算 1B≈1G 显存内存。

DeepSeek 如何本地部署?

4、安装好 Ollama 后,在 windows 中开始栏右键,选择运行,输入 CMD 回车。

DeepSeek 如何本地部署?
DeepSeek 如何本地部署?

5、复制运行命令

ollama run deepseek-r1:8b
DeepSeek 如何本地部署?

三、开始使用

1、当模型下载完成后,直接使用命令行启动,第一次下载完后默认会启动。

如果下载速度缓慢,可以使用 Ctrl+ C 停止下载,然后在执行同样命令,会继续断点下载,不会丢失已经下载完成的文件模型。

DeepSeek 如何本地部署?
小蔡
版权声明:本站原创文章,由 小蔡 发表,共计346字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。