利用Ollama平台搭建DeepSeek的具体操作步骤

1. 安装 Ollama

下载安装包:访问 Ollama 官网 https://ollama.com,选择对应操作系统的版本进行下载。

安装完成:安装完成后,在终端(或命令提示符)输入以下命令验证安装是否成功:
ollama --version

若能显示版本号(如“ollama version is 0.5.7”),则说明安装成功。

2. 下载 DeepSeek 模型

选择模型版本:再次打开 Ollama 官网,点击“Models”,找到“DeepSeek R1”。根据自身设备的显存大小选择合适的模型版本。

7B 模型(约 4.7GB,适合普通消费级 GPU):
ollama pull deepseek-r1

70B 模型(需要 24GB+ 显存):
ollama pull deepseek-r1:70b

671B 模型(需要 336GB+ 显存):
ollama pull deepseek-r1:671b

开始下载:将上述对应命令复制到终端中运行,模型将开始下载。

3. 启动模型

运行模型:下载完成后,运行以下命令启动 DeepSeek 模型:

ollama run deepseek-r1

若后续再次运行,模型将直接从本地加载。

启动 Ollama 服务器:在终端运行以下命令启动 Ollama 服务器:

ollama serve

http://localhost:11434 可访问时,模型就启动成功了。

4. 可选:安装可视化交互工具

为了更便捷地与模型交互,可安装 ChatBox 等可视化界面工具:

访问 https://chatboxai.app/zh 下载 ChatBox。

安装完成后,打开软件并设置本地模型,即可开启与 DeepSeek R1 的可视化交互。

进入Ollama进入DeepSeek