最近Deepseek很热门,下面我们在windows电脑上本地部署下Deepseek。

1、部署Ollama

首先你需要安装一个Ollama,这个软件相当于运行DeepSeek模型的底层,没有这个底层就没办法跑DeepSeek AI模型,直接官网下载安装即可。

https://ollama.com/

需要注意的是,安装包是直接安装在C盘的,并不支持更改路径,因此C盘的空间必须要至少大于5GB的空余空间

2、部署AI大模型

①、安装完成之后需要部署模型才能运行,因此咱们需要选择一个合适的模型。

以下是部署的模型建议:

版本:1.5b,适用于一般文字编辑使用(C盘需要1.1GB空余空间),部署命令:ollama run deepseek-r1:1.5b

版本:7b,DeepSeek的第一代推理模型,性能与OpenAl-01相当,包括从基于Llama和Qwen的DeepSeek-R1中提取的六个密集模型(C盘需要4.7GB空余空间),部署命令:ollama run deepseek-r1:7b

版本:8b,(C盘需要4.9GB空余空间),部署命令:ollama run deepseek-r1:8b

版本:14b,(C盘需要9GB空余空间),部署命令:ollama run deepseek-r1:14b

版本:32b,(C盘需要20GB空余空间),部署命令:ollama run deepseek-r1:32b

版本:70b,(C盘需要43GB空余空间),部署命令:ollama run deepseek-r1:70b

版本:671b,(C盘需要404GB空余空间),部署命令:ollama run deepseek-r1:671b

②、在Windows的【开始菜单】点击【鼠标右键】-【PowerShell(管理员)】或者【终端管理员】,打开终端,拷贝部署命令,粘贴到终端运行框,然后回车即可。

我目前部署的是8b版本,因为的我笔记本是集成显卡,i7 CPU,32G内存,之前尝试部署了70b,发现根本跑不动,电脑最好带独显,其次一定要注意C盘空间够不够,模型默认下载到C盘,不可更改路径。

③、等待模型自动下载,一般需要30分钟以上,请耐心等待(模型越大等待时间越长),下载结束之后就有一小会儿出现【verifying sha256 digest】。

3、部署Chatbox

①、点击 免费下载(for windows)下载安装文件,直接安装。

https://chatboxai.app/zh

②、打开应用Chatbox,点击自己部署配置。

③、找到模型提供方, 选择OLLAMA API。

④、找到模型,选择刚才下载安装的模型,我部署的是 deepseek-r1:8b,点击保存。

至此部署完成,可以尝试提问,下次运行可以直接在桌面上打开Chatbox即可。

Copyright © https://yan-jian.com 2023 all right reserved更新时间: 2025-02-13 14:22:32

results matching ""

    No results matching ""