deepseek模型本地部署

Windows10 2060显卡 本地部署deepseek模型教程。

最近 deepseek 越来越火,官网已经近乎沦陷。由于家里有台 2060 闲置笔记本,尝试利用 deepseek 开源的模型,在本地搭建一个,将模型部署在本地使用。

配置

img_1.png

下载运行Ollama

打开官网网址:https://ollama.com

img.png

点击 Download

img_2.png

点击 Download for Windows

exe 文件约 800MB,等待下载期间先配置相关环境变量(主要是配置 ollma 模型下载位置,避免 C 盘空间不足),可以使用以下脚本快速完成,将 path=D:/Ollama 修改为目标位置即可,注意 = 左右不能有空格!!!

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
@echo off
chcp 65001 > nul
set "SCRIPT_DIR=%~dp0"
set path=D:/Ollama
setx OLLAMA_MODELS "%path%/models" > nul
setx OLLAMA_HOST "0.0.0.0" > nul
setx OLLAMA_ORIGINS "*" > nul
echo 环境变量已设置成功,下面将进行安装程序,安装页面弹出后,直接点install即可,程序将被安装到%path%
%SCRIPT_DIR%OllamaSetup.exe /DIR="%path%"
pause

将以上脚本保存到 exe 文件同级目录

img_3.png

待 ollama 下载完毕后,右键单机脚本,点击“以管理员身份运行”,会弹出以下界面,该界面可以直接关闭

img_4.png

同时会弹出以下界面,点击 Install 即可开始安装

img_6.png

安装完成后,系统会自动运行 ollama,在电脑右下角有个小图标,将ollama重启一下。

img_5.png img_7.png

下载 deepseek 模型

ollama 安装好之后,就能下载模型了,这里我使用的是deepseek-r1的模型。

模型官方地址:https://ollama.com/library/deepseek-r1

在电脑上重新打开一个cmd窗口或者windows powershell窗口。

img_8.png

输入命令 ollama help,如果能输出以下提示信息,说明目前设置正确。

img_9.png

ollama 命令,我们目前只要记住这三个就可以了:

查看模型列表: ollama list

安装模型: ollama run xxxx

卸载模型: ollama rm xxxx

下载模型,直接输入命令就可以了。

这里我使用的是 8 b的模型,就在cmd里面直接输入 ollama run deepseek-r1:8b。模型下载完毕之后会直接运行。

提示:下载过程中如果下载速度降的很低,直接 ctrl+c 中断任务后重新下载即可。

img_11.png

img_12.png

可视化

打开 chatbox 官网:https://chatboxai.app/zh

img_13.png

点击 “免费下载”

img_14.png

点击 “手动下载 for Windows(PC)”

选择位置安装

img_15.png

安装完毕后设置相关参数

img_16.png

开始使用

img_17.png

完结撒花!!!!!!!

本博客已稳定运行 小时 分钟
共发表 38 篇文章 · 总计 111.39 k 字
本站总访问量
Built with Hugo
主题 StackJimmy 设计