由于deepseek官网经常出现卡顿或服务器繁忙现象,我们也可以尝试在电脑本地部署deepseek r1模型,由于满血版deepseek-r1 671b需要极大的服务器资源。
这里我下载安装的是8b的蒸馏版
1、下载安装ollama 工具
打开ollama 官网 下载ollama工具 .
2、下载完成后,找到我们需要下载安装的模型版本,以deepseek-r1:8b为例
我们在cmd命令行窗口执行
ollama run deepseek-r1:8b 即可(类似于docker run 会先自动下载模型文件)
...
8b的蒸馏版本大约4.9G的模型文件,安装完成后我就可以使用这个本地模型了。
当然,我们也可以接入图形化客户端工具 ,以cherry studio为例配置ollama的模型调用接入。
由于是本地调用,不需要密钥 所以API密钥栏无需填写,API地址默认为本地的11434端口,配置好后我们就可以用cherry studio工具调用调用本地的deepseek-r1模型了
我们尝试下提问,关于人类的起源,看AI是怎么回答的。
我本地安装的deepseek-r1:8b只是个残血版的 这个问题回答得也并不完美。
上一篇:Linux 禅道开源版安装
Copyright © 叮叮声的奶酪 版权所有
备案号:鄂ICP备17018671号-1