博客详情

deepseek本地化部署 (原创)

作者: 朝如青丝暮成雪
发布时间:2025-03-06 23:29:43  文章分类:java编程   阅读(96)  评论(0)

由于deepseek官网经常出现卡顿或服务器繁忙现象,我们也可以尝试在电脑本地部署deepseek r1模型,由于满血版deepseek-r1 671b需要极大的服务器资源。

这里我下载安装的是8b的蒸馏版


1、下载安装ollama 工具

打开ollama 官网 下载ollama工具 .


2、下载完成后,找到我们需要下载安装的模型版本,以deepseek-r1:8b为例 



我们在cmd命令行窗口执行

ollama run  deepseek-r1:8b   即可(类似于docker run 会先自动下载模型文件)

...

8b的蒸馏版本大约4.9G的模型文件,安装完成后我就可以使用这个本地模型了。



当然,我们也可以接入图形化客户端工具 ,以cherry studio为例配置ollama的模型调用接入。

由于是本地调用,不需要密钥 所以API密钥栏无需填写,API地址默认为本地的11434端口,配置好后我们就可以用cherry studio工具调用调用本地的deepseek-r1模型了

 

我们尝试下提问,关于人类的起源,看AI是怎么回答的。   


我本地安装的deepseek-r1:8b只是个残血版的 这个问题回答得也并不完美。  



关键字:  deepseek  AI
评论信息
暂无评论
发表评论

亲,您还没有登陆,暂不能评论哦! 去 登陆 | 注册

博主信息
   
数据加载中,请稍候...
文章分类
   
数据加载中,请稍候...
阅读排行
 
数据加载中,请稍候...
评论排行
 
数据加载中,请稍候...

Copyright © 叮叮声的奶酪 版权所有
备案号:鄂ICP备17018671号-1

鄂公网安备 42011102000739号