本地电脑(Ubuntu+ollama)部署deepseek R1 1.5b 模型

下载Ollama

可以选择对应系统:Windows、Linux、macOs ,下载Ollama官网 ⬇️

下载deepseek-r1

下载 deepseek-r1:1.5b ,因为电脑没独立显卡,只能下载1.5b,使用CPU;用CPU 速度还挺快;

CPU 是i3 12100 ,7b也能使用,开启联网功能,CPU占用80%左右,内存占用15G;

可以使用14B;

deepseek-r1 模型下载官网 ⬇️

下载和运行的命令行

ollama run deepseek-r1:1.5b

查看ollama 已经下载的模型

ollama list

删除ollama已下载的模型

ollama rm deepseek-r1:1.5b

更新

可以执行安装命令行来更新ollama

curl -fsSL https://ollama.com/install.sh | sh

效果

效果还行,不过不能联网使用(openwebui可以设置联网搜索),只能聊天;其他事情做不了;

退出命令行:/bye

root@My-System:/mnt/256G/docker# ollama run deepseek-r1:7b
>>> /bye

其他

没有GPU:1.5B Q8推理 或者 8B Q4推理

4G GPU:8B Q4推理

8G GPU:32B Q4推理 或者 8B Q4推理

16G GPU:32B Q4推理 或者 32B Q8推理

24G GPU: 32B Q8推理 或者 70B Q2推理

部署openwebui ⬇️

可以使用openwebui;通过浏览器访问本地的deepseek;

也可以内网穿透到外网使用;



微信扫描下方的二维码阅读本文

© 2025 SaiitaのBlog by chenghoufeng

Licensed under CC BY 4.0

CC BY

相关推荐

暂无评论

目录展开

Optimized by WPJAM Basic