本地电脑(Ubuntu+ollama)部署deepseek R1 1.5b 模型

下载Ollama

可以选择对应系统：Windows、Linux、macOs ，下载Ollama官网 ⬇️

Download Ollama on Linux

Download Ollama for Linux

下载deepseek-r1

下载 deepseek-r1:1.5b ，因为电脑没独立显卡，只能下载1.5b，使用CPU；用CPU 速度还挺快；

CPU 是i3 12100 ，7b也能使用，开启联网功能，CPU占用80%左右，内存占用15G；

可以使用14B；

deepseek-r1 模型下载官网 ⬇️

deepseek-r1:1.5b

DeepSeek's first-generation of reasoning models with comparable performance to OpenAI-o1, including six dense models distilled from DeepSeek-R1 based on Llama and Qwen.

下载和运行的命令行

ollama run deepseek-r1:1.5b

查看ollama 已经下载的模型

ollama list

删除ollama已下载的模型

ollama rm deepseek-r1:1.5b

更新

可以执行安装命令行来更新ollama

curl -fsSL https://ollama.com/install.sh | sh

效果

效果还行，不过不能联网使用（openwebui可以设置联网搜索），只能聊天；其他事情做不了；

退出命令行：/bye

root@My-System:/mnt/256G/docker# ollama run deepseek-r1:7b
>>> /bye

其他

没有GPU：1.5B Q8推理 或者 8B Q4推理

4G GPU：8B Q4推理

8G GPU：32B Q4推理 或者 8B Q4推理

16G GPU：32B Q4推理 或者 32B Q8推理

24G GPU: 32B Q8推理 或者 70B Q2推理

部署openwebui ⬇️

可以使用openwebui；通过浏览器访问本地的deepseek;

也可以内网穿透到外网使用；

Ubuntu 安装openwebui，部署私人本地AI（deepseek） | SaiitaのBlog

使用dockers部署openwebui，下载速度太慢了。改用pip安装open-webui；openwebui相关问题解决方法；