安装 ollama
https://ollama.com/download/linux
在 Linux 服务器上安装的，一行命令就可以。如果是 Windows 的话，下载安装包就行。
curl -fsSL https://ollama.com/install.sh | sh安装的时候似乎遇到网络问题，改成先下载
wget https://ollama.com/install.sh然后手动执行安装，就可以了
sh ./install.sh配置 ollama 监听地址
ollama 安装后默认监听 127.0.0.1, 为了方便使用，要么修改监听地址，要么用 SSH 转发，这里我选择了修改地址
sudo systemctl edit ollama它会自动在
/etc/systemd/system/ollama.service.d/override.conf 中存储你添加或修改的配置。在里面添加配置
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"即可覆盖主服务文件里对 OLLAMA_HOST 的设置，其他环境变量（如 PATH 等）则仍保留主服务文件里的值。
验证
先重启以下
sudo systemctl daemon-reload
sudo systemctl restart ollama然后执行以下命令验证
sudo systemctl show ollama | grep Environment你会看到系统最终为该服务设置的所有环境变量。其中如果存在同名变量，就会以最后写入（即 override 配置）的值为准。
搜索模型
https://ollama.com/search?q=deepseek
目前最火的 DeepSeek-R1 排在显眼位置
这里根据显存选择合适的模型，我选了 14b 的模型
右侧有安装命令，点击按钮复制
安装
接着执行命令
ollama run deepseek-r1:14b开始下载，14b 的模型大小是 9GB
使用
在命令行可以直接使用
安装 Open WebUI
https://github.com/open-webui/open-webui
pip 安装
conda create -n open-webui python=3.11切换环境
conda activate open-webui安装
pip install open-webui启动
open-webui servedocker
官方只提供了 docker 命令
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main我改成了 docker-compose 配置
services:
open-webui:
image: ghcr.io/open-webui/open-webui:main
container_name: open-webui
restart: always
ports:
- "3000:8080"
extra_hosts:
- "host.docker.internal:host-gateway"
volumes:
- "./open-webui:/app/backend/data"SSH 转发
在本机执行以下命令，将服务器的端口转发到本机
ssh -L 3000:localhost:3000 用户名@服务器地址 -p 端口这样就可以在本机的浏览器打开 http://localhost:3000 访问到 webui 了
使用 webui
很简单，第一次打开会需要创建管理员账号
进入之后界面与 ChatGPT 有点相似
和 DeepSeek 模型对话，这个14b的模型就感觉效果已经不错了，如果完整版模型就更好，真的未来可期啊！
转载作品，原作者：IT技术资源爱好者，文章来源：https://www.toutiao.com/article/7466026561616019995
微信赞赏 
支付宝赞赏 
