使用工具:ubuntu系统
ollama
1.前往ollama官网下载ollamaOllama
复制Linux版本的命令,打开终端输入curl -fsSL https://ollama.com/install.sh | sh
由于ollama是外网,所以下载速度较慢
(解决办法:1.使用魔法节点,下载之后进行解压
2.下载网盘软件包,再进行解压)
解压成功后,前往ollama官网寻找下载的模型,这里以Deepseek r1:14b为例
打开终端输入ollama run deepseek-r1:14b,等待一段时间即可。
同样的,再关闭终端之后,如果想通过终端唤醒deepseek此命令同样适用。
接下来通过open-webui来部署一个网站,由此得到一个界面布局,更加方便使用本地模型
2.通过Docker安装open-webui
首先需要安装Docker,通过以下命令安装
curl -fsSL https://get.docker.com | sh
启动Docker
sudo systemctl enable docker
sudo systemctl start docke
验证Docker
docker --version
然后通过以下命令安装Open WebUI
docker run -d \
--name open-webui \
-p 3000:8080 \
-v open-webui:/app/backend/data \
--add-host=host.docker.internal:host-gateway \
--restart always \
ghcr.io/open-webui/open-webui:main
安装之后就可以通过浏览器打开
http://localhost:3000网址,便可以看到登入界面
提示:第一个注册的人是管理员,但是由于这种情况只能做到本机访问,也就是他人不能访问这个网址,所以接下来我们使用frp软件进行内网穿透,使得所有人都能访问这个网址