Ubuntu系统本地部署大模型
2026/6/15 8:12:20 网站建设 项目流程

使用工具:ubuntu系统

ollama

1.前往ollama官网下载ollamaOllama

复制Linux版本的命令,打开终端输入curl -fsSL https://ollama.com/install.sh | sh

由于ollama是外网,所以下载速度较慢

(解决办法:1.使用魔法节点,下载之后进行解压

2.下载网盘软件包,再进行解压)

解压成功后,前往ollama官网寻找下载的模型,这里以Deepseek r1:14b为例

打开终端输入ollama run deepseek-r1:14b,等待一段时间即可。

同样的,再关闭终端之后,如果想通过终端唤醒deepseek此命令同样适用。

接下来通过open-webui来部署一个网站,由此得到一个界面布局,更加方便使用本地模型

2.通过Docker安装open-webui

首先需要安装Docker,通过以下命令安装

curl -fsSL https://get.docker.com | sh

启动Docker

sudo systemctl enable docker
sudo systemctl start docke

验证Docker

docker --version

然后通过以下命令安装Open WebUI

docker run -d \
--name open-webui \
-p 3000:8080 \
-v open-webui:/app/backend/data \
--add-host=host.docker.internal:host-gateway \
--restart always \
ghcr.io/open-webui/open-webui:main

安装之后就可以通过浏览器打开

​​​​​​http://localhost:3000网址,便可以看到登入界面

提示:第一个注册的人是管理员,但是由于这种情况只能做到本机访问,也就是他人不能访问这个网址,所以接下来我们使用frp软件进行内网穿透,使得所有人都能访问这个网址

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询