收起左侧

在飞牛NAS上部署OpenWebUI教程来啦!连接DeepSeek必备!

11
回复
7961
查看
[ 复制链接 ]

31

主题

82

回帖

145

牛值

社区共建团

社区共建团荣誉勋章飞牛百度网盘玩家

2025-2-1 23:34:48 显示全部楼层 阅读模式

接咱们上期教程,没看过的童鞋可以去看我这一期https://club.fnnas.com/forum.php?mod=viewthread&tid=13688&extra=page%3D1

上期教程我们教了大家如何在本地部署DeepSeek这款国产AI模型,这期我们教大家如何使用webui界面使用,废话不多说,直接开始

注:本教程部署的OpenWebUI是基于tjbck大佬的项目,这里也附上原项目地址

https://github.com/open-webui/open-webui

这里再次声明,安装这个的前提是你已经安装了DeepSeek AI模型,并且仅适用于飞牛,如果你的模型安装于其他服务器,那么你可以不用再往下看了

  1. 使用ssh服务连接至fnos(此处需使用sudo -i进入root用户)
  2. 复制下面这行命令,回车 docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main
  3. 等待一会儿便可自动下载镜像并运行容器
  4. 看到出现"SHA256"后,说明已经完成了
  5. 前往飞牛的web界面,打开docker中心-容器,查看"open-webui"是否已经运行,如果没启动,点一下旁边的启动按钮就行
  6. 打开浏览器,输入 你的飞牛IP:3000 进入OpenWebUI
  7. 我的IP是:192.168.0.112:8080,也可以通过此方式进入
  8. 进入后,点击开始使用,创建一个管理员账户
  9. 进入后,你可以看到你安装的模型,在搜索框输入你的问题,就可以愉快的对话了! IMG_20250201_233423.png
收藏
送赞 5
分享

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
1

查看全部评分

一位爱好折腾nas的初二学生~

31

主题

82

回帖

145

牛值

社区共建团

社区共建团荣誉勋章飞牛百度网盘玩家

2025-2-1 23:37:40 楼主 显示全部楼层
没有安装模型的童鞋,请看这期https://club.fnnas.com/forum.php ... &extra=page%3D1
一位爱好折腾nas的初二学生~

0

主题

1

回帖

0

牛值

江湖小虾

2025-2-2 03:52:48 显示全部楼层
输入命令后为什么会显示Unable to find image 'ghcr.io/open-webui/open-webui:main' locally
docker: Error response from daemon: Get "https://ghcr.io/v2/": read tcp 192.168.31.98:33338->20.205.243.164:443: read: connection reset by peer.
See 'docker run --help'.
代理也设置过了

31

主题

82

回帖

145

牛值

社区共建团

社区共建团荣誉勋章飞牛百度网盘玩家

2025-2-2 09:00:11 楼主 显示全部楼层
本帖最后由 sherry11963 于 2025-2-2 10:18 编辑

这个错误就是因为镜像在本地没找到,尝试在线拉取时又发生了网络错误,用下面这行命令试一下
docker pull ghcr.io/open-webui/open-webui:main
一位爱好折腾nas的初二学生~

1

主题

3

回帖

0

牛值

江湖小虾

2025-2-3 10:59:25 显示全部楼层
ollama list 显示 正常,webui 的docker也正常运行,但是8080端口还是3000的端口都拒绝连接,不知道是什么原因

31

主题

82

回帖

145

牛值

社区共建团

社区共建团荣誉勋章飞牛百度网盘玩家

2025-2-3 17:45:58 楼主 显示全部楼层
看一下镜像运行日志
一位爱好折腾nas的初二学生~

1

主题

2

回帖

0

牛值

江湖小虾

2025-2-8 22:15:40 显示全部楼层
在 Linux 上设置环境变量
如果 Ollama 作为 systemd 服务运行,则应使用以下方法设置环境变量:systemctl

通过调用 编辑 systemd 服务。这将打开一个编辑器。systemctl edit ollama.service

对于每个环境变量,在 section 下添加一行 :Environment[Service]

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"



这是官网的文档,加上就可以了

1

主题

3

回帖

0

牛值

江湖小虾

2025-2-15 22:47:21 显示全部楼层
能不能安装deepseek api key,模型安装系统太差了,没效果。

31

主题

82

回帖

145

牛值

社区共建团

社区共建团荣誉勋章飞牛百度网盘玩家

2025-2-16 10:51:27 楼主 显示全部楼层
可以用lobechat,里面可以调用
一位爱好折腾nas的初二学生~

0

主题

3

回帖

0

牛值

江湖小虾

2025-2-20 16:53:13 显示全部楼层
可以,openwebui支持openai的api,根据文档,只要添加几个环境变量,
开启openai api
Openai key
Openai url
这样就可以使用任何openai api兼容的模型了

1

主题

4

回帖

0

牛值

江湖小虾

2025-2-25 10:03:32 显示全部楼层
部署好之后本地可以用了,有什么办法可以IPV6公网访问或者用飞牛的远程服务访问openwebUI吗

0

主题

3

回帖

0

牛值

江湖小虾

2025-2-26 15:54:10 显示全部楼层
请问打开webui需要账号密码才能登录,账号密码是什么

31

主题

82

回帖

145

牛值

社区共建团

社区共建团荣誉勋章飞牛百度网盘玩家

2025-2-26 18:37:10 楼主 显示全部楼层
是你自己设置的
一位爱好折腾nas的初二学生~

0

主题

3

回帖

0

牛值

江湖小虾

2025-2-27 15:51:44 显示全部楼层

没有啊,直接一路下一步

2

主题

8

回帖

0

牛值

江湖小虾

2025-3-6 13:39:17 显示全部楼层
安装webui失败:docker: permission denied while trying to connect to the Docker daemon socket at unix:///var/run/docker.sock: Head "http://%2Fvar%2Frun%2Fdocker.sock/_ping": dial unix /var/run/docker.sock: connect: permission denied.

2

主题

8

回帖

0

牛值

江湖小虾

2025-3-6 20:53:11 显示全部楼层
我也遇到同样问题,webui运行日志如下:
Loading WEBUI_SECRET_KEY from file, not provided as an environment variable.

Loading WEBUI_SECRET_KEY from .webui_secret_key

USE_OLLAMA is set to true, starting ollama serve.

start.sh: line 36: ollama: command not found

/app/backend/open_webui

/app/backend

/app

INFO  [alembic.runtime.migration] Context impl SQLiteImpl.

INFO  [alembic.runtime.migration] Will assume non-transactional DDL.

INFO  [open_webui.env] 'DEFAULT_LOCALE' loaded from the latest database entry

INFO  [open_webui.env] 'DEFAULT_PROMPT_SUGGESTIONS' loaded from the latest database entry

WARNI [open_webui.env]



WARNING: CORS_ALLOW_ORIGIN IS SET TO '*' - NOT RECOMMENDED FOR PRODUCTION DEPLOYMENTS.



INFO  [open_webui.env] Embedding model set: sentence-transformers/all-MiniLM-L6-v2

WARNI [langchain_community.utils.user_agent] USER_AGENT environment variable not set, consider setting it to identify your requests.

1

主题

2

回帖

0

牛值

江湖小虾

2025-3-12 10:19:51 显示全部楼层
下载速度怎么有点慢,半天不怎么动,用了代理也起不了多大作用

0

主题

9

回帖

0

牛值

江湖小虾

2025-3-19 14:00:13 显示全部楼层
本帖最后由 459500160 于 2025-3-19 14:05 编辑

我的部署成功后,要在ssh里运行下 ollama run deepseek-r1:8b后,浏览器里访问open-webui才会出界面,否则一直是白板,不知道问题出在哪里了,一但退出ssh这个webui刷新就白板。。。。。

日志如下,不懂怎么操作了
2025-03-19 06:03:48.501 | ERROR    | open_webui.routers.openai:send_get_request:78 - Connection error: Cannot connect to host api.openai.com:443 ssl:default [None] - {}
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则