收起左侧

关于飞牛自带ollama,核显独显选择问题

2
回复
134
查看
[ 复制链接 ]

3

主题

2

回帖

0

牛值

江湖小虾

2026-7-7 01:23:29 显示全部楼层 阅读模式
悬赏1飞牛币未解决

各位大佬,有一个问题,我用飞牛自带的ollama,每次启动,我用超过8G的模型,模型就会自动加载去内存,用我的核显跑,如果我用8g以下的模型,就会加载去我的独显,但是我的独显有16G显存,这是什么情况有人知道吗?我问了AI,在终端用了一大堆命令是可以让大于8G的模型跑去独显的,但是每次都这样的话,非常麻烦,有没有办法直接调整飞牛自带ollama的启动参数,让大于8G的模型能在我的独显上跑?

收藏
送赞
分享

6

主题

352

回帖

0

牛值

小有名气

fnOS1.0上线纪念勋章飞牛百度网盘玩家AMD适配纪念勋章

2026-7-7 08:43:26 显示全部楼层

我记得是要加环境变量来配置的。具体不记得了,你问问ai关于这个问题的环境变量怎么配

关键是飞牛自带的OLLAMA,ai没找到他的启动参数在哪里,所以现在我用OLLAMA很麻烦,相当于我要关闭自带OLLAMA,然后用终端带参数的拉起ollama,然后还会有各种各样的问题  详情 回复
2026-7-7 09:33
飞牛藏墨,岁月静好。心有诗意,自在乾坤

3

主题

2

回帖

0

牛值

江湖小虾

2026-7-7 09:33:36 楼主 显示全部楼层
喔喔 发表于 2026-7-7 08:43
我记得是要加环境变量来配置的。具体不记得了,你问问ai关于这个问题的环境变量怎么配
...

关键是飞牛自带的OLLAMA,ai没找到他的启动参数在哪里,所以现在我用OLLAMA很麻烦,相当于我要关闭自带OLLAMA,然后用终端带参数的拉起ollama,然后还会有各种各样的问题
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则