在飞牛NAS下利Docker快速部署FastGPT,实现对大语言模型的调用

lovenr

<iframe src="https://player.bilibili.com/player.html?isOutside=true&aid=114214974790624&bvid=BV1Soo6YLEn3&cid=29038412839&p=1&danmaku=0" scrolling="no" border="0" frameborder="no" framespacing="0" allowfullscreen="true"></iframe>

使用了Dify和FastGTP，功能差不多，都是调取大语言模型，感觉这个简单好用些。 查询的结果比Dify精准，个人推荐。

开源地址：https://github.com/labring/FastGPT

博主踩坑安装文档：http://cn.55625.cn/2025/03/23/

紫飞机

这个装完，大模型是用CPU的还是是GPU的？

lovenr

紫飞机 发表于 2025-3-25 20:58
这个装完，大模型是用CPU的还是是GPU的？

FastGPT使用的都是API调用,不会占用自身的

lovenr

感谢各位的支持