飞牛是否能搞个大模型部署模块

fzlychee

目前大模型部署是个热点，但网络上的各种部署工具缺少交互平台，而交互平台又太有个性，很难满足小常用需求

期待飞牛能整个自己的大模型部署模块，实现本地部署的同时，兼顾第三方api接口的接入

交互平台上支持聊天（对应各种参数设置），mcp工具调用，知识库建立

有这些常用基础功能，就能一台NAS轻松跑上大模型服务了。

飞牛产品同学

这个提议很棒！我们这边会把您的建议提交评估，看看后续是否能纳入规划中，非常感谢您的分享与启发！