收起左侧

玩转 25MB 模型,NAS 上轻松部署 KittenTTS:轻量文本转语音服务器

1
回复
389
查看
[ 复制链接 ]

32

主题

9

回帖

0

牛值

fnOS系统内测组

社区上线纪念勋章

2025-9-10 08:57:58 显示全部楼层 阅读模式

Kitten TTS Server:

一个高性能、轻量级的文本转语音(TTS)服务器项目,基于 KittenTTS 模型构建,提供了增强的 API 服务、Web 界面和 GPU 加速功能。

核心特点:

  • • 轻量级模型:基于仅 1500 万参数的 KittenTTS 模型,文件大小不到 25MB
  • • GPU 加速:通过优化的 ONNX Runtime 管道支持 NVIDIA GPU 加速,采用 I/O 绑定技术减少延迟
  • • 大文本处理:支持长文本自动分割为可管理的片段,适合生成有声书
  • • 双 API 系统:提供 /tts 主端点和兼容 OpenAI 的 /v1/audio/speech 端点
  • • 现代 Web UI:直观的用户界面,支持语音选择、参数调整和实时波形可视化
  • • 内置 8 种语音:包含 4 种男性和 4 种女性语音
  • • 跨平台支持:可在 Windows、Linux 运行,支持树莓派 5(性能优异)和树莓派 4(测试中)
  • • Docker 支持:提供 CPU 和 GPU 版本的容器化部署配置

安装

Docker Compose

services:  kitten-tts:    image: onehandcoding/kitten-tts-cpu:latest    container_name: kitten-tts    ports:      - 8050:8005    volumes:      - ./logs:/app/logs      - ./outputs:/app/outputs      - ./configs:/app/configs    restart: unless-stopped

参数说明(更多参数建议去看文档)

:::/app/logs:保存服务器日志

/app/outputs:保存生成的音频文件

/app/configs:挂载配置目录

:::

使用

浏览器中输入 http://NAS的IP:8050就能看到界面

TIP:

点击生成有可能提示“TTS engine model is not currently loaded or available.”。这应该是个 BUG,因为启动的时候会访问外网模型,检查是否需要更新,如果网络不行的话就会有问题。

整体界面比较简洁直观,右上角可以切换为浅色模式

操作界面没有中文,需要的话可以网页翻译

下面有示例预设,可以选择生成语音看看效果

生成音频大概用时 26s 左右,速度比较一般

处理器占用率瞬间可以吃满,内存占用也是比较多的

示例预设生成的音频,效果还是比较明显的,能听出语气停顿和情感在里面

除了使用预设,也可以自由调整,内置 8 种语音

需要注意语言目前只有英文,如果输入中文内容是无法合成的(别问我怎么知道的)

服务器配置默认就行,根据需要可以修改输出格式

支持兼容 OpenAI 格式调用

扩展

对构建镜像感兴趣的用户可以看看,提供 CPU 和 GPU 版本的容器化部署配置

https://github.com/devnen/Kitten-TTS-Server

如果需要构建,可以参考下面步骤操作

cd /mnt/user/appdatagit clone https://github.com/devnen/Kitten-TTS-Server.gitcd Kitten-TTS-Server# 使用指定 CPU 配置docker compose -f docker-compose-cpu.yml up -d --build# 使用默认 GPU 配置docker compose up -d --build

总结

该项目特别适合需要离线、高性能 TTS 服务的场景,尤其是资源受限的边缘设备(如树莓派),有需要的用户可以试试,如果支持中文对于国内用户才比较实用。

原本我是想构建镜像打包的,但是实在是试了好几次都不成功,需要下载安装东西太多了,还要一直保持良好网络。后来发现了有其他人打包好的,所以就没继续折腾打包了。这个打包的镜像有一个最大问题就是会检查版本,如果不成功就会有问题,加载不了原来模型,本来就是离线使用这点有点说不过去了。

综合推荐:⭐⭐⭐(消耗性能高,担心较弱设备表现)

使用体验:⭐⭐⭐(不支持中文,可调节参数少)

部署难易:⭐⭐(简单)

收藏
送赞
分享

4

主题

14

回帖

0

牛值

江湖小虾

2025-9-10 15:20:38 显示全部楼层

不错lol

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则