跳到正文
V2EX·· 1 小时前AI 评分55

VoxMel 开源,尝试直接在 Mel 频谱上进行自回归语音生成

[开源分享] 发现一个挺有意思的 TTS 项目 VoxMel,直接在 Mel 频谱上做自回归生成

AI 导读

开源 TTS 项目 VoxMel 尝试直接在连续 Mel 频谱上进行自回归生成,不依赖学习式声学 Tokenizer。项目通过小波分解组织不同尺度的声学信息,已开放代码、模型和技术报告,并提供音频 Demo。

正文

最近关注到一个挺有意思的开源 TTS 项目:VoxMel。

GitHub:https://github.com/VoxDance-Lab/VoxMel

Twitter: https://x.com/_akhaliq/status/2120749548851368358

现在不少自回归语音生成模型会依赖学习式声学 Tokenizer,先把音频离散化再进行建模。

VoxMel 的思路有点不一样,它尝试直接在连续 Mel 频谱上做自回归生成,不依赖学习式声学 Tokenizer,同时通过小波分解来组织不同尺度的声学信息。

感觉这个方向还挺值得探索的,毕竟如何在不引入离散声学 Token 的情况下实现高质量语音生成,一直是个挺有意思的问题。

项目已经开源了代码、模型和技术报告,也有音频 Demo 可以试听。

分享给同样关注 TTS、语音生成方向的朋友,感兴趣的可以看看实现,也欢迎一起讨论这种建模路线的优劣。

觉得不错的话感觉可以顺手支持个 Star ⭐

来源:V2EX · v2ex.com