V2EX·· 1 小时前AI 评分55
VoxMel 开源,尝试直接在 Mel 频谱上进行自回归语音生成
[开源分享] 发现一个挺有意思的 TTS 项目 VoxMel,直接在 Mel 频谱上做自回归生成
AI 导读
开源 TTS 项目 VoxMel 尝试直接在连续 Mel 频谱上进行自回归生成,不依赖学习式声学 Tokenizer。项目通过小波分解组织不同尺度的声学信息,已开放代码、模型和技术报告,并提供音频 Demo。
正文
最近关注到一个挺有意思的开源 TTS 项目:VoxMel。
GitHub:https://github.com/VoxDance-Lab/VoxMel
Twitter: https://x.com/_akhaliq/status/2120749548851368358
现在不少自回归语音生成模型会依赖学习式声学 Tokenizer,先把音频离散化再进行建模。
VoxMel 的思路有点不一样,它尝试直接在连续 Mel 频谱上做自回归生成,不依赖学习式声学 Tokenizer,同时通过小波分解来组织不同尺度的声学信息。
感觉这个方向还挺值得探索的,毕竟如何在不引入离散声学 Token 的情况下实现高质量语音生成,一直是个挺有意思的问题。
项目已经开源了代码、模型和技术报告,也有音频 Demo 可以试听。
分享给同样关注 TTS、语音生成方向的朋友,感兴趣的可以看看实现,也欢迎一起讨论这种建模路线的优劣。
觉得不错的话感觉可以顺手支持个 Star ⭐
来源:V2EX · v2ex.com