详细介绍
YuE是开源ai音乐生成模型,能够将歌词转化为完整的歌曲。它支持多种音乐风格(如流行、金属、爵士、嘻哈等)和多语言(英语、中文、日语、韩语)。YuE 通过语义增强音频分词器、双分词技术、歌词链式思维生成和三阶段训练方案,解决了长上下文和复杂音乐信号等挑战,生成的歌曲具有连贯的音乐结构和吸引人的声乐旋律。以下是详细介绍:
主要功能
- 歌词转歌曲:将输入的歌词转化为完整的歌曲,包含主唱和伴奏。
- 多种音乐风格支持:支持流行、金属、爵士、嘻哈等多种音乐风格。
- 高质量生成:通过多种技术优化,确保生成的歌曲连贯且高质量。
- 多语言支持:支持英语、中文、日语和韩语等多种语言。
- 长时间音乐创作:可以生成长达 5 分钟的完整歌曲。
- 开源与可定制:代码和模型完全开源,用户可以自由使用和修改。
- 情感和风格匹配:能根据歌词的情感基调生成匹配的音乐风格。
- 跨模态应用:可以与其他多模态模型结合,用于多媒体艺术创作。
项目地址
项目地址:https://map-yue.github.io/
GitHub:https://github.com/multimodal-art-projection/YuE
使用方法
- 访问 GitHub 页面:下载所需的模型检查点。
- 准备歌词文本:根据需要选择语言和音乐风格。
- 使用工具分割歌词:将歌词分割成多个片段。
- 输入模型生成音乐:将歌词片段输入到 YuE 模型中,生成对应的音乐片段。
- 拼接生成的音乐片段:将生成的音乐片段拼接成完整的歌曲。
- 优化与调整:使用上采样器对生成的音乐进行进一步优化,调整节奏、音调等参数。
- 导出音乐文件:导出最终生成的音乐文件,用于分享或进一步创作。
使用场景
- 音乐创作:帮助创作者快速生成原创歌曲。
- 歌词生成:为创作者提供歌词创作灵感。
- 多语言音乐制作:支持多种语言的音乐创作。
- 多媒体艺术创作:与多模态模型结合,用于艺术创作。