谷歌推出 Magenta RealTime 2 本地实时音乐 AI 模型:延迟降低至 1/15

谷歌 Magenta 团队于 6 月 4 日发布 Magenta RealTime 2(MRT2)并同步开源乐器应用 Jam 及 DAW 插件。MRT2 是面向本地实时即兴合奏的音频生成模型,提供 mrt2_base(24 亿参)和 mrt2_small(2.3 亿参)两种规模,均为 Apple Silicon 优化,其中 mrt2_small 能在搭载 M1 及更高芯片的 Mac 上实时运行。相比上一代需 TPU/GPU、约 3 秒延迟的实现,MRT2 改为逐帧生成(每帧 40 ms),实际控制延迟约 200 ms,响应速度提升至原来的 1/15。功能上支持文本与音频风格提示、MIDI 音符与鼓切换、Auto-Strum 自动拨弦或精确起音控制,适合多轨编曲;技术上基于 Codec Language Model 并使用 SpectroStream 编解码 48kHz 立体声,以 25Hz 帧率生成音频标记。

6 月 5 日消息,谷歌 Magenta 团队昨日(6 月 4 日)发布 Magenta RealTime 2(MRT2)模型,并同步免费放出乐器应用 Jam 以及 DAW 插件 MRT2。

MRT2 定位是可与用户“即兴合奏”的本地实时音乐模型,共有 2 种规模,其一是高质量模型 mrt2_base,参数量为 24 亿;其二是高速模型 mrt2_small,参数量为 2.3 亿。

谷歌表示上述两个版本均针对苹果 Apple Silicon 芯片优化,其中 mrt2_small 可在搭载 M1 及后续芯片的 Apple 电脑上实时运行。

MRT2 最大变化是“低延迟”。上一代 Magenta RealTime 需要 TPU 或高性能 GPU,控制延迟约 3 秒,且以 2 秒音频块为单位响应。

MRT2 改为逐帧生成,每帧 40 毫秒,实际控制延迟约 200 毫秒,较前代降低至 15 分之一。这让模型对输入变化的反应明显更快,更接近真实乐器的演奏体验。

在控制方式上,MRT2 比前代更完整。它支持文本和音频风格提示,也支持 MIDI 音符与鼓开关控制。

模型可持续跟随音符输入变化,还能在 Auto-Strum 模式下自动决定拨弦或起音时机;关闭该模式后,用户还能精确指定音符起始时刻。对于鼓组,系统也支持切换有鼓或无鼓输出,适合多轨编曲场景。

技术层面,MRT2 仍属于 Codec Language Model(编解码器语言模型),基于 SpectroStream 音频编解码器处理 48kHz 立体声音频,并以 25Hz 帧率生成音频标记。

交互方面,谷歌还推出 Jam 免费应用,支持用户输入想要的音乐风格描述,随后模型开始生成音乐;用户还可通过下方键盘调整音高。

输入设备不仅包括鼠标点击,还支持 MacBook 键盘与 MIDI 键盘,这让实时控制更接近传统电子乐器和数字编曲工作流。

如果用户已习惯在成熟编曲环境中工作,MRT2 插件则提供了接入路径。借助该插件,创作者可在自己常用的 DAW 中调用 Magenta RealTime 2。

IT之家附上参考地址

  • Magenta RealTime 2: Open & Local Live Music Models

版权声明:本站文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议。转载请注明出处!

评论加载中...