来源:玩物志
背靠280000小时的音乐数据集训练,MusicLM在音频质量和对文本描述的遵守方面都优于以前的模型。
《科创板日报》1月28日讯(编辑宋子乔)在生成式AI模型的赛道上,谷歌正一路“狂飙”。继文字生成AI模型Wordcraft、视频生成工具ImagenVideo之后,谷歌将生成式AI的应用场景扩展到了音乐圈。
【资料图】
当地时间1月27日,谷歌发布了新的AI模型——MusicLM,该模型可以从文本甚至图像中生成高保真音乐,也就是说可以把一段文字、一幅画转化为歌曲,且曲风多样。
谷歌在相关论文中展示了大量案例,如输入字幕“雷鬼和电子舞曲的融合,带有空旷的、超凡脱俗的声音,引发迷失在太空中的体验,音乐的设计旨在唤起一种惊奇和敬畏的感觉,同时又适合跳舞”,MusicLM便生成了30秒的电子音乐。
又如以世界名画《跨越阿尔卑斯山圣伯纳隘口的拿破仑》为“题”,MusicLM生成的音乐庄重典雅,将冬日的凌厉肃杀和英雄主义色彩体现地淋漓尽致。写实油画之外,《舞蹈》《呐喊》《格尔尼卡》《星空》等抽象派画作均可为题。
MusicLM甚至来个音乐串烧,在故事模式下将不同风格的曲子混杂在一起。即便要求生成5分钟时长的音乐,MusicLM也不在话下。
另外,MusicLM具备强大的辅助功能,可以规定具体的乐器、地点、流派、年代、音乐家演奏水平等,对生成的音乐质量进行调整,从而让一段曲子幻化出多个版本。
MusicLM并非第一个生成歌曲的AI模型,同类型产品包括Riffusion、DanceDiffusion等,谷歌自己也发布过AudioML,时下最热门的聊天机器人“ChatGPT”的研发者OpenAI则推出过Jukebox。
MusicLM有何独到之处?
它其实是一个分层的序列到序列(Sequence-to-Sequence)模型。根据人工智能科学家KeunwooChoi的说法,MusicLM结合了MuLan+AudioLM和MuLan+w2b-Bert+Soundstream等多个模型,可谓集大成者。
其中,AudioLM模型可视作MusicLM的前身,MusicLM就是利用了AudioLM的多阶段自回归建模作为生成条件,可以通过文本描述,以24kHz的频率生成音乐,并在几分钟内保持这个频率。
相较而言,MusicLM的训练数据更多。研究团队引入了首个专门为文本-音乐生成任务评估数据MusicCaps来解决任务缺乏评估数据的问题。MusicCaps由专业人士共建,涵盖5500个音乐-文本对。
基于此,谷歌用280000小时的音乐数据集训练出了MusicLM。
谷歌的实验表明,MusicLM在音频质量和对文本描述的遵守方面都优于以前的模型。
不过,MusicLM也有着所有生成式AI共同的风险——技术不完善、素材侵权、道德争议等。
对于技术问题,比方说当要求MusicLM生成人声时,技术上可行,但效果不佳,歌词乱七八糟、意义不明的情况时有发生。MusicLM也会“偷懒”——起生成的音乐中,约有1%直接从训练集的歌曲中复制。
另外,由AI系统生成的音乐到底算不算原创作品?可以受到版权保护吗?能不能和“人造音乐”同台竞技?相关争议始终未有一致见解。
这些都是谷歌没有对外发布MusicLM的原因。“我们承认该模型有盗用创意内容的潜在风险,我们强调,需要在未来开展更多工作来应对这些与音乐生成相关的风险。”谷歌发布的论文写道。
什么样的诗句才是好的诗句呢?整理的离别的诗句
离别的诗句汇总在日常的学习、工作、生活中,大家总少不了接触一些耳熟能详的诗句吧,诗句具有精炼含蓄的特点,起着反映社会生活、表达...
写起作文来就毫无头绪?收集整理的美丽的秋天作文通用34篇
美丽的秋天作文(通用34篇)无论是在学校还是在社会中,大家都写过作文,肯定对各类作文都很熟悉吧,作文一定要做到主题集中,围绕同一主题作
什么样的诗句才是大家都称赞?收集整理的古人描写雪的诗句
古人描写雪的诗句(精选205句)在日复一日的学习、工作或生活中,许多人对一些广为流传的诗句都不陌生吧,诗句一般饱含丰富的& 39;想象、...
被广泛运用的文案都是什么样子?为大家收集的小众却惊艳的高级文案精选145句
小众却惊艳的高级文案(精选145句)在日常生活或是工作学习中,越来越多人钟情于发布文案,文案具有文字简练、意义鲜明的特点。那些被广泛运
你所见过的诗句是什么样的呢?整理的描写美好爱情的诗句
描写美好爱情的诗句在日常的学习、工作、生活中,大家都看到过许多经典的诗句吧,诗句语言凝练而形象性强,具有鲜明的& 39;节奏。你所见...
关于我们 加入我们 联系我们 商务合作 粤ICP备18023326号-32
中国创氪网 www.chuanganwang.cn 版权所有
投稿投诉联系邮箱:85 572 98@qq.com