2D动画唇动合成，根据语音自动生成动画人物口型

蕾师师 发自 凹非寺
量子位 报道 | 公众号 QbitAI

只需要输入一段语音，代码会自动生成与之相对的动画唇形。

还是毫无违和感的那种。

这是一个在GitHub上拥有501星的开源项目，叫做Rhubarb Lip Sync。

它既可以是Windows和OS X命令行工具，也可以作为软件的插件使用，能够根据语音记录自动创建2D嘴型动画。

它可以用于计算机游戏、动画卡通中的角色，或者用于其他需要基于现有录音、对嘴部进行动画处理的的影视项目。

那么，它是怎么实现如此效果的呢？

运作原理

首先，了解一下动画人物说话的六种嘴型。‍

‍‍上述六种嘴型是由汉娜·巴贝拉（Hanna-Barbera）发明，已经成为2D动画嘴型的制作标准，被迪士尼和华纳兄弟等影视公司在多部影视作品采用。

‍‍大多数的发音，都可以用这六种嘴型表示出来。

因此，Rhubarb Lip Sync工作的步骤如下：

• 输入一段语音

• Lip Sync识别这段语音

• 使用六个基本嘴形和最多三个扩展嘴形与语音匹配

• 输出一个固定格式的文件
  

假如我说个奇怪的方言，它也能输出相应的嘴型动画吗？

当然不是。

目前，Rhubarb Lip Sync只提供了两个语音识别系统：

• PocketSphinx：只能识别英语，准确率更高。

• Phonetic ：能识别所有语言，因为它是依据个人的声音和音节判别的，但准确率不如前者。
  

那么，这个小工具可以跟哪些视频软件融合使用呢？

可适用于多款软件

Adobe After Effects

可以在下载Rhubarb Lip Sync，并且安装到AE上，可以直接在AE上运行这个软件。

Moho and OpenToonz

Rhubarb Lip Sync能够生成.dat文件，这种文件可以被Moho and OpenToonz识别，并导入使用。

Spine by Esoteric Software

Rhubarb Lip Syn for Spine是一个图形工具，可让导入Spine项目，执行自动唇形同步，然后将结果重新导入Spine。

Vegas Pro by Magix

Rhubarb Lip Syn 还附带了两个用于Vegas Pro（以前称为Sony Vegas）的插件脚本，可直接在Vegas中使用。

赶快把这个小工具推荐给你喜欢做视频的朋友吧~

源代码地址：
https://github.com/DanielSWolf/rhubarb-lip-sync
最新版本的下载地址：
https://github.com/DanielSWolf/rhubarb-lip-sync/releases
https://github.com/DanielSWolf/rhubarb-lip-sync/blob/master/extras/AdobeAfterEffects/README.adoc
https://github.com/DanielSWolf/rhubarb-lip-sync/blob/master/extras/EsotericSoftwareSpine/README.adoc

— 完 —

本文系网易新闻•网易号特色内容激励计划签约账号【量子位】原创内容，未经账号授权，禁止随意转载。

AI落地最佳参考！

2020中国人工智能年度评选结果揭晓

12月16日，量子位MEET 2021智能未来大会现场，50大领航企业、10大明星创业公司、30大商业领军人物、10大最佳产品、10大最佳解决方案、5大社会责任榜样、5大最佳技术社区等年度奖项悉数颁出。

点击图片查看完整榜单：

量子位 QbitAI · 头条号签约作者

վ'ᴗ' ի 追踪AI技术和产品新动态

一键三连「分享」、「点赞」和「在看」

科技前沿进展日日相见~