用配音生成人物对话场景,Meta 推出 audio2photoreal AI 框架

2024-01-09 20:37:57

  Meta 日前公布了一项名为audio2photoreal 的 AI 框架,该框架能够生成一系列逼真的 NPC 人物模型,并借助现有配音文件自动为人物模型“对口型”“摆动作”。

  ▲ 从官方研究报告中得知,Audio2photoreal 框架在接收到配音文件后,首先生成一系列 NPC模型,之后利用量化技术及扩散算法生成模型用动作,其中量化技术为框架提供动作样本参考、扩散算法用于改善框架生成的人物动作效果。

  研究人员提到,该框架可以生成 30 FPS的“高质量动作样本”,还能模拟人类在对话中“手指点物”、“转手腕”或“耸肩”等不由自主的“习惯性动作”。

  研究人员援引自家实验结果,在对照实验中有43%的评估者对框架生成的人物对话场景感到“强烈满意”,因此研究人员认为 Audio2photoreal 框架相对于业界竞品能够生成“更具动态和表现力”的动作。

  据悉,研究团队目前已经在GitHub公开了相关代码和数据集,感兴趣的小伙伴可以点此访问。

下一篇:极米推出智能投影 RS 10 Ultra,售价 9999 元起
上一篇:比亚迪晒出无人代客泊车演示,支持礼让行人、直角弯会车等
返回顶部小火箭