VersaAnimator: 텍스트와 음성으로 제어되는 다재다능한 전신 인체 애니메이션


Zheng Qin 등 연구진이 개발한 VersaAnimator는 음성과 텍스트를 활용, 단일 이미지로부터 자연스러운 전신 인체 애니메이션을 생성하는 혁신적인 기술입니다. 기존 기술의 한계를 극복하고 시각적 품질과 정확도를 크게 향상시켰습니다.

related iamge

혁신적인 인공지능 기반 애니메이션 기술 등장: VersaAnimator

단일 이미지만으로도 생생한 인체 애니메이션을 구현하는 획기적인 기술이 등장했습니다. Zheng Qin 등 연구진이 개발한 VersaAnimator는 기존 기술의 한계를 뛰어넘어, 음성 신호와 텍스트 프롬프트를 통해 전신 움직임을 자유롭게 제어할 수 있는 다재다능한 애니메이션 생성 시스템입니다.

기존 기술의 한계를 뛰어넘다

기존의 인체 애니메이션 기술은 주로 사전에 지정된 헤드샷 또는 반신 움직임을 음성 입력과 정렬하는 방식에 국한되어 있었습니다. 하지만 VersaAnimator는 헤드샷과 전신 초상화 모두에 대해 자유롭게 전신 움직임을 생성하며, 음성 신호뿐만 아니라 텍스트 프롬프트를 통해 움직임을 미세하게 조절할 수 있다는 점에서 혁신적입니다. 이는 텍스트 기반의 동작 설명을 따르면서 음성 입력과 동기화된 3D 전신 움직임을 생성하는 텍스트 제어형, 음성 구동형 모션 생성기 덕분입니다.

자연스러운 움직임을 위한 핵심 기술

자연스럽고 부드러운 움직임을 위해, 연구진은 VAE 코드북과 템플릿 비디오에서 추출한 2D DW 포즈를 연결하는 코드-포즈 변환 모듈을 개발했습니다. 또한, 참조 이미지와 음성 입력, 전신 움직임 표현을 바탕으로 사실적인 인체 애니메이션을 생성하는 다중 모드 비디오 확산 기술을 도입했습니다.

놀라운 성능과 미래 전망

광범위한 실험 결과, VersaAnimator는 기존 방법보다 시각적 품질, 정체성 보존, 음성-입술 동기화 측면에서 뛰어난 성능을 보였습니다. 이는 단순한 애니메이션 생성을 넘어, 영화, 게임, 가상현실 등 다양한 분야에서 혁신적인 가능성을 제시합니다. VersaAnimator의 등장은 인공지능 기반 콘텐츠 제작의 새로운 장을 열었다고 평가할 수 있습니다. 앞으로 더욱 발전된 기술을 통해 더욱 정교하고 다양한 애니메이션 생성이 가능해질 것으로 기대됩니다.


*이 기사는 AI가 생성한 내용으로, 일부 정보가 실제와 다를 수 있습니다. 정확한 확인을 위해 추가적인 검증을 권장드립니다.

Reference

[arxiv] Versatile Multimodal Controls for Whole-Body Talking Human Animation

Published:  (Updated: )

Author: Zheng Qin, Ruobing Zheng, Yabing Wang, Tianqi Li, Zixin Zhu, Minghui Yang, Ming Yang, Le Wang

http://arxiv.org/abs/2503.08714v1