混元Video Avatar是由騰訊混元團隊與騰訊音樂天琴實驗室聯合研發的一款開源語音數字人模型,於2025年正式發布。該技術基於多模態擴散Transformer架構,融合了先進的語音和視頻生成技術,能夠根據用戶提供的一張人物圖片和一段音頻,自動生成包含自然面部表情、唇形同步及全身動作的動態視頻,實現數字人形象的高度擬真與多樣化應用。
混元Video Avatar的核心技術包括角色圖像注入模組、多模態擴散Transformer(MM-DiT)、音頻情感模組(AEM)及面部感知音頻適配器(FAA)。角色圖像注入模組能有效消除訓練與推理過程中的條件不匹配問題,確保生成視頻中人物形象的一致性。音頻情感模組則從音頻及情感參考圖像中提取情感線索,實現精細的情緒控制,讓數字人能夠展現豐富的表情和動作。面部感知音頻適配器則支持多角色場景下的獨立音頻注入,確保多人互動視頻中各角色的動作與語音高度同步。
該模型支持頭肩、半身及全身三種不同景別,並兼容多種風格和物種,包括賽博朋克、2D動漫、中國水墨畫等藝術風格,滿足短視頻創作、電商廣告、虛擬偶像、遊戲動畫等多樣化需求。
混元Video Avatar廣泛應用於短視頻內容創作、電商產品介紹、虛擬主播、在線教育及娛樂領域。例如,在QQ音樂平台,當用戶收聽AI歌手“AI力宏”的歌曲時,系統會同步生成AI力宏的虛擬形象,實時展現其唱歌動作和表情。在全民K歌平台,用戶可上傳個人照片,快速生成專屬的個性化唱歌視頻。此外,該技術還被用於長音頻繪本的虛擬講述,為用戶帶來沉浸式的聽覺與視覺體驗。
在多人互動場景中,混元Video Avatar能夠精準驅動多個角色,實現自然流暢的對話、表演與對唱,極大提升虛擬角色的互動真實感。
混元Video Avatar在主體一致性、音畫同步準確度及視頻動態性方面均達到業界領先水平,超越多種開源及閉源方案。其多模態擴散Transformer架構和情感感知技術,使生成視頻更具自然感和表現力。開源策略也促進了技術的廣泛應用與生態建設。
此外,該模型支持用戶自定義角色及多風格轉換,靈活滿足不同創作需求,為視頻創作者和品牌提供了強大且高效的內容生產工具。
目前,混元Video Avatar的單一主體功能已在騰訊混元官網開放體驗,支持上傳不超過14秒的音頻生成視頻。未來,騰訊計劃逐步開放更多功能模組,提升視頻長度限制,強化多角色互動及風格多樣性,並推動技術在更多行業場景中的落地應用。
隨著AI視頻生成技術的持續進步,混元Video Avatar有望成為引領數字人視頻創作的核心平台,助力內容創作者、品牌營銷及娛樂產業實現高效智能化轉型。
騰訊混元推出的混元Video Avatar以其先進的多模態擴散架構、情感感知能力及多場景適配性,重新定義了語音驅動數字人視頻生成的技術標準。它不僅提升了視頻內容的自然度與互動性,也為短視頻創作、虛擬偶像及電商廣告等領域帶來全新可能。隨著技術開源與持續優化,混元Video Avatar將成為推動未來數字內容創作與AI視頻產業發展的重要引擎。