HyperAIHyperAI

Command Palette

Search for a command to run...

テキスト、オーディオ、話者アイデンティティの3モーダルなコンテキストからのスピーチジェスチャー生成

Youngwoo Yoon Bok Cha Joo-Haeng Lee Minsu Jang Jaeyeon Lee Jaehong Kim Geehyuk Lee

概要

人間らしいエージェント、特にバーチャルアバターおよびソーシャルロボットにおいて、会話中に適切なジェスチャーを取ることは、人間とエージェントの相互作用において極めて重要である。共話ジェスチャーは相互作用体験を向上させ、エージェントに生命感を与える。しかし、人々がどのようにジェスチャーを行うかという理解が不足しているため、人間らしいジェスチャーの生成は困難である。データ駆動型アプローチは、人間のジェスチャー例からジェスチャー習得能力を学ぼうとするが、ジェスチャーの曖昧さと個人差が学習を妨げている。本論文では、音声テキスト、音声、発話者アイデンティティというマルチモーダルな文脈を活用し、信頼性の高いジェスチャーを自動生成するモデルを提案する。マルチモーダルな文脈と敵対的学習スキームを組み合わせることで、本モデルは会話の内容およびリズムと整合性のある人間らしいジェスチャーを出力する。さらに、ジェスチャー生成モデルのための新しい定量評価指標を導入した。導入した指標と主観的な人間評価を用いた実験により、本モデルが既存のエンドツーエンド生成モデルよりも優れていることが示された。また、制約された文脈下において合成音声を用いても本モデルが有効に動作することを確認し、さまざまな発話者映像から学習されたスタイル埋め込み空間において、異なる発話者アイデンティティを指定することで、同一の発話に対しても異なるジェスチャースタイルを生成できることを示した。本研究で用いたすべてのコードおよびデータは、https://github.com/ai4r/Gesture-Generation-from-Trimodal-Context で公開されている。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています