HyperAIHyperAI

Command Palette

Search for a command to run...

階層的な写真シーンエンコーダーによるアルバムストーリーテリング

Bairui Wang Lin Ma Wei Zhang Wenhao Jiang Feng Zhang

概要

本論文では、アルバム物語生成タスクのために階層的なフォトシーンエンコーダとリコンストラクターを備えた新しいモデルを提案します。このフォトシーンエンコーダは、写真エンコーダとシーンエンコーダの2つのサブエンコーダから構成されており、これらが重ねられ、階層的に動作することでアルバム内の写真の構造情報を十分に活用します。具体的には、写真エンコー�ダは各写真の意味表現を生成し、それらの時間的関係も活用します。シーンエンコーダは得られた写真表現に基づき、シーンの変化を検出し、シーン表現を生成する役割を担います。その後、デコーダは動的にかつ注意深くエンコードされた写真表現とシーン表現を要約し、アルバム表現の系列を生成します。これに基づいて、複数の連続した文章で構成される物語が生成されます。アルバムから有用な意味情報を完全に抽出するために、リコンストラクターが使用され、デコーダの隠れ状態に基づいて要約されたアルバム表現を再現します。提案されたモデルはエンドツーエンドで学習可能であり、公開されているビジュアルストーリーテリング(VIST)データセットにおいて既存の最先端手法よりも性能が向上しています。アブレーションスタディにより、提案された階層的なフォトシーンエンコーダとリコンストラクターの効果がさらに示されています。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
階層的な写真シーンエンコーダーによるアルバムストーリーテリング | 記事 | HyperAI超神経