MovingFashion: ビデオからショップへのチャレンジのためのベンチマーク

ソーシャルメディアの動画（Instagram、TikTok）に登場する衣類を検索する技術は、電子ファッションの最新フロンティアであり、コンピュータビジョンの文献では「ビデオ・トゥ・ショップ」（video-to-shop）と呼ばれています。本論文では、この課題に対処するために初めて公開されるデータセットMovingFashionを紹介します。MovingFashionは14,855件のソーシャル動画で構成されており、それぞれの動画には対応する衣類が明確に表示されたECサイトの「ショップ」画像が関連付けられています。さらに、このシナリオでのショップ画像検索ネットワークSEAM Match-RCNNを提案します。このモデルは画像から動画へのドメイン適応によって訓練され、ショップ画像との関連性のみが与えられた動画シークエンスを使用できることから、数百万のアノテーション付きバウンディングボックスを必要とせずに機能します。SEAM Match-RCNNは埋め込み空間を作成し、ソーシャル動画の少数のフレーム（10枚）に基づく注意メカニズムによる加重和が14,000件以上のショップ要素ギャラリーの中で最初に取得される5つのアイテム内に正しい製品を見つけるのに十分であり、精度は80%です。これはMovingFashionにおいて最良の性能を示しており、関連する最先端手法や代替基準との徹底的な比較を行っています。