要約
セマンティックセグメンテーションはコンピュータビジョンにおける最も基本的な課題の一つであり、この文脈におけるピクセルレベルのラベル付けは特にコストが高くなる。そのため、アノテーション作業の負担を軽減するための試みとして、画像レベルのラベルやバウンディングボックスのアノテーションからの学習がこれまでに多数提案されてきた。本論文では、これより一歩進んで、セマンティックセグメンテーションにおけるゼロショットおよびフェイショット学習という挑戦的なタスクに焦点を当てる。本研究で定義するこのタスクとは、訓練時にそのクラスのラベル付きサンプルがまったく存在しなかった場合（ゼロラベルセマンティックセグメンテーション）あるいは少数のラベル付きサンプルしか存在しなかった場合（フェイショットラベルセマンティックセグメンテーション）においても、すべてのピクセルにラベルを割り当てる画像セグメンテーションを指す。本研究の目的は、これまでに観測されたクラスから得られた知識を、新しいクラスへと転移することにある。提案するセマンティックプロジェクションネットワーク（SPNet）は、セマンティックセグメンテーション用に設計された任意のネットワークに、クラスレベルのセマンティック情報をエンドツーエンドの形で統合することで、この目的を達成する。さらに、困難なCOCO-StuffおよびPASCAL VOC12データセット上でこのタスクのベンチマークを提案する。本モデルは、新しいクラスのセグメンテーションにおいて有効であり、高コストな密なアノテーションを緩和する一方で、過去の知識を忘却することなく新しいクラスに適応できる、すなわち一般化されたゼロおよびフェイショットラベルセマンティックセグメンテーションを実現する。