2ヶ月前

GRITv2: 効率的で軽量な社会関係認識

N K Sagar Reddy; Neeraj Kasera; Avinash Thakur
GRITv2: 効率的で軽量な社会関係認識
要約

当研究は、グラフベースの関係推論トランスフォーマー(Graph-based Relation Inference Transformer: GRIT)の分析と改善に焦点を当てています。このモデルは、該分野において重要な基準となっています。PISC-fineデータセットを使用して包括的なアブレーションスタディを行い、GRITv2の効率と性能の向上を探求しました。本研究では、PISC関係データセット上で新たな最先端の関係認識モデルを提供しています。GRITモデルにおけるいくつかの特徴を紹介し、新しい基準を2つのバージョンで分析します:GRITv2-L(大規模版)およびGRITv2-S(小規模版)。提案するGRITv2-Lは既存の方法を上回り、GRITv2-SはGRITv2-Lの約0.0625倍のモデルサイズとパラメータしか持たないにもかかわらず、性能差が2%以内に抑えられています。さらに、リソース制約のあるプラットフォームでの効率的なモデル展開に重要なモデル圧縮についても取り組んでいます。量子化技術を適用することで、GRITv2-Sのサイズを効率的に22MBに削減し、フラッグシップ機であるOnePlus 12モバイルデバイスに展開しました。これにより、当モデルがモバイルデバイス上で実用的であり、性能面でもPISC-fine基準を超えることが示されました。

GRITv2: 効率的で軽量な社会関係認識 | 最新論文 | HyperAI超神経