2달 전

GRITv2: 효율적이고 경량화된 사회 관계 인식

N K Sagar Reddy; Neeraj Kasera; Avinash Thakur
GRITv2: 효율적이고 경량화된 사회 관계 인식
초록

우리 연구는 그래프 기반 관계 추론 트랜스포머(Graph-based Relation Inference Transformer, GRIT)의 분석과 개선에 초점을 맞추고 있습니다. 이 모델은 해당 분야에서 중요한 벤치마크 역할을 하고 있습니다. 우리는 PISC-fine 데이터셋을 사용하여 포괄적인 아블레이션 연구를 수행하여, GRITv2의 효율성과 성능 향상을 찾고 탐구하였습니다. 우리의 연구는 PISC 관계 데이터셋에서 새로운 최첨단 관계 인식 모델을 제공하였습니다. 우리는 GRIT 모델에 여러 특징을 도입하고, 두 가지 버전인 GRITv2-L(대형)과 GRITv2-S(소형)에서 새로운 벤치마크를 분석하였습니다. 제안된 GRITv2-L은 기존 방법들을 능가하며, GRITv2-S는 GRITv2-L의 0.0625배 크기와 매개변수로도 2% 미만의 성능 차이를 보였습니다. 또한, 우리는 리소스 제약이 있는 플랫폼에서 효율적인 모델을 배포하는 데 중요한 모델 압축의 필요성을 다루었습니다. 양자화 기술을 적용하여, 우리는 GRITv2-S의 크기를 효과적으로 22MB로 줄이고 플래그십 OnePluse 12 모바일 장치에 배포하였으며, 이는 여전히 PISC-fine 벤치마크를 성능面에서 능가함으로써 우리 모델의 모바일 장치에서의 실용적 가능성을 강조하였습니다.

GRITv2: 효율적이고 경량화된 사회 관계 인식 | 최신 연구 논문 | HyperAI초신경