HyperAIHyperAI

Command Palette

Search for a command to run...

なぜそれがヘイトスピーチなのか?説明可能なヘイトスピーチ検出のためのマスクドリトライナル予測

Jiyun Kim Byounghan Lee Kyung-Ah Sohn

概要

ヘイトスピーチ検出モデルにおいて、検出性能以外にも、バイアスと説明可能性という2つの重要な側面を考慮する必要がある。ヘイトスピーチは特定の語彙の存在のみによって判断できるものではなく、モデルは人間のように推論でき、かつその判断根拠を説明可能な状態でなければならない。これらの側面における性能向上を図るため、本研究では中間タスクとして「マスクされた理由付け予測(Masked Rationale Prediction: MRP)」を提案する。MRPは、周囲のトークンと未マスクされた理由付け(人間の判断根拠となる文の断片)を参照しながら、マスクされた人間の理由付けを予測するタスクである。MRPを通じてモデルが理由付けに基づいた推論能力を学習することで、バイアスや説明可能性の観点からも、ヘイトスピーチ検出において堅牢な性能を発揮する。提案手法は、さまざまな評価指標において一般的に最先端の性能を達成しており、ヘイトスピーチ検出における有効性が示された。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています