要約
ユーザー生成コンテンツは、他者に害を及ぼし、参加を抑制するような攻撃的言語に満ちており、そのため、オンラインコミュニティのモデレーターを支援・警戒させるために、こうした攻撃的言語を検出するシステムの開発が主な研究課題となっている。しかし、こうしたシステムの開発および評価は、極めて困難である。現行の評価指標で満足のいく性能を示すように見えるモデルであっても、実際の新しいデータに対しては機能しなくなることがある。これは、この分野で一般的に用いられるデータセットに選択バイアスが存在するためであり、結果として既存の教師ありモデルが、本質的に攻撃的ではないが、グループ識別子（例：gay、blackなど）のような手がかり語に過度に依存してしまう傾向がある。このバイアスを軽減する試みはいくつか存在するが、現行の評価指標はその進捗を十分に定量的に評価できていない。本研究では、困難な分類対象となるマイクロポスト（microposts）に対するモデルの性能をより適切に捉える新しい評価戦略および関連する指標である「攻撃的言語に対する敵対的攻撃（Adversarial Attacks against Abuse: AAA）」を提案する。AAAは、モデル開発者が使用する訓練データおよびテストデータを敵対的に改変し、現実的かつ動的にテストサンプルを生成することで、低レベルの語彙的特徴に偏ったシステムを罰する仕組みを備えている。本研究ではAAAを使いやすく設計されたツールとして公開し、複数のデータセット上で最先端モデルのAAA性能を比較することで、誤り分析における有効性を示した。本研究は、攻撃的言語検出システムの開発に貢献し、オンライン上の攻撃的言語との闘いに新たな知見を提供する。