HyperAIHyperAI

Command Palette

Search for a command to run...

1ヶ月前
Transformer

Cross-Script Name Retrieval via Contrastive Learning

Unicode 文字列間での名前照合は、スクリプトが異なる場合に文字の共通部分がゼロになるため、従来の編集距離や音声認識コードでは失敗する課題です。この問題に対し、新しい研究チームはトークナイザーや事前学習モデルを使わず、生の UTF-8 バイトを直接扱うコンパクトなトランスフォーマーエンコーダーを開発しました。このモデルは対照学習により、異なるスクリプトでも発音が似ている名前を同じベクトル空間にマッピングすることを学びました。 学習データは、Wikidata の 200 万人の人物名を基に、LLM を活用して 4 つの段階で生成された 467 万組の正解ペアで構築されました。まず英語名から発音のバリエーションを作成し、続いて 8 つの非ラテン文字スクリプトへの転写を自動生成しました。これにより、ラテン文字と非ラテン文字の間の性能差を従来の手法の 10 分の 1 にまで縮小することに成功しました。評価結果では、平均ランク(MRR)0.775、トップ 10 内適合率(R@10)0.897 を達成し、特にアラビア語やロシア語など転写規則が明確な言語では 0.95 以上の精度を記録しました。 モデルの構造は非常に軽量で、約 400 万パラメータ、深さ 6 レイヤ、隠れ層次元 256 で構成されています。これにより、実環境での高速検索が実現可能です。特に、学習中に硬いネガティブサンプル(似ているが異なる名前)を探索する ANCE という手法を採用したことが、性能向上に寄与しました。ただし、漢字やハングルなど転写規則に曖昧さがある言語では、モデルの精度がやや低下する傾向が見られました。これはトレーニングデータに、スクリプト固有の表記揺れが含まれていなかったことが主な原因です。 本研究は、データセットが不足する低資源言語でのエンティティ照合において、LLM をデータ生成エンジンとして活用する有効なアプローチを示しました。また、バイトレベルでのトークン化が、言語に依存しない汎用的な文字処理として有力な選択肢となることも実証しています。完全なコードとデータ生成パイプラインは GitHub で公開されており、移民データベースや金融コンプライアンス、医療記録システムなどの実装への応用が期待されます。

関連リンク

Cross-Script Name Retrieval via Contrastive Learning | 人気の記事 | HyperAI超神経