公式公告は、一般市民にとって関連性の高い情報を豊富に提供するものであり、その詳細な検討により、公的資金の不正管理を防ぐために不正や不審な事例を発見することができる。本稿では、連邦特別区の公式公告から構成される文書データセットを提示する。このデータセットには、文書の出典が付記されたサンプルとラベルの付与されていない文書が含まれている。本研究では、ULMFiTを用いた転移学習ベースのモデルと、SVMおよびナイーブベイズを分類器として用いる従来のBag-of-Wordsモデルをトレーニングし、性能を評価・比較した。その結果、SVMはULMFiTに比べてわずかに性能が劣るものの、トレーニングおよび推論時間がはるかに短く、計算コストも低いため、実用性において優れていることが明らかになった。最後に、ULMFiTの各構成要素がモデル性能に与える影響を検証するアブレーション分析を実施した。