AIの悪用を防ぐための取り組み 過去2年間、当社が発行する脅威レポートを通じて、脅威行動者がAIモデルをどのように悪用しているかについて、重要な知見を得てきました。今回のレポートにおける事例は、これまでの報告と同様に、脅威行動者がAIを、ウェブサイトやSNSアカウントといった従来の手段と組み合わせて利用していることを示しています。1つのプラットフォームや1つのAIモデルに限定されるのではなく、作業プロセスの異なる段階で複数のAIモデルを切り替えて使うケースも少なくありません。たとえば、中国の影響操作関係者に関する調査では、複数のAIモデルを段階的に活用していることが明らかになりました。 こうした実態を共有することで、業界全体および社会が脅威を早期に識別し、対策を講じられるよう支援することを目的としています。AIの悪用は、技術の進化とともに複雑化しており、単一の対策では対応が難しくなっています。しかし、行動パターンの共通点を把握することで、予防策や検出手法の強化が可能になります。 当社は、AI技術の健全な発展と、社会全体の安全を守るため、継続的に脅威の動向を調査・共有していきます。詳細はレポートにてご確認ください。