グーグルが明らかにしたところによると、AIモデル「Gemini」の複製を試みる攻撃者が、同モデルに10万回以上にわたり意図的にプロンプトを送信した。この攻撃は、モデルの学習内容を模倣する「知識蒸留（distillation）」という技術を用いたもので、開発コストを大幅に削減しながら、Geminiの挙動を再現しようとする試みである。 グーグルによれば、攻撃者はGeminiの出力結果を大量に収集し、それをもとに自らの軽量モデルを訓練。これにより、本物に近い振る舞いを実現する「コピー版」のAIを構築したとみられる。この手法は、大規模モデルの性能を低コストで再現できるため、開発の民主化を促す一方で、知的財産の侵害やセキュリティリスクを引き起こす懸念がある。 グーグルは、こうした試みに対し、強化された検出システムとアクセス制御を導入。また、Geminiの出力を悪用した再現モデルの拡散を防ぐため、APIの使用制限や異常なアクセスパターンの監視を強化している。同社は「AIの安全性と信頼性を守るため、技術的・運用的な対策を継続的に進める」としている。 この事例は、最先端AIモデルがもたらす価値の高さと、その保護がいかに重要であるかを浮き彫りにしている。グーグルは、技術の進化に伴い、攻撃者との「知恵の戦い」が今後も続くと警鐘を鳴らしている。