HyperAIHyperAI

Command Palette

Search for a command to run...

AIを容易に欺く脆弱性、研究が実証

ミシガン州立大学のAnkit Gupta研究員とChristoph Adami教授らは、最新の人工知能が生命の兆候を検出する過程で存在しない生命シグネチャを誤って発見してしまう脆弱性を明らかにした。同成果は2026年8月、カナダ・ウォーターローで開催された人工知能学会の会議で発表された。 人類は過去、地球外生命探査において数多くの誤検出を経験してきた。近年ではNASAの宇宙探査ミッションが膨大なデータの処理とパターン認識に人工知能の活用を期待している。火星の土壌分析や系外惑星大気の観測など、自律型センサーが現場で直ちに生命シグネチャの判断を下すケースは増えているが、決定打となる単一の生物標識は存在しない。生命は情報をコード化して自己複製するという普遍的な特性を基盤に、研究者らはコンピュータープログラムAvidaを用いたデジタル生物で実験を実施した。 実験では自己複製可能なコードと不可能なコードからなる数万のデジタル生物を生成し、ディープラーニングモデルの識別精度を99.97%にまで高めた。しかし未学習データによる実テストでは精度が大幅に低下し、非生命体のコードを150回程度の手直しを加えるだけで、人工知能は誤って自己複製能力を持つと判断させた。Gupta研究員はどの開始コードからも100%の確率で人工知能を誤誘導可能だったと指摘し、Adami教授は誤誘導を招くコードシーケンスは膨大に存在するため実際の観測データで同様の事象が発生する確率は高いと警告する。 この脆弱性は地球外生命探査の信頼性に深刻なリスクをもたらす。特に探査機などがサンプル還送前に自律判断を下す環境では誤検出が重大な科学的誤認を招きかねない。Adami教授はパターン認識を得意とする現代の人工知能には弱点が存在し医療画像診断や自動運転など応用分野全般にも課題を抱えると指摘。その上で科学的目的を否定するものではなく人工知能の出力には独立した検証プロセスと人間の監視を必ず組み込む必要があると強調した。今後チームは現実の観測データを用いた再学習実験へ進み、脆弱性の実証的範囲拡大を目指す。

関連リンク