AI技術が生物安全危機を招く

先進AI企業の経営陣と研究者らが、先端モデルが生物兵器の設計・製造を可能にする重大なリスクを抱えていると警告を発している。Anthropicのダリオ・アモデイCEOとOpenAIのサム・アルトマンCEOは先般、模型開発のペースコントロールを共同で求めると表明。同社内部の研究者からも、AIが今後10年以内に人類絶滅の要因となり得るとの懸念が相次ぎ、開発倫理を巡る議論が急激に高まっている。 懸念の根底には、AIが科学知識の集約体となりつつある技術的転換がある。2022年には医薬品開発用AI分子生成モデルのターゲットを単に変更した結果、6時間で4万種類以上の化学戦剤候補を設計し出していた事例が報告されている。現在の大規模言語モデルは科学分野のほぼ全領域で実験手順や指導情報を提供可能であり、合成生物学と個人レベルの実験環境の普及が相まって、不正利用の技術的ハードルは急低下している。 業界は現在、DNA合成企業の注文スクリーニングや独立系研究者によるレッドチームテストといった防護体制を構築している。Anthropicもモデルの安全基準を強化しているが、報告書ではウイルスの伝播能力向上や高毒性タンパク質の探索といったプロンプト攻撃が実際に検知されたことを認め、攻防は継続中だと指摘する。 一方で、脅威の深刻度を巡っては専門家間で見解が分かれる。イギリスの専門家は現行AIが単独で完全な病原体を開発する段階には至っていないとし、自然界の病原体拡散の方が現実的な危機であると指摘。他方で、ドイツやMITの研究者らは今後5〜10年の間に生物防衛体制の強化が必須であるとし、既存毒素の解毒剤備蓄や公衆衛生インフラの事前準備を訴えている。 AI開発の主導層は安全性を最優先する方向に舵を切っているものの、技術の双刃性に対するガバナンスは喫緊の課題となっている。自然発生か人工設計かを問わず、AI時代の生物安全保障は、より高度な監視ツールの開発と国際的な協調に基づく継続的な対応を必要としている。