元航空自衛隊パイロットで、2010年のクアンタス航空32便の奇跡的無人墜落回避を指揮したリチャード・チャンピオン・ド・クレスピニ氏が、AIと自動化の進展が飛行の安全性を脅かす可能性を警告している。当時、シンガポール発のアエロブスA380便は離陸4分後に2号エンジンが爆発し、400枚もの破片が機体に突き刺さる大事故に見舞われた。この際、搭乗していた469名全員が無事に生存したのは、ド・クレスピニ氏と5人体制の乗務員が、故障したコンピュータシステムの提示するチェックリストを盲信せず、状況を的確に判断し、手動操縦で対応したからだ。事故の原因はエンジン内部の製造欠陥に起因したが、ド・クレスピニ氏が今も懸念するのは「自動化の過剰依存」である。 彼は、AIや自動化システムが「ブラックボックス」であるため、故障時にその正しさを判断し、切断し、手動で操縦できる能力がパイロットに求められると強調する。事故当時、機内に次々と提示されたチェックリストの一部は、誤った対処を招く可能性があり、彼たちは「無条件に従わず、状況に応じて選択的に対応」した。2時間にわたり、機体の状態を一つずつ確認し、安全着陸を実現した。 現在も航空業界の講演やポッドキャスト「FLY!」を通じて、組織のレジリエンスや変化への適応を訴えるド・クレスピニ氏は、AIがパイロットを置き換えることは現時点ではないとしながらも、「AIは道具にすぎず、人間の意思と判断が不可欠」と指摘。将来的には軍用や長距離貨物便で無人飛行が実現する可能性があると予測しつつ、30年後には乗客を乗せた旅客機の完全自律飛行も可能になるかもしれないと述べた。しかし、その前提には「人間の知性と判断力」が不可欠だと強調している。彼の主張は、技術の進化に伴い、人間が自らの制御権を守り続ける必要があるという、現代社会全体に通じる教訓を含んでいる。