OpenAIの共同創業者であるAndrej Karpathy氏が、AIの開発と利用に慎重さを求める立場を示している。彼は、AIが人間の知能に似せた振る舞いを示す一方で、根本的な限界を持つと指摘している。特に、AIが自ら判断して行動する「エージェント」の導入には、監視と制御が不可欠だと強調している。彼は、大規模言語モデル（LLM）が「9.11が9.9より大きい」といった人間にはあり得ない誤りを犯すとし、それらを「人間の精神の不完全な模倣」と表現した。こうした誤りは、AIが「幻覚（hallucination）」を起こす原因となり、開発者が過信すると重大な問題を引き起こす可能性がある。 Karpathy氏は、AIに任せきりではなく、開発者が「具体的なプロンプト」を用意し、段階的に検証しながら進めることが重要だと説く。彼が提唱する「VIBEコーディング」は、開発者がAIに任せる余地を広げる一方で、その結果を常に確認する姿勢を重視している。彼の主張は、AIの強力さと同時に、その不確実性を認識し、人間の監督を欠かさない姿勢の必要性を訴えるものだ。 この懸念は、AI研究の現場でも共有されている。OpenAIの元研究責任者であるBob McGrew氏や、アジャイル開発の提唱者であるKent Beck氏も、AIは「ジーニー」のように願いを叶えるが、人間の意図とは異なる形で応える可能性があると指摘。AIによるコード生成は、結果が不確実で「ギャンブル的」とも形容される。しかし、グーグルのSundar PichaiCEOは、アルファベット社で新規コードの30％以上がAIによって生成されていると報告し、企業側のAI活用は進んでいる。 一方で、Karpathy氏が開発した「microgpt」というプロジェクトは、GPTの本質を200行のPythonコードに凝縮した挑戦である。これにはデータセット、トークナイザー、自動微分（autograd）、Transformer構造、最適化アルゴリズム、学習・推論ループがすべて含まれる。このコードは、実際のLLMの仕組みを理解するための教育的ツールとして、AIの本質が「統計的パターンの学習と生成」であることを明確に示している。 結論として、Karpathy氏の主張は、AIの進化を称賛しつつも、その限界を正しく認識し、人間が中心に立つ「監視」と「制御」の姿勢を貫く必要があることを訴えている。AIは強力だが、完全ではない。その本質を理解し、慎重に活用することが、今後の技術発展の鍵となる。