OpenAI共同創業者が警告、「AIは未完成、監督が必要」

OpenAIの共同創業者Andrej Karpathyが、人工知能を監視することが重要だと主張している。Y Combinatorが主催したイベントで行われたキーノートスピーチの中で、KarpathyはAIがいまだにヒューマンエラーとは異なるタイプの誤りを犯すことを指摘し、「AIをリードで歩ませる」ことが必要だとの見解を示した。現在の大きな言語モデル（LLM）は、人間の知能の奇妙なシミュレーションであり、事実の幻覚化、自己知識の欠如、そして「記憶喪失」のような特徴を持つと彼は語る。彼は具体的な例として、“9.11が9.9より大きい”や、“strawberryには2つのRがある”といった間違った認識を引き出した。これにより、開発者が安易にコード創作などにAIを使うことは危険で、“自己を Bottleneck”とした慎重な管理が必要であると強調した。 カーパシーは、具体的で段階的な指示を与えることの大切さを提唱している。「全てがうまくいくかどうかを確認するために、少しずつ着実に進めるべきだ」と語った。彼は自身のアイデアを「VIBEコーディング」と呼び、開発者が完全に“雰囲気”に入り込むことで最良の結果を導けると考えている。“具体的なプロンプトに時間をかけることで成功への確率が上がり、前に進める”としている。 この警戒心を共有する人々もいる。元OpenAIの研究責任者Bob McGrewは、人間の技術者が必須で、AIが難しすぎたり問題が生じた際には介入が必要だと述べている。また、アジャイルマニフェストの筆者の一人Kent Beckは、AIによるコード作成がときどきギャンブルのように感ずることもあると話している。これらの観察から、彼はAIを「ランプの中のジェニー」にたとえ、指示通りに働くとは限らない特性を持っていると言及した。 しかしながら、テクノロジー企業達は依然としてAI開発への期待を寄せている。例えば、グーグルを傘下に持つアルファベットCEOのSundar Pichaiは、今年新たに書かれるコードの30％以上がAIによって作成されると報告している。(前年比5パーセント増) Karpathyが共有する視点は、AIの現状における課題と制約、そして開発者とAIが連携すべき適切な方法を深く理解するための有益な洞察を提供してくれるものだ。OpenAIは今でも世界最先端のAI研究機関として注目を集めている。同社は人類にとっての価値創出と共存を見据えた研究開発を主なミッションに掲げている。