AIのスケーリング時代は終わる？生成AIの成長鈍化が浮き彫りに

AIの成長が加速する時代は終わる。生成AIの現状が変化している。長年、AIをより賢くするための方法は単純だった。モデルを大きくすればいいだけだった。しかし、そのルールが通用しなくなるとどうなるのか。AIを開発している人々の声を聞くと、進歩の話題が以前とは変わっているのが分かる。数年の間に、進展は明確で、自然の法則のように感じられていた。モデルの規模を大きくすれば、性能が向上するのは当然と考えられていた。GPT-2からGPT-3、そしてGPT-4へと進化する過程では、性能の向上が劇的だった。それぞれのモデルは、単なる改善ではなく、まったく新しいものだった。その結果、業界には強い信念が生まれた。データ量と計算力の増加が性能向上を保証すると。しかし、そのような予測可能な指数関数的な成長は、今では終わっている。かつての劇的な進歩は見られず、成長の曲線はだんだんと平坦になってきている。この「スケーリング法則」は、研究によって裏付けられていたが、その単純な約束は、今や過去のものとなった。