大規模言語モデル大規模言語モデル

ラージ言語モデル（英語：Large Language Model、略称LLM）は大規模言語モデルとも呼ばれ、人工知能アルゴリズムです。多数のパラメーターを備えたニューラル ネットワーク テクノロジーを適用し、自己教師あり学習テクノロジーを使用して人間の言語やテキストを処理して理解します。テキスト生成、機械翻訳、要約作成、テキストからの画像生成、機械コーディング、チャットボット、会話型 AI などのタスクはすべて、大規模な言語モデルのアプリケーションです。この種の LLM モデルの例には、オープン AI の Chat GPT、Google の BERT (Transformer の双方向エンコーダ表現) などが含まれます。

LLM はサイズが大きいことが特徴で、言語データの複雑なパターンを学習するのに役立つ数十億のパラメーターを備えています。これらのモデルは多くの場合、トランスフォーマーなどの深層学習アーキテクチャに基づいており、さまざまな NLP タスクで優れたパフォーマンスを達成するのに役立ちます。

以下の図は、近年の大規模言語モデルの開発タイムラインを示しています。黄色で強調表示されているのは、オープンソース化されている大規模な言語モデルです。

参考文献

https://www.geeksforgeeks.org/large-language-model-llm/?ref=lbp