事前トレーニング済みモデルは、大規模なデータセットでトレーニングされた機械学習 (ML) モデルであり、特定のタスクに合わせて微調整できます。事前トレーニングされたモデルは、ML モデル開発の開始点としてよく使用され、特定のタスクに合わせて微調整できる重みとバイアスの初期セットを提供します。
事前トレーニングされたモデルを使用することには、他の人の知識や経験を活用できること、時間とリソースを節約できること、モデルのパフォーマンスが向上することなど、いくつかの利点があります。事前トレーニングされたモデルは通常、大規模で多様なデータセットでトレーニングされ、さまざまなパターンや特徴を認識するようにトレーニングされます。したがって、微調整のための強固な基盤を提供し、モデルのパフォーマンスを大幅に向上させることができます。
事前トレーニング済みモデルには、言語モデル、物体検出モデル、画像分類モデルなど、さまざまな形式があります。畳み込みニューラル ネットワークは、画像を所定のカテゴリ (CNN) に分類するようにトレーニングされた画像分類モデルの基礎としてよく使用されます。
CNN または領域ベースの畳み込みニューラル ネットワークは、写真やビデオ内のアイテムを識別および分類するためのオブジェクト認識モデルの基礎としてよく使用されます (R-CNN)。リカレント ニューラル ネットワーク (RNN) またはトランスフォーマーは、言語モデルの基礎としてよく使用され、シーケンス内の次の単語を予測するようにトレーニングされます。
全体として、事前トレーニング済みモデルは ML の便利なツールであり、ML モデル開発の開始点として使用できます。これらは、特定のタスクに合わせて微調整できる重みとバイアスの初期セットを提供し、モデルのパフォーマンスを大幅に向上させることができます。