Méta-apprentissage
Méta-apprentissageUn sous-domaine de l’apprentissage automatique dans lequel des algorithmes d’apprentissage automatisé sont appliqués aux métadonnées des expériences d’apprentissage automatique.
Le cœur du méta-apprentissage est le processus « d’apprentissage (formation) », qui consiste à étudier comment faire en sorte que les neurones fassent bon usage des anciennes connaissances afin qu’ils puissent s’adapter en fonction de nouvelles tâches. Le schéma est le suivant :
- Paramètres initiaux du réseau neuronal (bleu ■) ;
- Paramètres de l'optimiseur (rose ★).
Il y a deux parties principales dans le graphique qui doivent être entraînées :
- Nous utilisons le mot « modèle (M) » pour désigner notre ancien réseau neuronal, qui peut désormais également être compris comme un réseau de bas niveau. Les poids du modèle sont représentés par ■ dans la figure.
- Nous utilisons le terme « optimiseur (O) » ou « méta-apprenant » pour désigner le modèle de haut niveau utilisé pour mettre à jour les pondérations des réseaux de bas niveau. Les poids de l'optimiseur sont représentés par ★ dans la figure.
Références
【1】Comprendre le méta-apprentissage à partir de zéro (Machine Mind)