HyperAIHyperAI

Command Palette

Search for a command to run...

MTP : Amélioration du Modèle Fondamental de Télédétection par la Préformation Multitâche

Résumé

Les modèles de fondation ont redessiné le paysage de la Télédétection (RS) en améliorant diverses tâches d'interprétation d'images. Le préentraînement est un sujet de recherche actif, englobant des méthodes d'apprentissage supervisé et non supervisé pour initialiser efficacement les poids du modèle. Cependant, le transfert des modèles préentraînés vers des tâches en aval peut rencontrer des disparités de tâche en raison de leur formulation du préentraînement comme des tâches de classification d'images ou de discrimination d'objets. Dans cette étude, nous explorons le paradigme du Préentraînement Multi-Tâche (MTP) pour les modèles de fondation en télédétection afin de résoudre ce problème. En utilisant une architecture avec un encodeur partagé et des décodeurs spécifiques à chaque tâche, nous effectuons un préentraînement supervisé multi-tâche sur l'ensemble de données SAMRS, couvrant la segmentation sémantique, la segmentation d'instances et la détection d'objets rotatifs. Le MTP soutient à la fois les réseaux neuronaux convolutifs et les modèles transformateurs visuels dotés de plus de 300 millions de paramètres. Les modèles préentraînés sont affinés sur diverses tâches en aval en télédétection, telles que la classification des scènes, la détection d'objets horizontaux et rotatifs, la segmentation sémantique et la détection de changements. Des expériences approfondies menées sur 14 ensembles de données montrent la supériorité de nos modèles par rapport aux modèles existants similaires en taille et leurs performances compétitives comparées aux modèles d'avant-garde plus volumineux, validant ainsi l'efficacité du MTP.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp