HyperAIHyperAI

Command Palette

Search for a command to run...

Seasonal Contrast: Unsupervised Pre-Training from Uncurated Remote Sensing Data

Oscar Mañas Alexandre Lacoste Xavier Giro-i-Nieto David Vazquez Pau Rodriguez

Zusammenfassung

Fernerkundung und automatisierte Erdbeobachtung sind entscheidend für die Bewältigung globaler Herausforderungen wie Katastrophenprävention, Landnutzungsüberwachung oder die Bekämpfung des Klimawandels. Obwohl riesige Mengen an Fernerkundungsdaten existieren, bleiben die meisten dieser Daten unbeschriftet und somit für überwachtes Lernen nicht nutzbar. Transfer-Lernansätze können die Datenerfordernisse von Deep-Learning-Algorithmen reduzieren. Die meisten dieser Methoden werden jedoch auf ImageNet vortrainiert, und ihre Generalisierbarkeit auf Fernerkundungsdaten ist aufgrund des Domänenunterschieds nicht gewährleistet. In dieser Arbeit präsentieren wir Seasonal Contrast (SeCo), eine effektive Pipeline zur Nutzung unlabeled Daten für das In-Domain-Vortrainieren von Fernerkundungsrepräsentationen. Die SeCo-Pipeline besteht aus zwei Komponenten. Erstens ein streng methodischer Ansatz zur Sammlung großer, unlabeled und unkuratierter Fernerkundungsdatensätze, die Bilder aus mehreren Erdorten zu unterschiedlichen Zeitpunkten enthalten. Zweitens ein selbstüberwachtes Lernalgorithmus, der die Zeit- und Ortsinvarianz ausnutzt, um transferierbare Repräsentationen für Anwendungen in der Fernerkundung zu erlernen. Wir zeigen empirisch, dass Modelle, die mit SeCo trainiert wurden, auf mehreren nachgelagerten Aufgaben eine bessere Leistung erzielen als ihre auf ImageNet vortrainierten Gegenstücke sowie state-of-the-art-Methoden des selbstüberwachten Lernens. Die Datensätze und Modelle von SeCo werden öffentlich zugänglich gemacht, um den Transfer-Lernansatz zu fördern und einen schnellen Fortschritt in der Fernerkundungsanwendung zu ermöglichen.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp