HyperAIHyperAI

Command Palette

Search for a command to run...

Selbstüberwachte audiovisuelle Repräsentationslernverfahren für Fernerkundungsdaten

Konrad Heidler Lichao Mou Di Hu Pu Jin Guangyao Li Chuang Gan Ji-Rong Wen Xiao Xiang Zhu

Zusammenfassung

Viele aktuelle Ansätze im Bereich des Deep Learning nutzen Backbone-Netzwerke, die auf großen Datensätzen wie ImageNet vortrainiert wurden und anschließend für eine spezifische Aufgabe feinabgestimmt werden. In der Fernerkundung erschweren die fehlende Verfügbarkeit vergleichbar großer annotierter Datensätze sowie die große Vielfalt an Sensorenbetriebssystemen eine ähnliche Entwicklung. Um zur Verfügbarkeit vortrainierter Backbone-Netzwerke in der Fernerkundung beizutragen, entwickeln wir einen selbstüberwachten Ansatz zum Vortrainieren tiefer neuronalen Netzwerke. Dies geschieht vollständig ohne Etikettierung, indem die Korrespondenz zwischen geotaggenen Audioaufnahmen und Fernerkundungsbildern ausgenutzt wird, wodurch der zeitaufwendige manuelle Annotation entfallen kann. Hierzu stellen wir den SoundingEarth-Datensatz vor, der aus räumlich ko-lokalisierten Luftbildern und Audioaufnahmen weltweit besteht. Unter Verwendung dieses Datensatzes pre-trainieren wir ResNet-Modelle, um Proben aus beiden Modalitäten in einen gemeinsamen Embedding-Raum abzubilden, wodurch die Modelle dazu angeregt werden, zentrale Eigenschaften einer Szene zu erkennen, die sowohl das visuelle als auch das akustische Erscheinungsbild beeinflussen. Zur Validierung der Wirksamkeit des vorgeschlagenen Ansatzes evaluieren wir die Transfer-Lernleistung der vortrainierten Gewichte im Vergleich zu Gewichten, die auf anderen Wegen erzielt wurden. Durch Feinabstimmung der Modelle auf mehreren gängigen Fernerkundungs-Datensätzen zeigen wir, dass unser Ansatz bestehende Vortrainierungsstrategien für Fernerkundungsbilder übertrifft. Der Datensatz, der zugehörige Code sowie die vortrainierten Modellgewichte werden unter https://github.com/khdlr/SoundingEarth verfügbar gemacht.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp