DAS: Densely-Anchored Sampling für Deep Metric Learning

Deep Metric Learning (DML) dient dazu, eine Embedding-Funktion zu lernen, die semantisch ähnliche Daten in der Nähe im Embedding-Raum abbildet, und spielt eine entscheidende Rolle in zahlreichen Anwendungen wie der Bildretrieval und Gesichtserkennung. Allerdings hängt die Leistung von DML-Methoden oft stark von den Sampling-Verfahren ab, die effektive Daten aus dem Embedding-Raum während des Trainings auswählen. In der Praxis werden die Embeddings im Embedding-Raum durch tiefgehende Modelle erzeugt, wobei der Embedding-Raum häufig „leere Bereiche“ aufweist, da keine Trainingspunkte vorhanden sind – ein Phänomen, das als „missing embedding“-Problem bekannt ist. Dieses Problem kann die Qualität der Stichproben beeinträchtigen und somit zu einer Degradierung der DML-Leistung führen. In dieser Arbeit untersuchen wir, wie das „missing embedding“-Problem gemildert werden kann, um die Stichprobenqualität zu verbessern und effektives DML zu erreichen. Dazu schlagen wir ein Densely-Anchored Sampling (DAS)-Verfahren vor, das Embeddings, die zu Datenpunkten gehören, als „Anchor“ betrachtet und den nahen Umgebungsbereich dieser Anchor-Embeddings nutzt, um dicht verteilt neue Embeddings ohne zugehörige Datenpunkte zu erzeugen. Konkret schlagen wir vor, den Embedding-Raum um einen einzelnen Anchor mittels Discriminative Feature Scaling (DFS) und um mehrere Anchors mittels Memorized Transformation Shifting (MTS) auszunutzen. Auf diese Weise können durch die Kombination von Embeddings mit und ohne Datenpunkte zusätzliche Embeddings bereitgestellt werden, was den Stichprozess unterstützen und die Leistung von DML verbessern kann. Unser Ansatz lässt sich nahtlos in bestehende DML-Frameworks integrieren und verbessert diese ohne zusätzliche Komplexität. Umfangreiche Experimente auf drei Benchmark-Datensätzen belegen die Überlegenheit unseres Verfahrens.