Datensatz-Distillierung

Dataset-Distillation bezieht sich auf die Erstellung eines kleineren Datensatzes, sodass ein Modell, das auf diesem kleineren, verdichteten Datensatz trainiert wird, hohe Leistung auf dem ursprünglichen großen Datensatz erzielen kann. Der Algorithmus nimmt einen großen echten Datensatz als Eingabe, gibt einen kleinen synthetischen verdichteten Datensatz als Ausgabe und bewertet die Leistung des Modells durch dessen Testen auf einem unabhängigen echten Datensatz. Ein exzellenter verdichteter Datensatz unterstützt nicht nur das Verständnis des Datensatzes, sondern hat auch weitreichende Anwendungen in Bereichen wie kontinuierliches Lernen, Datenschutz und Suche nach neuronalen Architekturen.