Kontextbewusste Kompilierung von DNN-Trainingspipelines über Edge und Cloud

Durch maschinelles Lernen werden Edge-Geräte wie Smartphones, Wearables und IoT-Geräte zunehmend intelligent, was jedoch Konflikte mit den begrenzten Ressourcen aufwirft. Die On-Device-Modellpersonalisierung ist dabei besonders herausfordernd, da das Training von Modellen auf Edge-Geräten äußerst ressourcenintensiv ist. In dieser Arbeit präsentieren wir einen neuartigen Trainingspipeline-Ansatz, der Edge- und Cloud-Ressourcen nahtlos kombiniert, wobei die leistungsstarken Fähigkeiten der Cloud genutzt werden, während die Daten lokal am Edge verbleiben. Zu den zentralen Merkmalen dieses Designs gehören die parallele Ausführung durch unsere Feature-Replay-Technik, die Reduktion der Kommunikationskosten mittels fehlerkorrigierter Feature-Kompression sowie ein kontextbewusstes Entscheidungsmodul zur Bereitstellung. Als integriertes System beschleunigt der vorgeschlagene Trainingsframework die Modellentwicklung erheblich, ohne dabei signifikanten Genauigkeitsverlust oder zusätzlichen Speicher- oder Energieverbrauch zu verursachen. Wir testen unser System unter verschiedenen Bedingungen – inklusive WiFi, 5G, Haushalts-IoT-Netzwerken – sowie auf unterschiedlichen Aufgaben wie Bild- und Textklassifikation sowie Bildgenerierung, um dessen Vorteile gegenüber dem Stand der Technik zu demonstrieren. Experimentelle Ergebnisse zeigen, dass unser System nicht nur gut auf wechselnde Umgebungsbedingungen reagiert, sondern diese sogar gezielt nutzt, und somit eine praktikable und effiziente Lösung für das Edge-Cloud-Modelltraining darstellt.