HyperAIHyperAI

Command Palette

Search for a command to run...

Kontextbewusste Kompilierung von DNN-Trainingspipelines über Edge und Cloud

Xinbing Wang Chao Li Jiayu Xu Zifan Wang Liyao Xiang Dixi Yao

Zusammenfassung

Durch maschinelles Lernen werden Edge-Geräte wie Smartphones, Wearables und IoT-Geräte zunehmend intelligent, was jedoch Konflikte mit den begrenzten Ressourcen aufwirft. Die On-Device-Modellpersonalisierung ist dabei besonders herausfordernd, da das Training von Modellen auf Edge-Geräten äußerst ressourcenintensiv ist. In dieser Arbeit präsentieren wir einen neuartigen Trainingspipeline-Ansatz, der Edge- und Cloud-Ressourcen nahtlos kombiniert, wobei die leistungsstarken Fähigkeiten der Cloud genutzt werden, während die Daten lokal am Edge verbleiben. Zu den zentralen Merkmalen dieses Designs gehören die parallele Ausführung durch unsere Feature-Replay-Technik, die Reduktion der Kommunikationskosten mittels fehlerkorrigierter Feature-Kompression sowie ein kontextbewusstes Entscheidungsmodul zur Bereitstellung. Als integriertes System beschleunigt der vorgeschlagene Trainingsframework die Modellentwicklung erheblich, ohne dabei signifikanten Genauigkeitsverlust oder zusätzlichen Speicher- oder Energieverbrauch zu verursachen. Wir testen unser System unter verschiedenen Bedingungen – inklusive WiFi, 5G, Haushalts-IoT-Netzwerken – sowie auf unterschiedlichen Aufgaben wie Bild- und Textklassifikation sowie Bildgenerierung, um dessen Vorteile gegenüber dem Stand der Technik zu demonstrieren. Experimentelle Ergebnisse zeigen, dass unser System nicht nur gut auf wechselnde Umgebungsbedingungen reagiert, sondern diese sogar gezielt nutzt, und somit eine praktikable und effiziente Lösung für das Edge-Cloud-Modelltraining darstellt.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp