Wentao Zhang Yang Young Lu Yuntian Deng

Abstract

Die klassische Trainingsmethode für neuronale Netze folgt typischerweise festgelegten, vordefinierten Optimierungsverfahren und verfügt über keine Flexibilität, um dynamisch auf Instabilitäten oder auftretende Probleme während des Trainings zu reagieren. In diesem Paper stellen wir „Interactive Training“ vor, einen Open-Source-Framework, der es menschlichen Experten oder automatisierten KI-Agenten ermöglicht, in Echtzeit und auf Basis von Rückmeldungen in den Trainingsprozess einzugreifen. Im Kern nutzt Interactive Training einen Steuerungs-Server, der die Kommunikation zwischen Nutzern oder Agenten und dem laufenden Trainingsprozess vermittelt und Nutzern die dynamische Anpassung von Optimierer-Hyperparametern, Trainingsdaten sowie Modell-Checkpoint-Dateien erlaubt. Anhand dreier Fallstudien zeigen wir, dass Interactive Training eine verbesserte Trainingsstabilität, geringere Empfindlichkeit gegenüber anfänglichen Hyperparametern sowie eine höhere Anpassungsfähigkeit an sich verändernde Nutzeranforderungen ermöglicht und somit den Weg für eine zukünftige Trainingsparadigma ebnet, in dem KI-Agenten die Trainingsprotokolle autonom überwachen, Instabilitäten proaktiv beheben und die Trainingsdynamik optimieren.