Forschende der Korea Advanced Institute of Science and Technology (KAIST) haben ein neues Trainingsverfahren namens Buffer-and-Reinforce entwickelt, das die sichere Personalisierung von Sprachmodellen erheblich voranbringt. Unter der Leitung von Professor Changick Kim und mit Erstautor Seokil Ham wird die Arbeit auf der International Conference on Machine Learning (ICML) 2026 vorgestellt. Das Verfahren adressiert ein zentrales Problem der personalisierten Künstlichen Intelligenz: Während das Feintunen großer Sprachmodelle auf individuelle oder unternehmensspezifische Daten die Leistung in spezifischen Aufgaben verbessert, schwächt dieser Prozess häufig die bereits integrierten Sicherheitsmechanismen. Das KAIST-Team umging dieses Dilemma durch einen innovativen zweistufigen Ansatz, der auf der Erkenntnis basiert, dass ein vorübergehend deaktivierter Sicherheitsstatus das Modell weniger anfällig für schädliche Einflüsse macht, während es neue Kompetenzen erwirbt. Im ersten Schritt wird während des Feintunings die temporäre Pufferkomponente BufferLoRA eingesetzt. Diese wirkt als Schutzschicht, die verhindert, dass schädliche Trainingsdaten direkt in die Parameter des Basismodells einfließen, gleichzeitig aber das Erlernen der gewünschten Nutzeraufgaben ermöglicht. Nach Abschluss des Trainings wird BufferLoRA entfernt. Im zweiten Schritt kommt die Sicherheitsverstärkungsmodul ReinforceLoRA zum Einsatz. Unter Anwendung der QR-Zerlegung, eines mathematischen Verfahrens zur Trennung unterschiedlicher Informationskomponenten, können so nur die notwendigen Sicherheitsaspekte selektiv wiederhergestellt und gestärkt werden. Das Verfahren stellt sicher, dass das Modell die individuellen Funktionalitäten beibehält, ohne dabei Sicherheitslücken zu öffnen. In den durchgeführten Experimenten bewährte sich der Ansatz unter extremen Bedingungen: Selbst wenn sämtliche Trainingsdaten schädliche Anfragen enthielten, sank die Rate unzulässiger Modellausgaben nach dem Feintuning auf etwa acht Prozent und lag damit deutlich unter den rund achtzehn Prozent des unangepassten Originalmodells. Ein weiterer Vorteil liegt in der Effizienz: Das Framework erfordert weder zusätzliche Sicherheitsdaten während des Trainings noch eine signifikante Erhöhung des Rechenaufwands, was den Einsatz in realen Umgebungen praktisch macht. Professor Changick Kim betonte, dass die Forschung eine wesentliche Grundlage für den sicheren Aufbau kundenspezifischer KI-Systeme aus eigenen Daten darstellt. Mit dem Buffer-and-Reinforce-Verfahren soll ein vertrauenswürdigeres Umfeld für personalisierte KI-Dienste und autonome KI-Agenten geschaffen werden, die sowohl leistungsfähig als auch nachweislich sicher arbeiten.