Base Labs, Hugging Face starten KI-Sicherheitskooperation

Baseten hat mit seiner Forschungssparte Base Labs gemeinsam mit Hugging Face und Goodfire AI eine Partnerschaft ins Leben gerichtet, die auf die Entwicklung einer offenen Sicherheitsinfrastruktur für Open-Weight-Modelle abzielt. Das Vorhaben wurde in der laufenden Woche vorgestellt und soll einen neuen Standard für Sicherheit und Überwachung etablieren, der direkt in den Trainings- und Bereitstellungsprozess integrierter Modelle verankert ist, anstatt als nachträglicher Zusatz zu fungieren. Der Schritt erfolgt vor dem Hintergrund anhaltender Debatten um die Sicherheit offener KI-Modelle. Ein zentrales Problem stellt dabei die Methode der sogenannten Abliteration dar, bei der nachträgliche Sicherheitsbeschränkungen entfernt werden, um Modelle für ungewünschte Zwecke nutzbar zu machen. Auf der Modell-Plattform von Hugging Face sind derzeit mehr als sechstausend derart manipulierter Modelle gelistet. Baseten positioniert die neue Initiative als Antwort auf diese Herausforderung und betont, dass Transparenz und Offenheit Sicherheitsforschung förderten. Durch die offene Architektur ließen sich Verhaltensweisen von Modellen besser nachvollziehen und Sicherheitsmaßnahmen in konkrete, überprüfbare Kontrollmechanismen umsetzen. Technisch übernimmt Goodfire AI, das sich auf die Interpretierbarkeit von KI-Entscheidungen spezialisiert hat, die Entwicklung der in den Modellkern integrierten Sicherheitskomponenten. Baseten stellt als Inferenz-Dienstleister die Infrastruktur für Monitoring und Evaluation bereit, während Hugging Face als zentrale Plattform für die Verteilung und Überprüfung dient. Die wirtschaftliche Tragfähigkeit des Vorhabens wird durch die aktuelle Marktpositionierung untermauert: Baseten wurde kürzlich mit dreizehn Milliarden US-Dollar bewertet, nachdem eine Finanzierungsrunde in Höhe von 1,5 Milliarden US-Dollar abgeschlossen wurde. Auch Goodfire AI sicherte sich im Verlauf des Jahres 150 Millionen US-Dollar in einer Series-B-Runde, um seine Interpretierbarkeitsplattform weiter auszubauen. Künftig ruft Baseten die gesamte Entwicklercommunity auf, am entstehenden Framework mitzuwirken. Das übergeordnete Ziel besteht darin, ein Ökosystem zu schaffen, das sowohl den Anforderungen an maximale Sicherheit als auch dem Bedarf an uneingeschränktem Zugang gerecht wird. Durch die Verknüpfung von Forschung, Infrastruktur und Open-Source-Community soll ein replicierbarer Weg aufgezeigt werden, wie KI-Modelle nicht nur leistungsstark, sondern auch von vornherein sicher und nachvollziehbar gestaltet werden können.