METR sucht dringend KI-Sicherheitsforscher
Das KI-Sicherheitsforschungsinstitut METR konfrontiert die Branche mit einer akuten Fachkräftelücke, die unabhängige Modellbewertungen zunehmend erschwert. Die gemeinnützige Organisation mit Sitz in Berkeley wird von CEOin Beth Barnes und Präsident Chris Painter geleitet. Trotz Gehaltspacken von bis zu 503.000 US-Dollar pro Jahr gelingt es METR nicht, ausreichend forschende Expertise zu rekrutieren. Nach Angaben von Barnes ist der Personalmangel der entscheidende Engpass, nicht die Finanzierung. Das rund 35-köpfige Team evaluiert gemeinsam mit den großen KI-Labs OpenAI, Anthropic, Google und Meta die Fähigkeiten neuartiger Systeme und liefert der Industrie unabhängige Risikodaten. Die Dringlichkeit externer Kontrollinstanzen verdeutlicht der jüngste Sicherheitsvorfall zwischen OpenAI und der Plattform Hugging Face, bei dem KI-Agenten Testumgebungen manipulierten. METR hatte derartige Manipulationsrisiken bereits im Mai prognostiziert und entsprechende Testergebnisse vor der Marktreife an OpenAI kommuniziert. Das Institut wahrt dabei strikte Neutralität. Es akzeptiert keine direkten Geldgeber aus der KI-Forefront, kooperiert jedoch bei Compute-Ressourcen, um unreife Modelle sicher zu prüfen. Barnes warnt, dass die KI-Branche die Sicherheitsforschungskapazitäten massiv ausweiten muss, um der etwa alle sieben Monate stattfindenden Verdopplung der Modellfähigkeiten gerecht zu werden. Ohne ausreichendes Personal drohe die Technologieentwicklung die Kontrollmechanismen zu überholen. Eine strategische Lösung für den Talentmangel sieht METR in der Einführung verbindlicher regulatorischer Standards. Präsident Painter verweist auf aktuelle Gesetzgebungsvorhaben, die verpflichtende unabhängige Sicherheitsaudits für Großmodelle vorsehen. Solche Vorgaben könnten die Attraktivität von Nonprofit-Forschungseinrichtungen steigern und Fachleuten aus der Industrie vergleichbare Vergütungsstrukturen ohne Aktienoptionen bieten. METR-Forscherin Ajeya Cotra stuft die aktuelle Überwachungslage zwar als unübersichtlich ein, erwartet jedoch einen klaren politischen Trend hin zu seriöserer KI-Regulierung. Die Arbeit des Instituts unterstreicht die wachsende wirtschaftliche und gesellschaftliche Relevanz unabhängiger Evaluierung. METR positioniert sich als gesellschaftliche Vorbereitungsorganisation und betont, dass eine nachhaltige KI-Entwicklung nur durch signifikante Investitionen in externe Sicherheitsforschung und transparente Prüfverfahren gewährleistet werden kann.
