Cerebras präsentiert Inference-Modellkatalog
Cerebras Inference erweitert sein öffentliches Modellanalytics mit einer klaren technischen Ausrichtung auf Performance und Transparenz. Die Plattform bietet derzeit zwei große Sprachmodelle im kostenpflichtigen und kostenfreien Testmodus an. Das OpenAI GPT OSS mit 120 Milliarden Parametern erreicht eine Tokenrate von etwa 3000 und unterstützt Kontextfenster von bis zu 131.000 Token. Ergänzend ist das Qwen 3.8 27B mit 27 Milliarden Parametern, rund 1500 Token pro Sekunde und Kontextlängen bis 128.000 Token verfügbar. Für Unternehmenskunden bietet Cerebras dedizierte Endpunkte mit reservierter Kapazität, höherem Durchsatz und garantierten Service-Level-Agreements an. Ein zentrales technisches Versprechen der Plattform ist die Beibehaltung der ursprünglichen Modellarchitekturen ohne nachträgliche Beschneidung. Cerebras stellt auf seinen öffentlichen Endpunkten ausschließlich unkomprimierte Originalversionen bereit. Zwar werden Gewichte zur Speicherung selektiv und gewichtsbasiert in teils 16-, 8- oder 4-Bit-Formaten komprimiert, was Industriestandards entspricht, doch sensiblere Netzwerkschichten bleiben in voller Genauigkeit. Diese werden bei Bedarf in Echtzeit dequantisiert. Aktivierungen, Aufmerksamkeitsmechanismen und der KV-Speicher verlaufen durchgängig in voller Precision, um maximale inference-Qualität zu gewährleisten. Derzeitige Forschungsinitiativen, darunter das Router-weighted Expert Activation Pruning, bleiben auf Experimentierplattformen wie Hugging Face beschränkt. Cerebras kündigt an, künftige Optimierungen durch Pruning nicht in die bestehenden Produktions-APIs zu integrieren, sondern stets als klar getrennte Endpunkte anzubieten. Dies soll garantierte Transparenz ermöglichen und Kunden die freie Wahl der geeigneten Modellversion sichern. Architekturänderungen am bestehenden Portfolio werden ohne Vorankündigung ausgeschlossen. Die Plattform positioniert sich damit als stabilere, qualitativ hochwertige Inferenzumgebung für Open-Source-Modelle, die Skalierbarkeit und technische Zuverlässigkeit priorisiert.
