AWS stellt Trainium3 UltraServers mit 3nm-Chip vor – schnelleres und kostengünstigeres Training von KI-Modellen
Amazon Web Services (AWS) hat mit der allgemeinen Verfügbarkeit von Trainium3 UltraServers eine bedeutende Neuerung im Bereich der Künstlichen Intelligenz (KI) angekündigt. Die neuen Server, die auf dem ersten 3-Nanometer-KI-Chip von AWS, dem Trainium3, basieren, sollen Unternehmen aller Größenordnungen ermöglichen, anspruchsvolle KI-Training- und Inferenzarbeiten schneller und kosteneffizienter durchzuführen. Die Ankündigung erfolgte auf der AWS re:Invent-Konferenz in Las Vegas und markiert einen Meilenstein in der Entwicklung von spezialisierten KI-Hardware. Trainium3 UltraServers bieten bis zu 4,4-mal mehr Rechenleistung, 4-mal höhere Energieeffizienz und fast viermal mehr Speicherbandbreite im Vergleich zu den vorherigen Trainium2 UltraServers. Mit einer Skalierung von bis zu 144 Trainium3-Chips erreichen sie eine Spitzenleistung von bis zu 362 FP8-PFLOPs und senken die Latenz um das Vierfache. Dies ermöglicht die schnelle Entwicklung großer KI-Modelle und die effiziente Bereitstellung von Inferenzdiensten in großem Maßstab. Kunden wie Anthropic, Karakuri, Metagenomi, NetoAI, Ricoh und Splash Music berichten bereits von Kosteneinsparungen von bis zu 50 % bei Training und Inferenz. Besonders eindrucksvoll ist die Leistung von Decart, das mit Trainium3 eine viermal schnellere Inferenz für Echtzeit-Generativvideo-Content erreicht – und das zu nur der Hälfte der Kosten im Vergleich zu herkömmlichen GPUs. Zudem nutzt bereits Amazon Bedrock Produktionsworkloads auf Trainium3, was die Reife und Stabilität der Technologie unterstreicht. Die Einführung der Trainium3-Ultra-Server ist Teil von AWS’ strategischer Ausrichtung auf die Entwicklung eigener, maßgeschneiderter Chips, um die Leistung, Effizienz und Kostenstruktur von KI-Infrastrukturen zu optimieren. Durch die Kombination aus fortschrittlicher Hardware und einer umfassenden Cloud-Infrastruktur bietet AWS Unternehmen eine einzigartige Plattform, um innovative KI-Anwendungen zu entwickeln und zu skalieren. Industrieexperten begrüßen die Entwicklung als wichtigen Schritt hin zu einer dezentralisierten und kostengünstigen KI-Infrastruktur. Die 3-Nanometer-Technologie ermöglicht nicht nur höhere Leistung, sondern auch eine nachhaltigere Nutzung von Ressourcen, was für Unternehmen mit hohen Energiekosten von besonderem Vorteil ist. AWS positioniert sich damit weiterhin als führender Anbieter im Bereich generativer KI und Cloud-Computing. Mit einer weltweiten Infrastruktur und einem breiten Portfolio an KI-Diensten bleibt AWS ein entscheidender Treiber für Innovation – besonders für Start-ups und etablierte Unternehmen, die ihre digitalen Transformationen beschleunigen wollen.
