Im Kontext der Vereinbarung über eine fünf Milliarden US-Dollar umfassende Investition zwischen Amazon und OpenAI wurde ein TechCrunch-Journalist eingeladen, das Trainium-Chip-Forschungslabor von Amazon in Austin zu besichtigen. Dieses Labor ist eine Schlüsselbasis für AWS im Kampf gegen die Monopolstellung von Nvidia sowie zur Senkung der Kosten für KI-Training und -Inferenz. Die Trainium-Chips genießen derzeit hohe Anerkennung bei Anthropic, OpenAI und sogar Apple; so läuft bereits das Claude-Modell von Anthropic auf mehr als einer Million Trainium-2-Chips. Der Kern dieser Zusammenarbeit liegt darin, dass Amazon OpenAI Rechenleistung aus bis zu zwei Gigawatt Trainium bereitstellt. Trotz angespannter Produktionskapazitäten erobert Trainium dank seiner deutlichen Vorteile bei Leistung und Kosten schnell den Markt. Der neueste Trainium-3-Chip kombiniert mit dem neuen Neuron-Switch ermöglicht effiziente Interconnects zwischen Chips und senkt unter gleichen Leistungsbedingungen die Betriebskosten gegenüber herkömmlichen Cloud-Lösungen um etwa 50%. Noch entscheidender ist, dass Trainium nun gängige Open-Source-Frameworks wie PyTorch unterstützt; Entwickler benötigen nur minimale Codeanpassungen für die Migration, was die Einstiegshürden erheblich reduziert. Neben den Chips selbst hat Amazon auch zugehörige Serverkomponenten entwickelt, darunter Flüssigkühltechnik und die Virtualisierungsplattform Nitro, um Energieeffizienz und Performance weiter zu optimieren. Im „Start"-Stadium des Chips führt das Team hochintensive ingenieurtechnische Validierungen durch, wobei Probleme wie Wärmeabfuhr und Verbindungsqualität vor Ort durch Löten und Tests gelöst werden. Einer der weltweit größten KI-Rechencluster, „Project Rainier", verfügt mittlerweile über 500.000 Trainium-2-Chips und dient ausschließlich Anthropic. Obwohl die Beteiligung von OpenAI große Aufmerksamkeit genießt, konzentriert sich das Ingenieurssteam aktuell weiterhin auf Anthropic und interne Dienste von Amazon und arbeitet gleichzeitig an der Entwicklung eines Trainium-4-Chips. Amazons CEO Andy Jassy hegt große Erwartungen an diese geschäftliche Sparte eigener Chipentwicklung und betrachtet sie als zukünftigen Wachstumsmotor für AWS. Mit der flächendeckenden Einführung von Trainium sowohl im Training als auch in der Inferenz versucht Amazon, durch vertikal integrierte Hardwarelösungen die Landschaft der KI-Infrastruktur neu zu gestalten.