AMD kauft Taalas für KI-Chips mit festgeätzten Gewichten
AMD hat den Erwerb des Torontoer KI-Chip-Startups Taalas bekannt gegeben, um die Inferenzleistung seiner KI-Hardwarestrategie signifikant zu steigern. Die Transaktion, die zum Börsenschluss Donnerstag bekannt wurde, zielt darauf ab, Nvidia auf dem Markt für leistungsfähige KI-Inferenzdienste herauszufordern. Taalas verfolgt einen fundamental anderen Hardwareansatz als traditionelle GPUs oder Dataflow-Architekturen. Statt Hochbandbreitspeicher wie HBM zu nutzen, werden die Modellgewichte direkt in das Silizium geätzt. Die Chips fungieren als modellspezifische integrierte Schaltungen, die aus einem Mask-ROM-Erinnerungsverbund für die Gewichte und einem SRAM-Bereich für KV-Caches und Fine-Tuning-Adapter bestehen. Die Technologie ist bereits in der Praxis validiert. Das im Februar vorgestellte Test-Chip-Modell HC1 auf 6-Nanometer-Prozess von TSMC beschleunigte Meta Llama 3.1 um ein Vielfaches gegenüber etablierten GPU- und Wafer-Scal-Lösungen. Mit der zweiten Generation HC2, die noch in diesem Jahr mit 20 Milliarden Parametern folgen soll, plant Taalas die Skalierung auf größere Modelle durch Pipeline-Parallelität. Für AMD bedeutet dies eine hohe Effizienz: Ein Trillionen-Parameter-Modell ließe sich mit lediglich fünfzig solcher Beschleuniger bedienen, was deutlich weniger Platz und Energie benötigt als vergleichbare GPU-Cluster. Strategisch wird Taalas in die AMD-Instinct-Plattform integriert. Es wird erwartet, dass AMD eine disaggregierte Architektur implementiert, bei der Instinct-GPUs die rechenintensive Prompt-Verarbeitung übernehmen, während die Token-Generierung an die Taalas-Beschleuniger delegiert wird. Alternativ könnten Kunden Modelle zunächst auf standardisierten Instinct-Chips validieren und im Produktionsbetrieb auf die spezialisierte Hardware umstellen. Diese Spezialisierung bringt jedoch eine Einschränkung mit sich: Da die Gewichte fest im Silizium verankert sind, erfordert ein Modellwechsel einen Respin der Chips. Taalas betont jedoch, dass hierfür lediglich zwei Metallschichten angepasst werden müssen, was den Prozess deutlich kostengünstiger und zeiteffizienter macht als eine Neuentwicklung. Die Technologie ist primär für große Modellentwickler, Rechenzentrumsbetreiber und spezialisierte Inferenzanbieter konzipiert, wobei AMD bereits enge Partnerschaften mit führenden KI-Herstellern pflegt. Die beschleunigte Inferenz ermöglicht zudem neue Entwicklungsansätze. Sinkende Kosten und höhere Ausgaberaten könnten die Anwendung von Test-Time Scaling fördern, bei dem Modelle durch längere Denkphasen ihre Genauigkeit steigern. Die Übernahme unterliegt noch der behördlichen Genehmigung und ist für das vierte Quartal geplant. Mit dieser Investition positioniert sich AMD systematisch als Full-Stack-Anbieter, der workload-spezifische Hardwarelösungen zur Stabilisierung und Effizienzsteigerung im wettbewerbsintensiven KI-Markt bereitstellt.
