Angesichts anhaltend hoher Preise für speicherintensive Grafikkarten und des wachsenden Bedarfs an lokaler Inferenz für Large Language Models setzt sich ein Praxis-Trend durch: die Nachrüstung von Enterprise-Hardware in Consumer-Systemen. Der Tech-Enthusiast Oscar Molnar demonstriert dies mit einem speziell angepassten PC, der dank einer zweiten Grafikkarte auf insgesamt 32 Gigabyte VRAM kommt und für unter 266 US-Dollar realisiert wurde. Basis des Aufbaus bildet die bestehende RTX 4080 mit 16 GB VRAM. Zur Erweiterung wurde eine gebrauchte Nvidia Tesla V100 SXM2 mit 16 GB HBM2-Grafikspeicher beschafft, die aktuell auf dem internationalen Gebrauchtmarkt bereits ab etwa 140 US-Dollar erhältlich ist. Da die Enterprise-Karte ursprünglich für Server-Slots konzipiert ist, kam ein speziell angefertigter SXM2-zu-PCIe-Adapter zum Einsatz, um die Hardware an ein Standard-Mainboard anzubinden. Der Kaufpreis für diese Schnittstelle belief sich auf etwa 66 US-Dollar. Ein zentrales Hindernis bei der Integration stellte die industrielle Kühlung dar. Der werkseitige Lüfter der V100 erzeugt im Vollastbetrieb Lärmpegel von bis zu 82 Dezibel, was einem Rasenmäher entspricht. Molnar umging das Problem durch eine manuelle PWM-Modifikation: Die Lüfterleitung wurde auf den Motherboard-Anschluss umgebogen und auf eine Drehzahl von zehn Prozent heruntergeregelt. Bei dieser Konfiguration bleibt die GPU auch unter voller Auslastung stabil unter 50 Grad Celsius, während die akustische Belastung auf ein nutzbares Maß sinkt. Für die Software-Integration kam NixOS zum Einsatz, kombiniert mit einem Legacy-Treiber von Nvidia, der die gleichzeitige Nutzung der alten Volta-Architektur der V100 und der neueren Ada-Architektur der RTX 4080 ermöglichte. Die Konfiguration der kombinierten VRAM-Ressourcen zur Laufzeit erwies sich als unkompliziert. In der Praxis zeigte sich eine deutliche Leistungssteigerung: Ein Sprachmodell mit 27 Milliarden Parametern ließ sich nahtlos auf dem modifizierten System ausführen. Die Generierungsrate liegt bei rund 32 Tokens pro Sekunde, was für eine interaktive Nutzung mehr als ausreichend ist und viele kommerzielle Cloud-APIs im Bereich der lokalen Inferenz übertrifft. Das Projekt unterstreicht, dass sich die wachsenden Anforderungen der KI-Entwicklung im Consumer-Segment durch kreative Hardware-Umrüstung wirtschaftlich lösen lassen. Insbesondere angesichts der aktuellen Marktlage für VRAM-sensible Komponenten bietet die Nachrüstung von Enterprise-GPUs mit angepasster Kühlung eine praxisnahe und kosteneffiziente Alternative, die lokale KI-Inferenz für Privatnutzer und Kleinprojekte deutlich zugänglicher macht.