Unabhaengige LLM Benchmarks

💰

LLM Economics

Vergleiche Hardware, Modelle und Inferenz-Setups nach Betriebskosten, Tokenleistung und Gesamtbetriebskosten.

💸 Betriebskosten🖥️ TCO⚡ Token / Euro🔋 Token / kWh

📊 Übersicht 🎮 GPU-Vergleich 🧠 Modelle ⚖️ Vergleich 📚 Methodik

Einstellungen werden im Browser gespeichert und in der URL geteilt. Leistungsaufnahme ist mangels Messwert je Lauf aus GPU-TDP × Anzahl (geschätzt) hinterlegt. Methodik →

GPU-Wirtschaftlichkeit

9 GPU-Konfigurationen

Aggregiert je Konfiguration (inkl. GPU-Anzahl) – Economics je Lauf berechnet, dann AVG/MIN/MAX. Zahl hinter der GPU = Läufe · Modelle.

GPUnach Grafikkarte

NVIDIA RTX PRO 6000 Blackwell Workstation Edition 1.443,9 tok/sNVIDIA GeForce RTX 5090 1.386,8 tok/sNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition 1.238,3 tok/sNVIDIA GeForce RTX 3090 Ti 901,9 tok/sAMD Radeon AI PRO R9700 340,5 tok/sNVIDIA GB10 (DGX Spark) 174,2 tok/sAMD Radeon 8060S Graphics 173,3 tok/s

GPU-Konfigurationen grafisch

NVIDIA GeForce RTX 3090 Ti

0,042 EUR

AMD Radeon 8060S Graphics

0,058 EUR

NVIDIA GB10 (DGX Spark)

0,067 EUR

NVIDIA RTX PRO 6000 Blackwell Workstation Edition

0,035 EUR

NVIDIA GeForce RTX 5090

0,035 EUR

NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition

0,87 EUR

3× AMD Radeon AI PRO R9700

0,22 EUR

3× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition

0,061 EUR

AMD Radeon AI PRO R9700

4,49 EUR

Balken je Konfiguration – umschaltbar zwischen Kosten je 1 Mio. Token, Token pro Euro und Durchsatz. Günstiger/schneller = längerer Balken.

Auf 2 Jahre gerechnet

Hochrechnung je GPU-Konfiguration für den eingestellten Zeitraum: Stromkosten und generierte Output-Token (AVG je Lauf × effektive Betriebsstunden). Zeitraum/Auslastung oben anpassbar.

Kosten vs. generierte Token (2 Jahre)

Kosten über 2 Jahre

Generierte Token über 2 Jahre

Kosten & Token wachsen linear mit der Laufzeit. Leistung aus GPU-TDP × Anzahl geschätzt.

#	GPU-Konfiguration	Gen tok/s i	Kosten/h	€ / 1 Mio. Tok i	Tok/€	Tok/kWh	TCO	Daten
1	NVIDIA GeForce RTX 3090 Tii24 GB VRAM · 999 EUR · 450 W TDP	389,9 8–902	0,14 EUR	0,042 EUR	24,05 Mio.	7,21 Mio.	2.365 EUR	geschätzt (TDP)
2	AMD Radeon 8060S Graphicsikein Preis · 120 W TDP	67,3 7–173	0,036 EUR	0,058 EUR	17,33 Mio.	5,20 Mio.	631 EUR	geschätzt (TDP)
3	NVIDIA GB10 (DGX Spark)i128 GB VRAM · kein Preis · 140 W TDP	86,6 32–174	0,042 EUR	0,067 EUR	14,93 Mio.	4,48 Mio.	736 EUR	geschätzt (TDP)
4	NVIDIA RTX PRO 6000 Blackwell Workstation Editioni96 GB VRAM · 8.999 EUR · 600 W TDP	503,1 9–1.444	0,18 EUR	0,035 EUR	28,88 Mio.	8,66 Mio.	3.154 EUR	geschätzt (TDP)
5	NVIDIA GeForce RTX 5090i32 GB VRAM · 2.299 EUR · 575 W TDP	635,7 3–1.387	0,17 EUR	0,035 EUR	28,94 Mio.	8,68 Mio.	3.022 EUR	geschätzt (TDP)
6	NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Editioni96 GB VRAM · 8.499 EUR · 300 W TDP	28,8 29–29	0,090 EUR	0,87 EUR	1,15 Mio.	345,60 Tsd.	1.577 EUR	geschätzt (TDP)
7	3× AMD Radeon AI PRO R9700i96 GB VRAM · 3.897 EUR · 900 W TDP	73,8 2–341	0,27 EUR	0,22 EUR	4,54 Mio.	1,36 Mio.	4.730 EUR	geschätzt (TDP)
8	3× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Editioni288 GB VRAM · 25.497 EUR · 900 W TDP	45,1 5–1.238	0,27 EUR	0,061 EUR	16,51 Mio.	4,95 Mio.	4.730 EUR	geschätzt (TDP)
9	AMD Radeon AI PRO R9700i32 GB VRAM · 1.299 EUR · 300 W TDP	5,6 6–6	0,090 EUR	4,49 EUR	222,80 Tsd.	66,84 Tsd.	1.577 EUR	geschätzt (TDP)

MIN = niedrigste Kosten (höchste Leistung / niedrigste Aufnahme), MAX = höchste Kosten. Jede Kostenkennzahl ist an einen realen Lauf gebunden (erst je Lauf gerechnet, dann aggregiert). Preise = GPU-Anschaffung (Einzelpreis × Anzahl).