Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
💰
LLM Economics

LLM Economics

Vergleiche Hardware, Modelle und Inferenz-Setups nach Betriebskosten, Tokenleistung und Gesamtbetriebskosten.

💸 Betriebskosten🖥️ TCO⚡ Token / Euro🔋 Token / kWh
Zurücksetzen

Einstellungen werden im Browser gespeichert und in der URL geteilt. Leistungsaufnahme ist mangels Messwert je Lauf als TDP-Summe (geschätzt) hinterlegt. Methodik →

GPU-Wirtschaftlichkeit

9 GPU-Konfigurationen

Aggregiert je Konfiguration (inkl. GPU-Anzahl) – Economics je Lauf berechnet, dann AVG/MIN/MAX. Zahl hinter der GPU = Läufe · Modelle.

GPU-Konfigurationen grafisch

NVIDIA GeForce RTX 3090 Ti
0,049 EUR
NVIDIA GB10 (DGX Spark)
0,067 EUR
AMD Radeon 8060S Graphics
0,11 EUR
NVIDIA GeForce RTX 5090
0,043 EUR
NVIDIA RTX PRO 6000 Blackwell Workstation Edition
0,048 EUR
NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition
1,53 EUR
3× AMD Radeon AI PRO R9700
0,33 EUR
3× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition
0,084 EUR
AMD Radeon AI PRO R9700
10,92 EUR

Balken je Konfiguration – umschaltbar zwischen Kosten je 1 Mio. Token, Token pro Euro und Durchsatz. Günstiger/schneller = längerer Balken.

#GPU-KonfigurationGen tok/s iKosten/h€ / 1 Mio. Tok iTok/€Tok/kWhTCODaten
1 NVIDIA GeForce RTX 3090 Tii24 GB VRAM · 999 EUR · 525 W TDP 389,9
8–902
0,16 EUR 0,049 EUR 20,61 Mio. 6,18 Mio. 2.759 EUR geschätzt (TDP)
2 NVIDIA GB10 (DGX Spark)i128 GB VRAM · kein Preis · 140 W TDP 86,6
32–174
0,042 EUR 0,067 EUR 14,93 Mio. 4,48 Mio. 736 EUR geschätzt (TDP)
3 AMD Radeon 8060S Graphicsikein Preis · 235 W TDP 67,3
7–173
0,070 EUR 0,11 EUR 8,85 Mio. 2,65 Mio. 1.235 EUR geschätzt (TDP)
4 NVIDIA GeForce RTX 5090i32 GB VRAM · 2.299 EUR · 717 W TDP 635,7
3–1.387
0,22 EUR 0,043 EUR 23,21 Mio. 6,96 Mio. 3.769 EUR geschätzt (TDP)
5 NVIDIA RTX PRO 6000 Blackwell Workstation Editioni96 GB VRAM · 8.999 EUR · 830 W TDP 503,1
9–1.444
0,25 EUR 0,048 EUR 20,88 Mio. 6,26 Mio. 4.362 EUR geschätzt (TDP)
6 NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Editioni96 GB VRAM · 8.499 EUR · 530 W TDP 28,8
29–29
0,16 EUR 1,53 EUR 652,08 Tsd. 195,62 Tsd. 2.786 EUR geschätzt (TDP)
7 3× AMD Radeon AI PRO R9700i96 GB VRAM · 3.897 EUR · 1.330 W TDP 73,8
2–341
0,40 EUR 0,33 EUR 3,07 Mio. 921,68 Tsd. 6.990 EUR geschätzt (TDP)
8 3× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Editioni288 GB VRAM · 25.497 EUR · 1.250 W TDP 45,1
5–1.238
0,38 EUR 0,084 EUR 11,89 Mio. 3,57 Mio. 6.570 EUR geschätzt (TDP)
9 AMD Radeon AI PRO R9700i32 GB VRAM · 1.299 EUR · 730 W TDP 5,6
6–6
0,22 EUR 10,92 EUR 91,56 Tsd. 27,47 Tsd. 3.837 EUR geschätzt (TDP)

MIN = niedrigste Kosten (höchste Leistung / niedrigste Aufnahme), MAX = höchste Kosten. Jede Kostenkennzahl ist an einen realen Lauf gebunden (erst je Lauf gerechnet, dann aggregiert). Preise = GPU-Anschaffung (Einzelpreis × Anzahl).