LLM Economics
Vergleiche Hardware, Modelle und Inferenz-Setups nach Betriebskosten, Tokenleistung und Gesamtbetriebskosten.
Einstellungen werden im Browser gespeichert und in der URL geteilt. Leistungsaufnahme mangels Messwert geschätzt aus GPU-TDP + CPU (Idle + 15 %) + Board. Methodik →
90 Modelle
Wirtschaftlichstes Setup je Modell. €/1 Mio. Token = Gesamtkosten je Kostenmodus (Strom bzw. + Anschaffung). Kein Qualitätsurteil. Zahl hinter dem Modell = Läufe · HW-Konfigurationen.
| # | Modell | Gen tok/s i | € / 1 Mio. Tok i | Tok/€ | Tok/kWh | günstigste HW |
|---|---|---|---|---|---|---|
| 1 | Kolibri-178.1BiAleph Alpha ↗ Quelle | 456,6 | 0,024 EUR | 41,78 Mio. | 12,53 Mio. | NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition |
| 2 | Llama-3.1-Nemotron-Nano-4B-v1.14.5BiNVIDIA ↗ Quelle | 283,4 | 0,073 EUR | 13,79 Mio. | 4,14 Mio. | AMD Radeon RX 7900 XTX |
| 3 | Nemotron-3-Nano-4B4BiNVIDIA ↗ Quelle | 596,4 | 0,022 EUR | 46,33 Mio. | 13,90 Mio. | NVIDIA GeForce RTX 5070 Ti |
| 4 | gemma-4-E4B-it8BiGoogle ↗ Quelle | 454,2 | 0,024 EUR | 41,90 Mio. | 12,57 Mio. | NVIDIA GeForce RTX 5070 Ti |
| 5 | NVIDIA-Nemotron-3.5-Super-VL-120B-A12B120BiNVIDIA ↗ Quelle | 445,0 | 0,016 EUR | 62,49 Mio. | 18,75 Mio. | NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition |
| 6 | gemma-4-26B-A4B-it-assistant26BiGoogle ↗ Quelle | 58,3 | 0,13 EUR | 7,45 Mio. | 2,24 Mio. | AMD Radeon 8060S Graphics |
| 7 | Llama-3.2-1B-Instruct1BiMeta ↗ Quelle | 388,1 | 0,084 EUR | 11,96 Mio. | 3,59 Mio. | 2× AMD Radeon RX 7900 XTX |
| 8 | Gemma-4-26B-A4B26BiGoogle ↗ Quelle | 155,4 | 0,12 EUR | 8,54 Mio. | 2,56 Mio. | NVIDIA RTX A6000 |
| 9 | Gemma-4-26B-A4B-it26BiGoogle ↗ Quelle | 392,6 | 0,026 EUR | 39,06 Mio. | 11,72 Mio. | NVIDIA GeForce RTX 5070 Ti |
| 10 | Ornith-1.5-35B-A3B35BiDeepReinforce ↗ Quelle | 305,9 | 0,089 EUR | 11,20 Mio. | 3,36 Mio. | 2× NVIDIA RTX A6000 |
| 11 | Qwen3-0.6B0.6BiQwen (Alibaba) ↗ Quelle | 309,5 | 0,045 EUR | 22,46 Mio. | 6,74 Mio. | AMD Radeon AI PRO R9700 |
| 12 | Ornith-1.0-9B9BiDeepReinforce ↗ Quelle | 339,0 | 0,023 EUR | 44,03 Mio. | 13,21 Mio. | NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition |
| 13 | Llama-3.2-3B-Instruct3BiMeta ↗ Quelle | 218,5 | 0,063 EUR | 15,89 Mio. | 4,77 Mio. | AMD Radeon AI PRO R9700 |
| 14 | Qwen3-1.7B1.7BiQwen (Alibaba) ↗ Quelle | 269,1 | 0,051 EUR | 19,71 Mio. | 5,91 Mio. | AMD Radeon AI PRO R9700 |
| 15 | Qwen2.5-3B-Instruct3BiQwen (Alibaba) ↗ Quelle | 208,7 | 0,069 EUR | 14,57 Mio. | 4,37 Mio. | AMD Radeon AI PRO R9700 |
| 16 | Meta-Llama-3.1-8B-Instruct8BiMeta ↗ Quelle | 324,6 | 0,028 EUR | 35,36 Mio. | 10,61 Mio. | NVIDIA GeForce RTX 5070 Ti |
| 17 | Laguna-XS-2.1iPoolside ↗ Quelle | 590,7 | 0,029 EUR | 34,08 Mio. | 10,22 Mio. | NVIDIA GeForce RTX 5090 |
| 18 | Nemotron-Cascade-2-30B-A3B30BiNVIDIA ↗ Quelle | 400,5 | 0,029 EUR | 34,99 Mio. | 10,50 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 19 | Ornith-1.5-9B9BiDeepReinforce ↗ Quelle | 223,1 | 0,12 EUR | 8,44 Mio. | 2,53 Mio. | 2× NVIDIA RTX A6000 |
| 20 | Huihui-Qwen3-VL-30B-A3B-Instruct-abliterated30BiQwen (Alibaba) ↗ Quelle | 158,2 | 0,11 EUR | 9,34 Mio. | 2,80 Mio. | AMD Radeon AI PRO R9700 |
| 21 | gemma-4-12B-it12BiGoogle ↗ Quelle | 265,2 | 0,029 EUR | 34,46 Mio. | 10,34 Mio. | NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition |
| 22 | Qwen2.5-7B-Instruct7BiQwen (Alibaba) ↗ Quelle | 179,7 | 0,100 EUR | 10,02 Mio. | 3,01 Mio. | AMD Radeon AI PRO R9700 |
| 23 | gemma-4-E2B-it5BiGoogle ↗ Quelle | 510,4 | 0,013 EUR | 77,43 Mio. | 23,23 Mio. | NVIDIA GB10 (DGX Spark) |
| 24 | SmolLM2-1.7B-Instruct1.7BiHuggingFaceTB ↗ Quelle | 314,2 | 0,11 EUR | 8,86 Mio. | 2,66 Mio. | 2× AMD Radeon RX 7900 XTX |
| 25 | Qwen3-4B4BiQwen (Alibaba) ↗ Quelle | 185,1 | 0,077 EUR | 13,01 Mio. | 3,90 Mio. | AMD Radeon AI PRO R9700 |
| 26 | gemma-3n-E4B-it8BiGoogle ↗ Quelle | 161,5 | 0,11 EUR | 8,98 Mio. | 2,69 Mio. | AMD Radeon RX 7900 XTX |
| 27 | Nemotron-3-Nano-Omni-30B-A3B-Reasoning30BiNVIDIA ↗ Quelle | 432,5 | 0,029 EUR | 34,79 Mio. | 10,44 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 28 | North-Mini-Code-1.0iCohere ↗ Quelle | 396,6 | 0,032 EUR | 30,84 Mio. | 9,25 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 29 | Ministral-3-14B-Reasoning-251214BiMistral AI ↗ Quelle | 243,8 | 0,044 EUR | 22,84 Mio. | 6,85 Mio. | NVIDIA GeForce RTX 5070 Ti |
| 30 | Qwen3-Omni-30B-A3B-Thinking30BiQwen (Alibaba) ↗ Quelle | 396,3 | 0,031 EUR | 32,31 Mio. | 9,69 Mio. | NVIDIA GeForce RTX 5090 |
| 31 | gpt-oss-20b20BiOpenAI ↗ Quelle | 450,2 | 0,021 EUR | 46,85 Mio. | 14,05 Mio. | NVIDIA GeForce RTX 5070 Ti |
| 32 | Qwen2.5-Coder-7B-InstructiQwen (Alibaba) ↗ Quelle | 162,1 | 0,24 EUR | 4,11 Mio. | 1,23 Mio. | 2× AMD Radeon RX 7900 XTX |
| 33 | Qwen3.6-35B-A3B35BiQwen (Alibaba) ↗ Quelle | 261,1 | 0,034 EUR | 29,40 Mio. | 8,82 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 34 | Qwen3-Coder-30B-A3B-Instruct30BiQwen (Alibaba) ↗ Quelle | 332,4 | 0,030 EUR | 33,14 Mio. | 9,94 Mio. | NVIDIA GeForce RTX 5090 |
| 35 | Qwen3-8B8.2BiQwen (Alibaba) ↗ Quelle | 152,9 | 0,19 EUR | 5,25 Mio. | 1,58 Mio. | 2× AMD Radeon RX 7900 XTX |
| 36 | Qwen3-30B-A3B30BiQwen (Alibaba) ↗ Quelle | 145,1 | 0,27 EUR | 3,64 Mio. | 1,09 Mio. | 2× AMD Radeon RX 7900 XTX |
| 37 | gemma-2-2b-it2BiGoogle ↗ Quelle | 199,2 | 0,19 EUR | 5,38 Mio. | 1,61 Mio. | 2× AMD Radeon RX 7900 XTX |
| 38 | Qwen3-30B-A3B-Thinking-250730BiQwen (Alibaba) ↗ Quelle | 347,3 | 0,031 EUR | 32,51 Mio. | 9,75 Mio. | NVIDIA GeForce RTX 5090 |
| 39 | Qwen-AgentWorld-35B-A3B35BiQwen (Alibaba) ↗ Quelle | 342,1 | 0,035 EUR | 28,22 Mio. | 8,47 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 40 | Qwen3-30B-A3B-Instruct-250730BiQwen (Alibaba) ↗ Quelle | 327,4 | 0,031 EUR | 32,41 Mio. | 9,72 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 41 | Qwen3-VL-30B-A3B-Instruct30BiQwen (Alibaba) ↗ Quelle | 331,5 | 0,031 EUR | 31,97 Mio. | 9,59 Mio. | NVIDIA GeForce RTX 5090 |
| 42 | glm-4.7-flashiZ.ai (Zhipu) ↗ Quelle | 141,0 | 0,11 EUR | 9,31 Mio. | 2,79 Mio. | NVIDIA GeForce RTX 3090 Ti |
| 43 | Phi-3.5-mini-instruct3.8Bimicrosoft ↗ Quelle | 179,2 | 0,20 EUR | 5,03 Mio. | 1,51 Mio. | 2× AMD Radeon RX 7900 XTX |
| 44 | Nemotron-3-Nano-30B-A3B30BiNVIDIA ↗ Quelle | 371,0 | 0,029 EUR | 34,82 Mio. | 10,44 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 45 | Ornith-1.0-35B35BiDeepReinforce ↗ Quelle | 485,4 | 0,032 EUR | 31,10 Mio. | 9,33 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 46 | Qwen3.5-35B-A3B35BiQwen (Alibaba) ↗ Quelle | 330,4 | 0,035 EUR | 28,94 Mio. | 8,68 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 47 | Nemotron-3.5-Lightning-30B-A3B30BiNVIDIA ↗ Quelle | 280,7 | 0,017 EUR | 60,37 Mio. | 18,11 Mio. | NVIDIA GeForce RTX 3090 Ti |
| 48 | Qwen3.8-27B-Uncensored27.00BiQwen (Alibaba) ↗ Quelle | 90,9 | 0,54 EUR | 1,85 Mio. | 555,43 Tsd. | 2× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition |
| 49 | gemma-2-9b-it9BiGoogle ↗ Quelle | 113,3 | 0,36 EUR | 2,75 Mio. | 824,86 Tsd. | 2× AMD Radeon RX 7900 XTX |
| 50 | Qwen3-14B14BiQwen (Alibaba) ↗ Quelle | 122,9 | 0,21 EUR | 4,68 Mio. | 1,40 Mio. | 2× AMD Radeon RX 7900 XTX |
| 51 | Qwen3.8-Flash-Next180BiQwen (Alibaba) ↗ Quelle | 243,4 | 0,016 EUR | 62,58 Mio. | 18,78 Mio. | NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition |
| 52 | Devstral-Small-2-24B-Instruct-251224BiMistral AI ↗ Quelle | 155,5 | 0,072 EUR | 13,91 Mio. | 4,17 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 53 | Devstral-Small-250724BiMistral AI ↗ Quelle | 150,8 | 0,079 EUR | 12,69 Mio. | 3,81 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 54 | Codestral-22B-v0.122BiMistral AI ↗ Quelle | 130,5 | 0,081 EUR | 12,38 Mio. | 3,72 Mio. | NVIDIA GeForce RTX 5090 |
| 55 | Magistral-Small-250924BiMistral AI ↗ Quelle | 171,7 | 0,070 EUR | 14,28 Mio. | 4,28 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 56 | Qwen3.6-27B27BiQwen (Alibaba) ↗ Quelle | 130,7 | 0,097 EUR | 10,28 Mio. | 3,08 Mio. | NVIDIA GeForce RTX 5090 |
| 57 | Mistral-Small-24B-Instruct-2501iMistral AI ↗ Quelle | 92,8 | 0,41 EUR | 2,45 Mio. | 736,20 Tsd. | 2× AMD Radeon RX 7900 XTX |
| 58 | Qwen3-Coder-NextiQwen (Alibaba) ↗ Quelle | 282,9 | 0,043 EUR | 23,36 Mio. | 7,01 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 59 | Ling-3.0-flash127.5BiinclusionAI ↗ Quelle | 95,4 | 0,046 EUR | 21,74 Mio. | 6,52 Mio. | NVIDIA GB10 (DGX Spark) |
| 60 | gemma-2-27b-it27BiGoogle ↗ Quelle | 69,4 | 0,55 EUR | 1,81 Mio. | 543,21 Tsd. | 2× AMD Radeon RX 7900 XTX |
| 61 | Qwen3-32B32BiQwen (Alibaba) ↗ Quelle | 70,0 | 0,53 EUR | 1,88 Mio. | 563,64 Tsd. | 2× AMD Radeon RX 7900 XTX |
| 62 | Laguna-S-2.1-INT4iPoolside ↗ Quelle | 287,6 | 0,064 EUR | 15,57 Mio. | 4,67 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 63 | gpt-oss-120b120BiOpenAI ↗ Quelle | 291,7 | 0,040 EUR | 24,90 Mio. | 7,47 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 64 | gemma-4-31B-it31BiGoogle ↗ Quelle | 78,6 | 0,22 EUR | 4,64 Mio. | 1,39 Mio. | NVIDIA GeForce RTX 3090 Ti |
| 65 | Mistral-Small-3.1-24B-Instruct-250324BiMistral AI ↗ Quelle | 67,0 | 0,17 EUR | 5,92 Mio. | 1,77 Mio. | AMD Radeon PRO W7900 Dual Slot |
| 66 | Qwen3.8-27B27BiQwen (Alibaba) ↗ Quelle | 101,0 | 0,13 EUR | 7,63 Mio. | 2,29 Mio. | 2× NVIDIA RTX A6000 |
| 67 | OpenReasoning-Nemotron-32B32BiNVIDIA ↗ Quelle | 109,9 | 0,11 EUR | 9,29 Mio. | 2,79 Mio. | NVIDIA GeForce RTX 5090 |
| 68 | Muse-Glimmer-30B30BiMeta ↗ Quelle | 85,2 | 0,15 EUR | 6,87 Mio. | 2,06 Mio. | AMD Radeon AI PRO R9700 |
| 69 | Mistral-Small-4-119B-2603119BiMistral AI ↗ Quelle | 93,1 | 0,056 EUR | 17,89 Mio. | 5,37 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 70 | Qwen2.5-32B-Instruct-AWQ32BiQwen (Alibaba) ↗ Quelle | 127,7 | 0,11 EUR | 9,51 Mio. | 2,85 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 71 | Seed-OSS-36B-Instruct36BiByteDance Seed ↗ Quelle | 104,1 | 0,062 EUR | 16,21 Mio. | 4,86 Mio. | NVIDIA GeForce RTX 5090 |
| 72 | minimax-m2-awq230BiMiniMax ↗ Quelle | 114,8 | 0,15 EUR | 6,69 Mio. | 2,01 Mio. | 3× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition |
| 73 | Qwen2.5-Coder-32B-Instruct32BiQwen (Alibaba) ↗ Quelle | 95,9 | 0,11 EUR | 9,33 Mio. | 2,80 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 74 | Qwen3.5-122B-A10B122BiQwen (Alibaba) ↗ Quelle | 86,9 | 0,15 EUR | 6,90 Mio. | 2,07 Mio. | 3× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition |
| 75 | Step-3.5-FlashiStepFun ↗ Quelle | 14,5 | 3,58 EUR | 279,67 Tsd. | 83,90 Tsd. | 2× AMD Radeon RX 7900 XTX |
| 76 | Llama-3.3-Nemotron-Super-49B-v1.549BiNVIDIA ↗ Quelle | 75,4 | 0,15 EUR | 6,79 Mio. | 2,04 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 77 | GLM-4.5-Air106BiZ.ai (Zhipu) ↗ Quelle | 120,2 | 0,081 EUR | 12,34 Mio. | 3,70 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 78 | Nemotron-H-47B-Reasoning-128K47BiNVIDIA ↗ Quelle | 45,1 | 0,26 EUR | 3,81 Mio. | 1,14 Mio. | NVIDIA GeForce RTX 5090 |
| 79 | Nemotron-3-Super-120B-A12B120BiNVIDIA ↗ Quelle | 81,4 | 0,089 EUR | 11,20 Mio. | 3,36 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 80 | DeepSeek-V4-Flash290.9BiDeepSeek ↗ Quelle | 15,4 | 5,14 EUR | 194,49 Tsd. | 58,35 Tsd. | 4× AMD Radeon AI PRO R9700 |
| 81 | DeepSeek-V4-Flash-284B-A13B284BiDeepSeek ↗ Quelle | 65,6 | 0,21 EUR | 4,71 Mio. | 1,41 Mio. | 3× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition |
| 82 | MiniMax-M2.5230BiMiniMax ↗ Quelle | 84,1 | 0,11 EUR | 9,05 Mio. | 2,71 Mio. | NVIDIA GB10 (DGX Spark) |
| 83 | Laguna-M.1iPoolside ↗ Quelle | 39,7 | 0,24 EUR | 4,12 Mio. | 1,24 Mio. | 3× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition |
| 84 | Qwen2.5-72B-Instruct72BiQwen (Alibaba) ↗ Quelle | 45,2 | 0,22 EUR | 4,46 Mio. | 1,34 Mio. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 85 | command-a-reasoning-08-2025111BiCohere ↗ Quelle | 38,1 | 0,34 EUR | 2,93 Mio. | 877,76 Tsd. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 86 | Mistral-Medium-3.5-128B128BiMistral AI ↗ Quelle | 9,4 | 0,38 EUR | 2,64 Mio. | 791,69 Tsd. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 87 | MiniMax-M2.7230BiMiniMax ↗ Quelle | 64,4 | 0,067 EUR | 14,93 Mio. | 4,48 Mio. | NVIDIA GB10 (DGX Spark) |
| 88 | Llama-3.1-Nemotron-Ultra-253B-v1253BiNVIDIA ↗ Quelle | 4,3 | 1,32 EUR | 758,23 Tsd. | 227,47 Tsd. | 3× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition |
| 89 | Devstral-2-123B-Instruct-2512123BiMistral AI ↗ Quelle | 20,9 | 0,38 EUR | 2,67 Mio. | 799,97 Tsd. | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
| 90 | glm-5.2-colibri744BiZ.ai (Zhipu) ↗ Quelle | 0,0 | 1.788,19 EUR | 559 | 168 | NVIDIA RTX PRO 6000 Blackwell Workstation Edition |
Niedrige Tokenkosten bedeuten nicht automatisch hohe Modellqualität. Für Qualität siehe Harness-Benchmarks.

