Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
Beigesteuert vonMarcel SommerZ.ai (Zhipu)

glm-4.7-flash

Performancebenchmark · gemessen am 04.08.2026 01:07

Benchmark-IDrun-20261021-093815-797507
Timebench 3 - Kombi (Prefill + Generation)Runtime: openclaw_cliQuantisierung: AWQ
Generation349,28tok/s
Prefill7.890,75tok/s
Time to First Token3.899,00ms
Gesamtdauer66,84s
Concurrency10parallel
Einordnung im Feld
558von 1427 Systemen

Performancebenchmark · Leitmetrik: Generation-Speed (tok/s) · 10× parallel

Dieser Lauf ist besser als 61 % aller vergleichbaren Systeme.
Generation 349,3 tok/s
-18 % vs Ø 425,3
Prefill 7.890,8 tok/s
+18 % vs Ø 6.659,3
Time to First Token 3.899 ms
-91 % vs Ø 45.848
Verteilung im Feld0 – 2.491 tok/s
Ø 425 Median Dieser Lauf

Wie schlägt sich dieser Benchmark mit anderen Modellen?

gemma-4-E2B-itNVIDIA GeForce RTX 5090 · run-20260728-184455-e28775
2.491,2 tok/s
gemma-4-E2B-itNVIDIA RTX PRO 6000 Blackwell Workstation Edition · run-20260727-181606-b37ed9
2.414,4 tok/s
Nemotron-3.5-Lightning-30B-A3BNVIDIA GeForce RTX 3090 Ti · run-20261021-093815-dce558
2.263,7 tok/s
Nemotron-3-Nano-4BNVIDIA RTX PRO 6000 Blackwell Workstation Edition · run-20260727-181607-4cca42
2.182,7 tok/s
gemma-4-E2B-it3× 3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260728-184456-d87c73
2.143,6 tok/s
gpt-oss-20bNVIDIA RTX PRO 6000 Blackwell Workstation Edition · run-20260730-035052-9c966e
1.995,4 tok/s
gpt-oss-20bNVIDIA RTX PRO 6000 Blackwell Workstation Edition · run-20260728-140954-8007c4
1.993,5 tok/s
Nemotron-3-Nano-4B3× 3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260728-194136-0aed86
1.937,7 tok/s
Nemotron-3-Nano-4B3× 3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260728-194136-8db0fa
1.911,6 tok/s
Nemotron-3-Nano-4B3× 3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260727-181606-e0eafd
1.897,0 tok/s
gpt-oss-20bNVIDIA GeForce RTX 5090 · run-20260729-032121-7c961d
1.890,7 tok/s
Nemotron-3-Nano-4BNVIDIA GeForce RTX 5090 · run-20260728-194135-2ed9dd
1.878,7 tok/s
gpt-oss-20b3× 3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260728-034052-26063b
1.835,7 tok/s
Nemotron-3-Nano-4B3× 3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260728-194136-a77046
1.830,3 tok/s
glm-4.7-flash dieser LaufNVIDIA GeForce RTX 3090 Ti · run-20261021-093815-797507
349,3 tok/s

Wie schlägt sich dieser Benchmark mit anderen GPUs?

Dasselbe Modell auf anderer Hardware · 10× parallel · Generation (tok/s)

Hardware

GPU: NVIDIA GeForce RTX 3090 Ti · 24 GB VRAM
CPU: AMD Ryzen 5 5600X 6-Core Processor
RAM: 30 GB
Mainboard: ASUSTeK COMPUTER INC. PRIME A520M-K

Setup

Runtime: openclaw_cli
Quantisierung: AWQ
Modell: glm-4.7-flash

Konfiguration

benchmark-konfiguration — run-20261021-093815-797507
# LLM-Benchmark Konfiguration # Modell : glm-4.7-flash # Run-ID : run-20261021-093815-797507 # GPU : NVIDIA GeForce RTX 3090 Ti # CPU : AMD Ryzen 5 5600X 6-Core Processor # RAM : 30 GB bench@llm-benchmark:~$ cat benchmark.conf execution_type local
execution_typelocal

Alle Benchmarks dieses Modells Zum Leaderboard

Anzeige
Modell-Vergleich

glm-4.7-flash auf verschiedener Hardware

Alle veröffentlichten Performance-Läufe dieses Modells – jede Blase eine Variante: Position = Prefill (X) × Generation (Y), Blasengröße = Anzahl Läufe. Näher oben rechts = schneller. ★ Gold markiert = dieser Benchmark.

GPUnach Grafikkarte

4443332221110,02.5004.7607.0199.279Prefill (tok/s)Generation (tok/s)AMD Radeon RX 7900 XTX - 151,7 tok/s Generation, 3.752 tok/s Prefill, TTFT 3.439 ms (3 Laufe)AMD Radeon RX 7900 XTXNVIDIA GB10 (DGX Spark) - 48,9 tok/s Generation, 4.055 tok/s Prefill, TTFT 536 ms (1 Lauf)NVIDIA GB10 (DGX Spar...NVIDIA GeForce RTX 3090 Ti - 349,3 tok/s Generation, 8.028 tok/s Prefill, TTFT 1.698 ms (6 Laufe) | DIESER LAUF★ NVIDIA GeForce RTX 30...
★ NVIDIA GeForce RTX 3090 Ti 349,3 tok/s dieser LaufAMD Radeon RX 7900 XTX 151,7 tok/sNVIDIA GB10 (DGX Spark) 48,9 tok/s

CPUnach Prozessor

4443332221110,02.5004.7607.0199.279Prefill (tok/s)Generation (tok/s)AMD Ryzen Threadripper PRO 3955WX 16-Cores - 151,7 tok/s Generation, 3.752 tok/s Prefill, TTFT 3.439 ms (3 Laufe)AMD Ryzen Threadrippe...NVIDIA Grace - 48,9 tok/s Generation, 4.055 tok/s Prefill, TTFT 536 ms (1 Lauf)NVIDIA GraceAMD Ryzen 5 5600X 6-Core Processor - 349,3 tok/s Generation, 8.028 tok/s Prefill, TTFT 1.698 ms (6 Laufe) | DIESER LAUF★ AMD Ryzen 5 5600X 6-C...
★ AMD Ryzen 5 5600X 6-Core Processor 349,3 tok/s dieser LaufAMD Ryzen Threadripper PRO 3955WX 16-Cores 151,7 tok/sNVIDIA Grace 48,9 tok/s

MBnach Mainboard

4443332221110,02.5004.7607.0199.279Prefill (tok/s)Generation (tok/s)ASUSTeK COMPUTER INC. Pro WS WRX80E-SAGE SE WIFI - 151,7 tok/s Generation, 3.752 tok/s Prefill, TTFT 3.439 ms (3 Laufe)ASUSTeK COMPUTER INC....ASUSTeK COMPUTER INC. GX10 - 48,9 tok/s Generation, 4.055 tok/s Prefill, TTFT 536 ms (1 Lauf)ASUSTeK COMPUTER INC....ASUSTeK COMPUTER INC. PRIME A520M-K - 349,3 tok/s Generation, 8.028 tok/s Prefill, TTFT 1.698 ms (6 Laufe) | DIESER LAUF★ ASUSTeK COMPUTER INC....
★ ASUSTeK COMPUTER INC. PRIME A520M-K 349,3 tok/s dieser LaufASUSTeK COMPUTER INC. Pro WS WRX80E-SAGE SE WIFI 151,7 tok/sASUSTeK COMPUTER INC. GX10 48,9 tok/s

ENGnach Engine

42433725016477,32.3394.9307.52110.113Prefill (tok/s)Generation (tok/s)unbekannt - 349,3 tok/s Generation, 5.807 tok/s Prefill, TTFT 2.234 ms (3 Laufe)unbekanntvLLM - 211,5 tok/s Generation, 8.700 tok/s Prefill, TTFT 1.006 ms (4 Laufe)vLLMllama.cpp - 151,7 tok/s Generation, 3.752 tok/s Prefill, TTFT 3.439 ms (3 Laufe)llama.cpp
unbekannt 349,3 tok/svLLM 211,5 tok/sllama.cpp 151,7 tok/s

DRVnach Treiber

4443332221110,03.2004.6196.0387.457Prefill (tok/s)Generation (tok/s)unbekannt - 349,3 tok/s Generation, 6.602 tok/s Prefill, TTFT 2.278 ms (9 Laufe)unbekanntNVIDIA 590.48.01 / CUDA 13.1 - 48,9 tok/s Generation, 4.055 tok/s Prefill, TTFT 536 ms (1 Lauf)NVIDIA 590.48.01 / CU...
unbekannt 349,3 tok/sNVIDIA 590.48.01 / CUDA 13.1 48,9 tok/s
💰 Economics

Wirtschaftlichkeit dieses Laufs

Betriebskosten, TCO und Vergleich mit den nächstbesten Läufen desselben Modells bei identischer Concurrency (10× parallel). Methodik →

⚙️ KonfigurationAlle Kennzahlen und Diagramme unten folgen diesen Einstellungen – bezogen auf 24 Monate Laufzeit.In URL übernehmenZurücksetzen
⚡ Strompreis EUR/kWh
⚙️ System-Auslastung 100 %
🖥️ Anschaffung EUR
🔌 Idle 25 W
⚡ TDP 450 W
☁️ Externes LLM (API)
Strompreis0,30 EUR/kWh
Ø-Leistung (inkl. Idle)450 W geschätzt (TDP)GPU 450 W Volllast
Ø-Kosten / Stunde0,14 EUR
Strom / 1 Mio. Token0,11 EUR
Token / kWh2,79 Mio.
Anschaffung (System)1.270 EUR TeilpreisGPU 999 EUR · CPU 121 EUR · Netzteil 150 EUR
Stromkosten (2 Jahre)–
TCO (2 Jahre)3.635 EUR
Output-Token (2 Jahre)22,03 Mrd.
☁️ Externes LLM (API) – Vergleich
Externe LLM-Kosten (2 Jahre)–
Ersparnis vs. extern (2 Jahre)–

Alle Werte oben und die Diagramme unten berücksichtigen die eingestellte System-Auslastung: bei X % generiert das System nur X % der Zeit, die restliche Zeit läuft es im Idle (25 W). Kosten pro Stunde sinken dadurch (mehr Idle), Kosten je Token steigen.

Kosten über 2 Jahre – nur Strom

Kosten über 2 Jahre – inkl. Anschaffung (TCO)

Geschwindigkeit vs. Token pro Euro

Euro pro 1 Mio. Token

Vergleich zur API – Wirtschaftlichkeit je Benchmark

glm-4.7-flashNVIDIA GeForce RTX 3090 Tiglm-4.7-flashNVIDIA GeForce RTX 3090 Tiglm-4.7-flash2x AMD Radeon RX 7900 XTX
Kosten Strom (24 Mon.)–––
Kosten Anschaffung–––
Kosten Gesamt (TCO)–––
Generierte Token (24 Mon.)–––
Tokenpreis bei API–––
Break-Even-Point (Tage)–––
Ergebnis (Ersparnis / Ausgabe)–––

Vergleich mit bis zu 3 nächstbesten Läufen dieses Modells bei gleicher Concurrency (mind. einer auf anderer Hardware). Leistung = GPU-TDP + CPU (Idle + 15 %) + Board (geschätzt), Anschaffung = komplettes System (GPU + CPU + Board + RAM + Netzteil), Preise = hinterlegte Marktpreise.

Beigesteuert von

Marcel Sommer

@marcelsommer