Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
Z.ai (Zhipu)

glm-5.2-colibri744B

Benchmarkprofil und veröffentlichte Ergebnisse.

MoE744B
Einordnung im Feld

Bestwerte im Vergleich

Beste Messwerte dieses Modells gegen Minimum, Durchschnitt und Maximum aller veröffentlichten Systeme.

Generation0,0 tok/s
Min 0,0Ø 234,5Max 2.414,4
Unter dem Durchschnitt · 458 Systeme im Feld
Prefill211 tok/s
Min 6Ø 5.177Max 39.029
Unter dem Durchschnitt · 459 Systeme im Feld
Time to First Token10.088 ms
Min 114Ø 24.890Max 354.674
Ueber dem Durchschnitt · 459 Systeme im Feld
Performanceprofil

Durchsatz nach Hardware & Engine

Jede Blase steht für eine GPU, CPU bzw. Engine – die Position zeigt Prompt-Verarbeitung (X) und Ausgabe-Geschwindigkeit (Y), die Blasengröße die Anzahl der Messläufe.

GPUnach Grafikkarte

0,00,00,00,00,071747780Prefill (tok/s)Generation (tok/s)NVIDIA RTX PRO 6000 Blackwell Workstation Edition - 0,0 tok/s Generation, 76 tok/s Prefill, TTFT 201.264 ms (3 Laufe)NVIDIA RTX PRO 6000 B...
NVIDIA RTX PRO 6000 Blackwell Workstation Edition 0,0 tok/s

CPUnach Prozessor

0,00,00,00,00,071747780Prefill (tok/s)Generation (tok/s)AMD Ryzen 9 9950X 16-Core Processor - 0,0 tok/s Generation, 76 tok/s Prefill, TTFT 201.264 ms (3 Laufe)AMD Ryzen 9 9950X 16-...
AMD Ryzen 9 9950X 16-Core Processor 0,0 tok/s

ENGnach Engine

0,00,00,00,00,004489133Prefill (tok/s)Generation (tok/s)colibri - 0,0 tok/s Generation, 109 tok/s Prefill, TTFT 182.381 ms (2 Laufe)colibriunbekannt - 0,0 tok/s Generation, 10 tok/s Prefill, TTFT 239.030 ms (1 Lauf)unbekannt
colibri 0,0 tok/sunbekannt 0,0 tok/s
Durchsatz & Latenz

Performancebenchmark

Messwert:
#Modell / HerstellerMesswerteParallelGPU / CPU / RAMRuntime
1glm-5.2-colibri744BZ.ai (Zhipu) PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
0,03 tok/s TG
Prefill 7 · TTFT 354.674 ms
10×NVIDIA RTX PRO 6000 Blackwell Workstation EditionAMD Ryzen 9 9950X 16-Core Processor · 92 GB RAMcolibricolibriINT4
2glm-5.2-colibri744BZ.ai (Zhipu) PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
0,03 tok/s TG
Prefill 211 · TTFT 10.088 ms
1×NVIDIA RTX PRO 6000 Blackwell Workstation EditionAMD Ryzen 9 9950X 16-Core Processor · 92 GB RAMcolibricolibriINT4
3glm-5.2-colibri744BZ.ai (Zhipu) PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
0,03 tok/s TG
Prefill 10 · TTFT 239.030 ms
5×NVIDIA RTX PRO 6000 Blackwell Workstation EditionAMD Ryzen 9 9950X 16-Core Processor · 92 GB RAMcolibri
Agent- & Chat-Bewertung

Harnessbenchmark

Noch keine Harnessbenchmarks fuer dieses Modell.