Qwen (Alibaba)
Qwen2.5-72B-Instruct-Q4_K_M.gguf
Benchmarkprofil und veroeffentlichte Ergebnisse.
Dense72B
Einordnung im Feld
Bestwerte im Vergleich
Beste Messwerte dieses Modells gegen Minimum, Durchschnitt und Maximum aller veroeffentlichten Systeme.
Generation2,3 tok/s
Min 0,8Ø 41,6Max 147,8
Unter dem Durchschnitt · 138 Systeme im Feld
Prefill81 tok/s
Min 22Ø 2.824Max 9.072
Unter dem Durchschnitt · 136 Systeme im Feld
Time to First Token569 ms
Min 91Ø 2.670Max 98.716
Ueber dem Durchschnitt · 138 Systeme im Feld
Agent- & Chat-Bewertung
Harnessbenchmark
Noch keine Harnessbenchmarks fuer dieses Modell.
Durchsatz & Latenz
Performancebenchmark
| # | Modell / Hersteller | Typ | Messwerte | GPU / CPU / RAM | Runtime | Datum | ||
|---|---|---|---|---|---|---|---|---|
| 1 | Qwen2.5-72B-Instruct-Q4_K_M.ggufQwen (Alibaba)Performancetest Small 1.0 | Performancebenchmark | 2,28 tok/s Prefill 81 · TTFT 569 ms | Keine GPU (CPU-only)51x Intel(R) Xeon(R) CPU E5-4620 v2 @ 2.60GHz · 504 GB RAM | godclaw | 20.07.2026 | Details → |