Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
DEEN
Anmelden Registrieren
Beta
MiniMax

MiniMax-M2.7-AWQ-4bit230B

Benchmarkprofil und veröffentlichte Ergebnisse.

MoE230B
Einordnung im Feld

Bestwerte im Vergleich

Beste Messwerte dieses Modells gegen Minimum, Durchschnitt und Maximum aller veröffentlichten Systeme.

NVIDIA DGX SPARK (GB10)Alle GPUs
Generation108,6 tok/s
Min 0,0Ø 245,9Max 2.491,2
Unter dem Durchschnitt · 4828 Systeme im Feld
Prefill7.167 tok/s
Min 4Ø 4.871Max 112.346
Ueber dem Durchschnitt · 4812 Systeme im Feld
Time to First Token105 ms
Min 20Ø 32.261Max 535.235
Ueber dem Durchschnitt · 4825 Systeme im Feld
Harness-Quote61,1 %
Min 10,0Ø 64,9Max 100,0
Unter dem Durchschnitt · 56 Systeme im Feld
Performanceprofil

Durchsatz nach Hardware & Engine

Jede Blase steht für eine GPU, CPU bzw. Engine – die Position zeigt Prompt-Verarbeitung (X) und Ausgabe-Geschwindigkeit (Y), die Blasengröße die Anzahl der Messläufe.

GPUnach Grafikkarte

14110570,335,20,001.7693.5395.308Prefill (tok/s)Generation (tok/s)NVIDIA DGX SPARK (GB10) - 108,6 tok/s Generation, 4.301 tok/s Prefill, TTFT 3.711 ms (10 Laufe)NVIDIA DGX SPARK (GB1...AMD Radeon AI PRO R9700 - 3,0 tok/s Generation, 139 tok/s Prefill, TTFT 15.493 ms (2 Laufe)AMD Radeon AI PRO R97...
NVIDIA DGX SPARK (GB10) 108,6 tok/sAMD Radeon AI PRO R9700 3,0 tok/s

CPUnach Prozessor

14110570,335,20,001.7693.5395.308Prefill (tok/s)Generation (tok/s)NVIDIA Grace - 108,6 tok/s Generation, 4.301 tok/s Prefill, TTFT 3.711 ms (10 Laufe)NVIDIA GraceAMD Ryzen Threadripper PRO 7955WX 16-Cores - 3,0 tok/s Generation, 139 tok/s Prefill, TTFT 15.493 ms (2 Laufe)AMD Ryzen Threadrippe...
NVIDIA Grace 108,6 tok/sAMD Ryzen Threadripper PRO 7955WX 16-Cores 3,0 tok/s

ENGnach Engine

14110570,335,20,001.7693.5395.308Prefill (tok/s)Generation (tok/s)vLLM - 108,6 tok/s Generation, 4.301 tok/s Prefill, TTFT 3.711 ms (10 Laufe)vLLMllama.cpp - 3,0 tok/s Generation, 139 tok/s Prefill, TTFT 15.493 ms (1 Lauf)llama.cppunbekannt - 3,0 tok/s Generation, 139 tok/s Prefill, TTFT 15.493 ms (1 Lauf)unbekannt
vLLM 108,6 tok/sllama.cpp 3,0 tok/sunbekannt 3,0 tok/s
Durchsatz & Latenz

Performancebenchmark

Messwert:
GPUs
#Modell / HerstellerMesswerteParallelGPU / CPU / RAMRuntime
1MiniMax-M2.7-AWQ-4bit230BMiniMax PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
108,63 tok/s TG
Prefill 4.568 · TTFT 13.673 ms
5×NVIDIA DGX SPARK (GB10)NVIDIA Grace · 120 GB RAMvLLMgodclawAWQDetails →
2MiniMax-M2.7-AWQ-4bit230BMiniMax PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
103,25 tok/s TG
Prefill 6.620 · TTFT 5.066 ms
10×NVIDIA DGX SPARK (GB10)NVIDIA Grace · 120 GB RAMvLLMgodclawAWQDetails →
3MiniMax-M2.7-AWQ-4bit230BMiniMax PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
66,75 tok/s TG
Prefill 6.946 · TTFT 4.901 ms
10×NVIDIA DGX SPARK (GB10)NVIDIA Grace · 120 GB RAMvLLMgodclawAWQDetails →
4MiniMax-M2.7-AWQ-4bit230BMiniMax PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
64,45 tok/s TG
Prefill 7.167 · TTFT 4.743 ms
10×NVIDIA DGX SPARK (GB10)NVIDIA Grace · 120 GB RAMvLLMgodclawAWQDetails →
5MiniMax-M2.7-AWQ-4bit230BMiniMax PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
52,46 tok/s TG
Prefill 5.268 · TTFT 2.720 ms
5×NVIDIA DGX SPARK (GB10)NVIDIA Grace · 120 GB RAMvLLMgodclawAWQDetails →
6MiniMax-M2.7-AWQ-4bit230BMiniMax PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
51,61 tok/s TG
Prefill 5.448 · TTFT 2.676 ms
5×NVIDIA DGX SPARK (GB10)NVIDIA Grace · 120 GB RAMvLLMgodclawAWQDetails →
7MiniMax-M2.7-AWQ-4bit230BMiniMax PerformancebenchmarkPerformancetest Small 1.0
34,37 tok/s TG
Prefill 503 · TTFT 105 ms
1×NVIDIA DGX SPARK (GB10)NVIDIA Grace · 120 GB RAMvLLMgodclawAWQDetails →
8MiniMax-M2.7-AWQ-4bit230BMiniMax PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
29,35 tok/s TG
Prefill 1.986 · TTFT 1.157 ms
1×NVIDIA DGX SPARK (GB10)NVIDIA Grace · 120 GB RAMvLLMgodclawAWQDetails →
9MiniMax-M2.7-AWQ-4bit230BMiniMax PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
24,25 tok/s TG
Prefill 2.437 · TTFT 960 ms
1×NVIDIA DGX SPARK (GB10)NVIDIA Grace · 120 GB RAMvLLMgodclawAWQDetails →
10MiniMax-M2.7-AWQ-4bit230BMiniMax PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
24,01 tok/s TG
Prefill 2.068 · TTFT 1.108 ms
1×NVIDIA DGX SPARK (GB10)NVIDIA Grace · 120 GB RAMvLLMgodclawAWQDetails →
11MiniMax-M2.7-AWQ-4bit230BMiniMax PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
3,00 tok/s TG
Prefill 139 · TTFT 15.493 ms
1×3x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMllama.cppgodclawUD-Q4_K_MDetails →
12MiniMax-M2.7-AWQ-4bit230BMiniMax Performancebenchmark
3,00 tok/s TG
Prefill 139 · TTFT 15.493 ms
1×3x AMD Radeon AI PRO R9700 i32x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMgodclawQ4_K_MDetails →
Agent- & Chat-Bewertung

Harnessbenchmark

Messwert:
#Modell / HerstellerMesswerteGPU / CPU / RAMRuntime
1MiniMax-M2.7-AWQ-4bit230BMiniMax HarnessbenchmarkTool-Parcours Dossier 40 V1.0
3.641 Pkt
61,1% · 40/40 Aufg. · 8.209,0 s
NVIDIA DGX SPARK (GB10)NVIDIA Grace · 120 GB RAMvLLMgodclawAWQDetails →