Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
MiniMax

minimax-m2.5-awq230B

Benchmarkprofil und veröffentlichte Ergebnisse.

MoE230B
Einordnung im Feld

Bestwerte im Vergleich

Beste Messwerte dieses Modells gegen Minimum, Durchschnitt und Maximum aller veröffentlichten Systeme.

Generation105,6 tok/s
Min 11,4Ø 143,9Max 903,3
Unter dem Durchschnitt · 112 Systeme im Feld
Prefill6.997 tok/s
Min 301Ø 3.173Max 7.470
Ueber dem Durchschnitt · 112 Systeme im Feld
Time to First Token1.093 ms
Min 105Ø 10.699Max 131.641
Ueber dem Durchschnitt · 112 Systeme im Feld
Performanceprofil

Durchsatz nach Hardware & Engine

Jede Blase steht für eine GPU, CPU bzw. Engine – die Position zeigt Prompt-Verarbeitung (X) und Ausgabe-Geschwindigkeit (Y), die Blasengröße die Anzahl der Messläufe.

GPUnach Grafikkarte

12510484,163,943,602.0014.0036.004Prefill (tok/s)Generation (tok/s)NVIDIA DGX SPARK (GB10) - 105,6 tok/s Generation, 4.881 tok/s Prefill, TTFT 3.013 ms (3 Laufe)NVIDIA DGX SPARK (GB1...AMD Radeon AI PRO R9700 - 66,1 tok/s Generation, 270 tok/s Prefill, TTFT 21.132 ms (5 Laufe)AMD Radeon AI PRO R97...NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition - 62,7 tok/s Generation, 368 tok/s Prefill, TTFT 144 ms (2 Laufe)NVIDIA RTX PRO 6000 B...
NVIDIA DGX SPARK (GB10) 105,6 tok/sAMD Radeon AI PRO R9700 66,1 tok/sNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition 62,7 tok/s

CPUnach Prozessor

12510484,163,943,602.0014.0036.004Prefill (tok/s)Generation (tok/s)NVIDIA Grace - 105,6 tok/s Generation, 4.881 tok/s Prefill, TTFT 3.013 ms (3 Laufe)NVIDIA GraceAMD Ryzen Threadripper PRO 7955WX 16-Cores - 66,1 tok/s Generation, 270 tok/s Prefill, TTFT 21.132 ms (5 Laufe)AMD Ryzen Threadrippe...AMD Ryzen Threadripper PRO 9965WX 24-Cores - 62,7 tok/s Generation, 368 tok/s Prefill, TTFT 144 ms (2 Laufe)AMD Ryzen Threadrippe...
NVIDIA Grace 105,6 tok/sAMD Ryzen Threadripper PRO 7955WX 16-Cores 66,1 tok/sAMD Ryzen Threadripper PRO 9965WX 24-Cores 62,7 tok/s

ENGnach Engine

12510484,163,943,601.0642.1273.191Prefill (tok/s)Generation (tok/s)vLLM - 105,6 tok/s Generation, 2.609 tok/s Prefill, TTFT 8.503 ms (6 Laufe)vLLMllama.cpp - 66,1 tok/s Generation, 294 tok/s Prefill, TTFT 21.346 ms (2 Laufe)llama.cppunbekannt - 62,7 tok/s Generation, 244 tok/s Prefill, TTFT 10.745 ms (2 Laufe)unbekannt
vLLM 105,6 tok/sllama.cpp 66,1 tok/sunbekannt 62,7 tok/s
Durchsatz & Latenz

Performancebenchmark

Messwert:
GPUs
#Modell / HerstellerMesswerteParallelGPU / CPU / RAMRuntime
1minimax-m2.5-awq230BMiniMax PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
105,57 tok/s TG
Prefill 6.997 · TTFT 5.319 ms
10×NVIDIA DGX SPARK (GB10)NVIDIA Grace · 120 GB RAMvLLMgodclawAWQ
2minimax-m2.5-awq230BMiniMax PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
73,44 tok/s TG
Prefill 5.550 · TTFT 2.628 ms
5×NVIDIA DGX SPARK (GB10)NVIDIA Grace · 120 GB RAMvLLMgodclawAWQ
3minimax-m2.5-awq230BMiniMax PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
66,09 tok/s TG
Prefill 469 · TTFT 0 ms
10×4x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMllama.cppopenclaw_cli batched-bench
4minimax-m2.5-awq230BMiniMax PerformancebenchmarkPerformancetest Small 1.0
62,70 tok/s TG
Prefill 368 · TTFT 144 ms
1×3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation EditionAMD Ryzen Threadripper PRO 9965WX 24-Cores · 125 GB RAMvLLMgodclawBF16
5minimax-m2.5-awq230BMiniMax Performancebenchmark
62,70 tok/s TG
Prefill 368 · TTFT 144 ms
1×3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition34x AMD Ryzen Threadripper PRO 9965WX 24-Cores · 125 GB RAMgodclawBF16
6minimax-m2.5-awq230BMiniMax PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
31,93 tok/s TG
Prefill 2.096 · TTFT 1.093 ms
1×NVIDIA DGX SPARK (GB10)NVIDIA Grace · 120 GB RAMvLLMgodclawAWQ
7minimax-m2.5-awq230BMiniMax PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
7,01 tok/s TG
Prefill 250 · TTFT 9.170 ms
1×3x AMD Radeon AI PRO R9700AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMvLLMgodclawAWQ
8minimax-m2.5-awq230BMiniMax PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
6,46 tok/s TG
Prefill 119 · TTFT 21.346 ms
1×3x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMllama.cppgodclawIQ4_NL
9minimax-m2.5-awq230BMiniMax Performancebenchmark
6,46 tok/s TG
Prefill 119 · TTFT 21.346 ms
1×3x AMD Radeon AI PRO R9700 i32x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMgodclaw
10minimax-m2.5-awq230BMiniMax PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
3,39 tok/s TG
Prefill 391 · TTFT 32.665 ms
5×3x AMD Radeon AI PRO R9700AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMvLLMgodclawAWQ
Agent- & Chat-Bewertung

Harnessbenchmark

Messwert:
#Modell / HerstellerMesswerteGPU / CPU / RAMRuntime
1minimax-m2.5-awq230BMiniMax HarnessbenchmarkTool Usage Standard 1.0
2.427 Pkt
81,4% · 16/16 Aufg. · 228,0 s
3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation EditionAMD Ryzen Threadripper PRO 9965WX 24-Cores · 125 GB RAMvLLMgodclawBF16
2minimax-m2.5-awq230BMiniMax HarnessbenchmarkTool Usage Standard 1.0
2.033 Pkt
68,2% · 16/16 Aufg. · 373,0 s
3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation EditionAMD Ryzen Threadripper PRO 9965WX 24-Cores · 125 GB RAMvLLMgodclawBF16
3minimax-m2.5-awq230BMiniMax HarnessbenchmarkTool-Parcours Dossier 40 V1.0
3.622 Pkt
60,8% · 34/40 Aufg. · 7.862,0 s
3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation EditionAMD Ryzen Threadripper PRO 9965WX 24-Cores · 125 GB RAMvLLMgodclawBF16
4minimax-m2.5-awq230BMiniMax HarnessbenchmarkTool Usage Standard 1.0
1.714 Pkt
57,5% · 16/16 Aufg. · 487,0 s
3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation EditionAMD Ryzen Threadripper PRO 9965WX 24-Cores · 125 GB RAMvLLMgodclawBF16