Task	Status	Points	Duration
Antwortzeit Test	passed	5 / 50	17,00 s
Format Test	passed	44 / 80	15,00 s
Dateisystem Setup	passed	94 / 120	11,00 s
Daten Generierung	passed	94 / 150	25,00 s
Parsing + Transformation	passed	140 / 200	30,00 s
Fehlerbehandlung JSON	passed	101 / 150	22,00 s
Python Tool Usage	passed	167 / 220	24,00 s
PHP Tool Usage	passed	187 / 220	15,00 s
Export + Reimport	passed	186 / 240	30,00 s
Archivierung	passed	121 / 180	22,00 s
Hash Berechnung	passed	114 / 200	36,00 s
Textsuche	passed	59 / 180	45,00 s
Idempotenz Test	passed	174 / 220	21,00 s
Rechte Problem	passed	189 / 220	14,00 s
Final JSON	passed	190 / 250	24,00 s
Finale Ausgabe	passed	168 / 300	22,00 s

Configuration

benchmark-konfiguration — run-20260722-161611-a58abe

# LLM-Benchmark Konfiguration # Modell : MiniMax-M2.5 # Engine : vLLM # Run-ID : run-20260722-161611-a58abe # GPU : 3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition # CPU : AMD Ryzen Threadripper PRO 9965WX 24-Cores # RAM : 125 GB bench@llm-benchmark:~$ /usr/bin/python3 /usr/local/bin/vllm serve \ --model mratsim/MiniMax-M2.5-BF16-INT4-AWQ \ --served-model-name MiniMax-M2.5 \ --tensor-parallel-size 1 \ --pipeline-parallel-size 3 \ --max-model-len 164000 \ --gpu-memory-utilization 0.90 \ --load-format safetensors \ --trust-remote-code \ --enforce-eager \ --disable-custom-all-reduce \ --enable-auto-tool-choice \ --tool-call-parser minimax_m2 \ --reasoning-parser minimax_m2_append_think

Engine?Die Inferenz-Software, die das Modell ausliefert (z.B. vLLM oder llama.cpp). Sie bestimmt Geschwindigkeit, unterstuetzte Modellformate und welche Parameter ueberhaupt verfuegbar sind.	vllm
Modellalias?Der Name, unter dem das Modell ueber die API angesprochen wird. Genau dieser Wert muss im Request-Feld 'model' stehen.	MiniMax-M2.5
Kontextlaenge?Maximale Anzahl Tokens (Eingabe + erzeugte Ausgabe zusammen), die das Modell pro Anfrage verarbeiten kann.	164000
Modellpfad?Pfad zur GGUF-Modelldatei, die geladen und ausgeliefert wird.	mratsim/MiniMax-M2.5-BF16-INT4-AWQ
Alias?Anzeigename des Modells nach aussen (served model name), unabhaengig vom Dateinamen.	MiniMax-M2.5
Tensor-Parallel?Anzahl GPUs, auf die JEDER einzelne Modell-Layer aufgeteilt wird (Tensor-Parallelitaet). Mehr GPUs = mehr VRAM und meist mehr Speed, aber die Anzahl der Attention-Heads muss durch diesen Wert teilbar sein (z.B. 32 Heads -> nur 1, 2, 4, 8 ... moeglich, NICHT 3).	1
Pipeline-Parallel?Anzahl GPUs, auf die die Modell-Layer der Reihe nach (als Pipeline) verteilt werden. Nutzt mehrere GPUs OHNE Teilbarkeits-Anforderung der Heads; erhoeht vor allem Kapazitaet und Durchsatz, die Latenz einer einzelnen Anfrage aber nicht zwingend.	3
Kontext?Groesse des Kontextfensters in Token. 0 = der beim Training verwendete Kontext des Modells.	164000
GPU-Speicher?Anteil des GPU-Speichers (0 bis 1), den vLLM belegen darf. 0.92 = 92 %. Hoeher = mehr Platz fuer den KV-Cache (mehr/laengere parallele Anfragen), aber groesseres Risiko fuer 'Out of Memory'.	0.90
Load-Format?Format, aus dem die Gewichte geladen werden (auto, safetensors, pt ...). 'auto' erkennt es selbst.	safetensors
Trust-Remote-Code?Erlaubt vLLM, mit dem Modell mitgelieferten Python-Code auszufuehren. Noetig fuer Architekturen, die vLLM nicht von Haus aus kennt. Nur bei vertrauenswuerdigen Modellen aktivieren.	aktiv
Enforce-Eager?Schaltet die optimierte Graph-Ausfuehrung (CUDA-/HIP-Graphs) AB und rechnet Schritt fuer Schritt. Startet schneller und spart etwas VRAM, ist im laufenden Betrieb aber meist langsamer als mit Graphs.	aktiv
Custom-AllReduce aus?Deaktiviert den custom All-Reduce-Kernel bei Multi-GPU und faellt auf NCCL zurueck. Hilft bei Stabilitaetsproblemen mit Tensor-Parallelismus.	aktiv
Auto-Tool-Choice?Erlaubt dem Modell, Tools (Function-Calling) selbststaendig auszuwaehlen. MUSS aktiv sein, damit 'tools' im Request akzeptiert werden - sonst lehnt vLLM sie mit HTTP 400 ab.	aktiv
Tool-Parser?Bestimmt, wie vLLM Tool-Aufrufe aus der Modellantwort ausliest (z.B. hermes, mistral, llama3_json). Muss zum Modell passen.	minimax_m2
Reasoning-Parser?Trennt den Denk-/Reasoning-Teil der Antwort vom eigentlichen Inhalt (z.B. bei Modellen mit <think>-Bloecken).	minimax_m2_append_think

All benchmarks of this model To leaderboard

Model comparison

MiniMax-M2.5 on various hardware

All published performance runs of this model – each bubble a variant: position = prefill (X) × generation (Y), bubble size = number of runs. Closer to the top right = faster. ★ Marked gold = this benchmark.

GPUby graphics card

★ NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition 551,0 tok/s this runNVIDIA GB10 (DGX Spark) 105,6 tok/sAMD Radeon AI PRO R9700 66,1 tok/sNVIDIA GeForce RTX 5070 Ti 22,5 tok/sAMD Radeon PRO W7900 Dual Slot 19,3 tok/sNVIDIA GeForce RTX 3090 Ti 15,9 tok/sNVIDIA RTX PRO 6000 Blackwell Workstation Edition 7,0 tok/sNVIDIA GeForce RTX 5090 4,4 tok/sNVIDIA GeForce RTX 2060 0,8 tok/s

CPUby processor

★ AMD Ryzen Threadripper PRO 9965WX 24-Cores 551,0 tok/s this runNVIDIA Grace 105,6 tok/sAMD Ryzen Threadripper PRO 7955WX 16-Cores 66,1 tok/sAMD Ryzen Threadripper PRO 5975WX 32-Cores 22,5 tok/sAMD Ryzen 9 8945HX with Radeon Graphics 15,9 tok/sAMD Ryzen 9 9950X 16-Core Processor 7,0 tok/sAMD Ryzen 7 5800X3D 8-Core Processor 4,4 tok/sIntel(R) Xeon(R) CPU E5-4620 v2 @ 2.60GHz 0,8 tok/s

MBby mainboard

★ ASUSTeK COMPUTER INC. Pro WS WRX90E-SAGE SE 551,0 tok/s this runASUSTeK COMPUTER INC. GX10 105,6 tok/sunbekannt 62,7 tok/sASUSTeK COMPUTER INC. Pro WS WRX80E-SAGE SE WIFI 22,5 tok/sMeigao Innovation Technology (Shen Zhen) Co., Ltd DRFXL (MotherBoard Series) 15,9 tok/sASUSTeK COMPUTER INC. ProArt X870E-CREATOR WIFI 7,0 tok/sASUSTeK COMPUTER INC. ROG STRIX B550-A GAMING 4,4 tok/sDell Inc. PowerEdge R820 0,8 tok/s

ENGby engine

llama.cpp 551,0 tok/s★ vLLM 105,6 tok/s this rununbekannt 62,7 tok/s

DRVby driver

unbekannt 551,0 tok/sNVIDIA 590.48.01 / CUDA 13.1 105,6 tok/sNVIDIA 580.159.04 / CUDA 13.0 62,7 tok/sAMD 7.0.0-27-generic 6,5 tok/s

Contributed by

Mario Alka Administrator

@marioalka

Ich bin Unternehmer, Softwareentwickler und KI-Enthusiast. Seit vielen Jahren entwickle ich Unternehmenssoftware und beschäftige mich inzwischen fast täglich mit lokalen LLMs, KI-Agenten und leistungsfähiger KI-Hardware.

Mit LLM-Benchmark.de möchte ich eine Plattform schaffen, auf der Modelle, GPUs und Agenten objektiv und reproduzierbar miteinander verglichen werden.