Aufgabe	Status	Punkte	Dauer
Arbeitsstruktur anlegen	bestanden	5 / 50	7.214,00 s
Startdatei schreiben	bestanden	9 / 60	19,00 s
Datei zuruecklesen	bestanden	38 / 50	4,00 s
CSV mit Testdaten	bestanden	46 / 80	14,00 s
Struktur pruefen	fehlgeschlagen	0 / 60	69,00 s
Recherche RAG	bestanden	92 / 150	26,00 s
Recherche Hersteller	bestanden	94 / 120	11,00 s
Recherche sichern	bestanden	55 / 100	15,00 s
Webseite auswerten	bestanden	60 / 140	38,00 s
Seite im Browser oeffnen	bestanden	164 / 180	9,00 s
Modellvergleich	bestanden	150 / 200	21,00 s
Quellenliste	bestanden	66 / 90	9,00 s
Wissenskategorien sichten	bestanden	82 / 100	6,00 s
Wissenseintrag anlegen	bestanden	186 / 220	13,00 s
Wissenseintrag pruefen	bestanden	104 / 120	6,00 s
Wissenseintrag ergaenzen	bestanden	170 / 200	10,00 s
Versionen zaehlen	bestanden	126 / 140	5,00 s
Wissen durchsuchen	bestanden	117 / 130	5,00 s
Firma erfassen	fehlgeschlagen	0 / 180	16,00 s
Person verknuepfen	fehlgeschlagen	0 / 220	8,00 s
Fakt hinterlegen	fehlgeschlagen	0 / 160	7,00 s
Entitaet suchen	bestanden	14 / 140	60,00 s
Aufgabenliste anlegen	bestanden	115 / 130	5,00 s
Aufgaben ergaenzen	bestanden	147 / 170	9,00 s
Boards sichten	bestanden	93 / 120	10,00 s
Board-Aufgabe anlegen	bestanden	144 / 190	16,00 s
CSV nach JSON	fehlgeschlagen	0 / 180	17,00 s
JSON validieren	bestanden	112 / 140	10,00 s
Defektes JSON reparieren	bestanden	175 / 220	17,00 s
Pruefsummen	bestanden	16 / 160	62,00 s
Volltextsuche	bestanden	129 / 150	7,00 s
Archiv packen	bestanden	155 / 170	6,00 s
Bestandsaufnahme	bestanden	90 / 120	11,00 s
Titelbild erzeugen	fehlgeschlagen	0 / 250	25,00 s
Bild pruefen	bestanden	117 / 130	5,00 s
Merken	bestanden	126 / 150	8,00 s
Erinnern	bestanden	104 / 120	6,00 s
Fachfrage delegieren	bestanden	156 / 230	32,00 s
Gesamtbericht	bestanden	199 / 240	17,00 s
Abschluss	bestanden	166 / 200	14,00 s

Konfiguration

benchmark-konfiguration — run-20260722-161612-8d5f5c

# LLM-Benchmark Konfiguration # Modell : MiniMax-M2.5 # Engine : vLLM # Run-ID : run-20260722-161612-8d5f5c # GPU : 3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition # CPU : AMD Ryzen Threadripper PRO 9965WX 24-Cores # RAM : 125 GB bench@llm-benchmark:~$ /usr/bin/python3 /usr/local/bin/vllm serve \ --model mratsim/MiniMax-M2.5-BF16-INT4-AWQ \ --served-model-name MiniMax-M2.5 \ --tensor-parallel-size 1 \ --pipeline-parallel-size 3 \ --max-model-len 164000 \ --gpu-memory-utilization 0.90 \ --load-format safetensors \ --trust-remote-code \ --enforce-eager \ --disable-custom-all-reduce \ --enable-auto-tool-choice \ --tool-call-parser minimax_m2 \ --reasoning-parser minimax_m2_append_think

Engine?Die Inferenz-Software, die das Modell ausliefert (z.B. vLLM oder llama.cpp). Sie bestimmt Geschwindigkeit, unterstuetzte Modellformate und welche Parameter ueberhaupt verfuegbar sind.	vllm
Modellalias?Der Name, unter dem das Modell ueber die API angesprochen wird. Genau dieser Wert muss im Request-Feld 'model' stehen.	MiniMax-M2.5
Kontextlaenge?Maximale Anzahl Tokens (Eingabe + erzeugte Ausgabe zusammen), die das Modell pro Anfrage verarbeiten kann.	164000
Modellpfad?Pfad zur GGUF-Modelldatei, die geladen und ausgeliefert wird.	mratsim/MiniMax-M2.5-BF16-INT4-AWQ
Alias?Anzeigename des Modells nach aussen (served model name), unabhaengig vom Dateinamen.	MiniMax-M2.5
Tensor-Parallel?Anzahl GPUs, auf die JEDER einzelne Modell-Layer aufgeteilt wird (Tensor-Parallelitaet). Mehr GPUs = mehr VRAM und meist mehr Speed, aber die Anzahl der Attention-Heads muss durch diesen Wert teilbar sein (z.B. 32 Heads -> nur 1, 2, 4, 8 ... moeglich, NICHT 3).	1
Pipeline-Parallel?Anzahl GPUs, auf die die Modell-Layer der Reihe nach (als Pipeline) verteilt werden. Nutzt mehrere GPUs OHNE Teilbarkeits-Anforderung der Heads; erhoeht vor allem Kapazitaet und Durchsatz, die Latenz einer einzelnen Anfrage aber nicht zwingend.	3
Kontext?Groesse des Kontextfensters in Token. 0 = der beim Training verwendete Kontext des Modells.	164000
GPU-Speicher?Anteil des GPU-Speichers (0 bis 1), den vLLM belegen darf. 0.92 = 92 %. Hoeher = mehr Platz fuer den KV-Cache (mehr/laengere parallele Anfragen), aber groesseres Risiko fuer 'Out of Memory'.	0.90
Load-Format?Format, aus dem die Gewichte geladen werden (auto, safetensors, pt ...). 'auto' erkennt es selbst.	safetensors
Trust-Remote-Code?Erlaubt vLLM, mit dem Modell mitgelieferten Python-Code auszufuehren. Noetig fuer Architekturen, die vLLM nicht von Haus aus kennt. Nur bei vertrauenswuerdigen Modellen aktivieren.	aktiv
Enforce-Eager?Schaltet die optimierte Graph-Ausfuehrung (CUDA-/HIP-Graphs) AB und rechnet Schritt fuer Schritt. Startet schneller und spart etwas VRAM, ist im laufenden Betrieb aber meist langsamer als mit Graphs.	aktiv
Custom-AllReduce aus?Deaktiviert den custom All-Reduce-Kernel bei Multi-GPU und faellt auf NCCL zurueck. Hilft bei Stabilitaetsproblemen mit Tensor-Parallelismus.	aktiv
Auto-Tool-Choice?Erlaubt dem Modell, Tools (Function-Calling) selbststaendig auszuwaehlen. MUSS aktiv sein, damit 'tools' im Request akzeptiert werden - sonst lehnt vLLM sie mit HTTP 400 ab.	aktiv
Tool-Parser?Bestimmt, wie vLLM Tool-Aufrufe aus der Modellantwort ausliest (z.B. hermes, mistral, llama3_json). Muss zum Modell passen.	minimax_m2
Reasoning-Parser?Trennt den Denk-/Reasoning-Teil der Antwort vom eigentlichen Inhalt (z.B. bei Modellen mit <think>-Bloecken).	minimax_m2_append_think

Alle Benchmarks dieses Modells Zum Leaderboard

Modell-Vergleich

MiniMax-M2.5 auf verschiedener Hardware

Alle veröffentlichten Performance-Läufe dieses Modells – jede Blase eine Variante: Position = Prefill (X) × Generation (Y), Blasengröße = Anzahl Läufe. Näher oben rechts = schneller. ★ Gold markiert = dieser Benchmark.

GPUnach Grafikkarte

★ NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition 551,0 tok/s dieser LaufNVIDIA GB10 (DGX Spark) 105,6 tok/sAMD Radeon AI PRO R9700 66,1 tok/sNVIDIA GeForce RTX 5070 Ti 22,5 tok/sAMD Radeon PRO W7900 Dual Slot 19,3 tok/sNVIDIA GeForce RTX 3090 Ti 15,9 tok/sNVIDIA RTX PRO 6000 Blackwell Workstation Edition 7,0 tok/sNVIDIA GeForce RTX 5090 4,4 tok/sNVIDIA GeForce RTX 2060 0,8 tok/s

CPUnach Prozessor

★ AMD Ryzen Threadripper PRO 9965WX 24-Cores 551,0 tok/s dieser LaufNVIDIA Grace 105,6 tok/sAMD Ryzen Threadripper PRO 7955WX 16-Cores 66,1 tok/sAMD Ryzen Threadripper PRO 5975WX 32-Cores 22,5 tok/sAMD Ryzen 9 8945HX with Radeon Graphics 15,9 tok/sAMD Ryzen 9 9950X 16-Core Processor 7,0 tok/sAMD Ryzen 7 5800X3D 8-Core Processor 4,4 tok/sIntel(R) Xeon(R) CPU E5-4620 v2 @ 2.60GHz 0,8 tok/s

MBnach Mainboard

★ ASUSTeK COMPUTER INC. Pro WS WRX90E-SAGE SE 551,0 tok/s dieser LaufASUSTeK COMPUTER INC. GX10 105,6 tok/sunbekannt 62,7 tok/sASUSTeK COMPUTER INC. Pro WS WRX80E-SAGE SE WIFI 22,5 tok/sMeigao Innovation Technology (Shen Zhen) Co., Ltd DRFXL (MotherBoard Series) 15,9 tok/sASUSTeK COMPUTER INC. ProArt X870E-CREATOR WIFI 7,0 tok/sASUSTeK COMPUTER INC. ROG STRIX B550-A GAMING 4,4 tok/sDell Inc. PowerEdge R820 0,8 tok/s

ENGnach Engine

llama.cpp 551,0 tok/s★ vLLM 105,6 tok/s dieser Laufunbekannt 62,7 tok/s

DRVnach Treiber

unbekannt 551,0 tok/sNVIDIA 590.48.01 / CUDA 13.1 105,6 tok/sNVIDIA 580.159.04 / CUDA 13.0 62,7 tok/sAMD 7.0.0-27-generic 6,5 tok/s

Beigesteuert von

Mario Alka Administrator

@marioalka

Ich bin Unternehmer, Softwareentwickler und KI-Enthusiast. Seit vielen Jahren entwickle ich Unternehmenssoftware und beschäftige mich inzwischen fast täglich mit lokalen LLMs, KI-Agenten und leistungsfähiger KI-Hardware.

Mit LLM-Benchmark.de möchte ich eine Plattform schaffen, auf der Modelle, GPUs und Agenten objektiv und reproduzierbar miteinander verglichen werden.