Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
Mistral AI

Ministral-3-14B-Reasoning-2512

Benchmarkprofil und veroeffentlichte Ergebnisse.

Dense14B
Einordnung im Feld

Bestwerte im Vergleich

Beste Messwerte dieses Modells gegen Minimum, Durchschnitt und Maximum aller veroeffentlichten Systeme.

Generation131,2 tok/s
Min 0,0Ø 89,4Max 1.295,3
Ueber dem Durchschnitt · 319 Systeme im Feld
Prefill4.646 tok/s
Min 6Ø 3.183Max 37.116
Ueber dem Durchschnitt · 318 Systeme im Feld
Time to First Token593 ms
Min 91Ø 21.684Max 299.591
Ueber dem Durchschnitt · 320 Systeme im Feld
Performanceprofil

Durchsatz nach Hardware & Engine

Jede Blase steht für eine GPU, CPU bzw. Engine – die Position zeigt Prompt-Verarbeitung (X) und Ausgabe-Geschwindigkeit (Y), die Blasengröße die Anzahl der Messläufe.

GPUnach Grafikkarte

15712898,769,440,24901.6982.9064.113Prefill (tok/s)Generation (tok/s)AMD Radeon AI PRO R9700 - 131,2 tok/s Generation, 3.480 tok/s Prefill, TTFT 2.246 ms (5 Laufe)AMD Radeon AI PRO R97...AMD Radeon 8060S Graphics - 66,3 tok/s Generation, 1.123 tok/s Prefill, TTFT 10.027 ms (3 Laufe)AMD Radeon 8060S Grap...
AMD Radeon AI PRO R9700 131,2 tok/sAMD Radeon 8060S Graphics 66,3 tok/s

CPUnach Prozessor

15712898,769,440,24901.6982.9064.113Prefill (tok/s)Generation (tok/s)AMD Ryzen Threadripper PRO 7955WX 16-Cores - 131,2 tok/s Generation, 3.480 tok/s Prefill, TTFT 2.246 ms (5 Laufe)AMD Ryzen Threadrippe...AMD RYZEN AI MAX+ 395 w/ Radeon 8060S - 66,3 tok/s Generation, 1.123 tok/s Prefill, TTFT 10.027 ms (3 Laufe)AMD RYZEN AI MAX+ 395...
AMD Ryzen Threadripper PRO 7955WX 16-Cores 131,2 tok/sAMD RYZEN AI MAX+ 395 w/ Radeon 8060S 66,3 tok/s

ENGnach Engine

15712898,769,440,22.1032.4792.8563.233Prefill (tok/s)Generation (tok/s)unbekannt - 131,2 tok/s Generation, 2.953 tok/s Prefill, TTFT 3.889 ms (3 Laufe)unbekanntllama.cpp - 66,3 tok/s Generation, 2.383 tok/s Prefill, TTFT 5.928 ms (5 Laufe)llama.cpp
unbekannt 131,2 tok/sllama.cpp 66,3 tok/s
Agent- & Chat-Bewertung

Harnessbenchmark

Noch keine Harnessbenchmarks fuer dieses Modell.
Durchsatz & Latenz

Performancebenchmark

Messwert:
#Modell / HerstellerMesswerteParallelGPU / CPU / RAMRuntime
1Ministral-3-14B-Reasoning-2512Mistral AI PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
131,17 tok/s TG
Prefill 3.478 · TTFT 3.246 ms
5×3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMgodclawQ4_K_M
2Ministral-3-14B-Reasoning-2512Mistral AI PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
122,01 tok/s TG
Prefill 4.646 · TTFT 5.658 ms
10×3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMgodclawQ4_K_M
3Ministral-3-14B-Reasoning-2512Mistral AI PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
66,26 tok/s TG
Prefill 1.512 · TTFT 17.280 ms
10×AMD Radeon 8060S Graphics32x AMD RYZEN AI MAX+ 395 w/ Radeon 8060S · 31 GB RAMllama.cppgodclawQ4_K_M
4Ministral-3-14B-Reasoning-2512Mistral AI PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
56,83 tok/s TG
Prefill 1.123 · TTFT 10.037 ms
5×AMD Radeon 8060S Graphics32x AMD RYZEN AI MAX+ 395 w/ Radeon 8060S · 31 GB RAMllama.cppgodclawQ4_K_M
5Ministral-3-14B-Reasoning-2512Mistral AI PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
51,00 tok/s TG
Prefill 3.205 · TTFT 716 ms
1×3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMllama.cppgodclawQ4_K_M
6Ministral-3-14B-Reasoning-2512Mistral AI PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
50,36 tok/s TG
Prefill 3.889 · TTFT 593 ms
1×3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMllama.cppgodclawQ4_K_M
7Ministral-3-14B-Reasoning-2512Mistral AI PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
47,59 tok/s TG
Prefill 2.183 · TTFT 1.016 ms
1×3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMllama.cppgodclawQ4_K_M
8Ministral-3-14B-Reasoning-2512Mistral AI PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
24,83 tok/s TG
Prefill 734 · TTFT 2.764 ms
1×AMD Radeon 8060S Graphics32x AMD RYZEN AI MAX+ 395 w/ Radeon 8060S · 31 GB RAMgodclawQ4_K_M