Mistral AI
Mistral-Small-3.1-24B-Instruct-2503
Benchmarkprofil und veroeffentlichte Ergebnisse.
Dense24B
Einordnung im Feld
Bestwerte im Vergleich
Beste Messwerte dieses Modells gegen Minimum, Durchschnitt und Maximum aller veroeffentlichten Systeme.
Generation33,5 tok/s
Min 2,0Ø 42,5Max 147,8
Unter dem Durchschnitt · 135 Systeme im Feld
Prefill9.072 tok/s
Min 22Ø 2.886Max 9.072
Spitzenwert im Feld · 133 Systeme im Feld
Time to First Token245 ms
Min 91Ø 1.685Max 21.346
Ueber dem Durchschnitt · 135 Systeme im Feld
Agent- & Chat-Bewertung
Harnessbenchmark
Noch keine Harnessbenchmarks fuer dieses Modell.
Durchsatz & Latenz
Performancebenchmark
| # | Modell / Hersteller | Typ | Messwerte | GPU / CPU / RAM | Runtime | Datum | ||
|---|---|---|---|---|---|---|---|---|
| 1 | Mistral-Small-3.1-24B-Instruct-2503Mistral AITimebench 3 - Kombi (Prefill + Generation) | Performancebenchmark | 33,48 tok/s Prefill 1.390 · TTFT 1.474 ms | 3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAM | llama.cppgodclaw | 21.07.2026 | Details → | |
| 2 | Mistral-Small-3.1-24B-Instruct-2503Mistral AITimebench 3 - Kombi (Prefill + Generation) | Performancebenchmark | 33,10 tok/s Prefill 1.265 · TTFT 1.767 ms | 3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAM | llama.cppgodclaw Q4_K_M | 21.07.2026 | Details → | |
| 3 | Mistral-Small-3.1-24B-Instruct-2503Mistral AITimebench 3 - Kombi (Prefill + Generation) | Performancebenchmark | 32,98 tok/s Prefill 2.592 · TTFT 790 ms | 3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAM | llama.cppgodclaw Q4_K_M | 21.07.2026 | Details → | |
| 4 | Mistral-Small-3.1-24B-Instruct-2503Mistral AITimebench 3 - Kombi (Prefill + Generation) | Performancebenchmark | 31,27 tok/s Prefill 1.563 · TTFT 1.699 ms | 3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAM | llama.cppgodclaw Q4_K_M | 21.07.2026 | Details → | |
| 5 | Mistral-Small-3.1-24B-Instruct-2503Mistral AITimebench 3 - Kombi (Prefill + Generation) | Performancebenchmark | 29,97 tok/s Prefill 1.536 · TTFT 2.083 ms | 3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAM | llama.cppgodclaw Q4_K_M | 21.07.2026 | Details → | |
| 6 | Mistral-Small-3.1-24B-Instruct-2503Mistral AITimebench 3 - Kombi (Prefill + Generation) | Performancebenchmark | 28,76 tok/s Prefill 1.407 · TTFT 1.945 ms | 3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAM | llama.cppgodclaw Q4_K_M | 21.07.2026 | Details → | |
| 7 | Mistral-Small-3.1-24B-Instruct-2503Mistral AITimebench 3 - Kombi (Prefill + Generation) | Performancebenchmark | 15,00 tok/s Prefill 9.072 · TTFT 245 ms | 3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAM | vLLMgodclaw INT4 | 22.07.2026 | Details → | |
| 8 | Mistral-Small-3.1-24B-Instruct-2503Mistral AITimebench 3 - Kombi (Prefill + Generation) | Performancebenchmark | 6,98 tok/s Prefill 4.076 · TTFT 559 ms | 3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAM | vLLMgodclaw INT4 | 22.07.2026 | Details → | |
| 9 | Mistral-Small-3.1-24B-Instruct-2503Mistral AITimebench 3 - Kombi (Prefill + Generation) | Performancebenchmark | 6,13 tok/s Prefill 2.944 · TTFT 763 ms | 3x AMD Radeon AI PRO R970032x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAM | vLLMgodclaw INT4 | 22.07.2026 | Details → |