M
Hersteller
Mistral AI
Franzoesisches KI-Labor; Mistral, Mixtral, Codestral, Devstral, Ministral, Magistral.
Beste Token-Generierung
1.060,0 tok/s
Ministral-3-14B-Reasoning-2512
Bester Prefill
20.061,1 tok/s
Ministral-3-14B-Reasoning-2512
∅ Token-Generierung
135,7 tok/s
Schnitt aus 711 Läufen
∅ Prefill
3.087,7 tok/s
Schnitt aus 711 Läufen
Bester TTFT
20 ms
Magistral-Small-2509
Beste Harness-Quote
87%
Devstral-Small-2-24B-Instruct-2512
🏆
Ministral-3-14B-Reasoning-2512 · schnellstes Modell mit 1.060,0 tok/s Token-Generierung
Bester Prefill des Herstellers: 20.061,1 tok/s (Ministral-3-14B-Reasoning-2512)
Bester Prefill des Herstellers: 20.061,1 tok/s (Ministral-3-14B-Reasoning-2512)
Top-Modelle nach Token-Generierung
Bester gemessener Generierungs-Durchsatz je Modell (tok/s), veröffentlichte Performancebenchmarks.
Modelle
Alle Benchmarks →11 zugeordnet
Codestral-22B-v0.122B98 Läufe
125,5tok/s Ø
Min 13,0Max 641,4
Devstral-2-123B-Instruct-2512123B53 Läufe
20,9tok/s Ø
Min 0,0Max 143,1
Devstral-Small-2-24B-Instruct-251224B107 Läufe
150,1tok/s Ø
Min 8,9Max 725,6
Devstral-Small-250724B95 Läufe
145,6tok/s Ø
Min 13,3Max 647,6
Magistral-Small-250924B101 Läufe
166,2tok/s Ø
Min 4,0Max 737,0
Mamba-Codestral-7B-v0.17B0 Läufe
Noch keine Performancedaten
Ministral-3-14B-Reasoning-251214B123 Läufe
234,2tok/s Ø
Min 22,4Max 1.060,0
Mistral-Medium-3.5-128B128B31 Läufe
9,4tok/s Ø
Min 0,6Max 141,6
Mistral-Small-24B-Instruct-25013 Läufe
92,8tok/s Ø
Min 38,5Max 153,1
Mistral-Small-3.1-24B-Instruct-250324B78 Läufe
67,0tok/s Ø
Min 5,0Max 214,9
Mistral-Small-4-119B-2603119B26 Läufe
93,1tok/s Ø
Min 5,8Max 959,6

