M
Hersteller
microsoft
Herstellerprofil und zugeordnete Modelle.
Beste Token-Generierung
302,0 tok/s
Phi-3.5-mini-instruct
Bester Prefill
19.405,8 tok/s
Phi-3.5-mini-instruct
∅ Token-Generierung
179,2 tok/s
Schnitt aus 6 Läufen
∅ Prefill
8.523,4 tok/s
Schnitt aus 6 Läufen
Bester TTFT
380 ms
Phi-3.5-mini-instruct
Beste Harness-Quote
0%
noch kein Harness-Lauf
🏆
Phi-3.5-mini-instruct · schnellstes Modell mit 302,0 tok/s Token-Generierung
Bester Prefill des Herstellers: 19.405,8 tok/s (Phi-3.5-mini-instruct)
Bester Prefill des Herstellers: 19.405,8 tok/s (Phi-3.5-mini-instruct)
Top-Modelle nach Token-Generierung
Bester gemessener Generierungs-Durchsatz je Modell (tok/s), veröffentlichte Performancebenchmarks.
Modelle
Alle Benchmarks →