Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
StepFun

Step-3.5-Flash

Benchmarkprofil und veröffentlichte Ergebnisse.

Einordnung im Feld

Bestwerte im Vergleich

Beste Messwerte dieses Modells gegen Minimum, Durchschnitt und Maximum aller veröffentlichten Systeme.

Generation16,8 tok/s
Min 0,1Ø 159,1Max 717,6
Unter dem Durchschnitt · 361 Systeme im Feld
Prefill219 tok/s
Min 39Ø 5.819Max 52.503
Unter dem Durchschnitt · 361 Systeme im Feld
Time to First Token26.457 ms
Min 156Ø 18.353Max 354.928
Unter dem Durchschnitt · 361 Systeme im Feld
Performanceprofil

Durchsatz nach Hardware & Engine

Jede Blase steht für eine GPU, CPU bzw. Engine – die Position zeigt Prompt-Verarbeitung (X) und Ausgabe-Geschwindigkeit (Y), die Blasengröße die Anzahl der Messläufe.

GPUnach Grafikkarte

18,517,616,815,915,1151158164171Prefill (tok/s)Generation (tok/s)AMD Radeon RX 7900 XTX - 16,8 tok/s Generation, 161 tok/s Prefill, TTFT 74.043 ms (3 Laufe)AMD Radeon RX 7900 XTX
AMD Radeon RX 7900 XTX 16,8 tok/s

CPUnach Prozessor

18,517,616,815,915,1151158164171Prefill (tok/s)Generation (tok/s)AMD Ryzen Threadripper PRO 3955WX 16-Cores - 16,8 tok/s Generation, 161 tok/s Prefill, TTFT 74.043 ms (3 Laufe)AMD Ryzen Threadrippe...
AMD Ryzen Threadripper PRO 3955WX 16-Cores 16,8 tok/s

ENGnach Engine

18,517,616,815,915,1151158164171Prefill (tok/s)Generation (tok/s)llama.cpp - 16,8 tok/s Generation, 161 tok/s Prefill, TTFT 74.043 ms (3 Laufe)llama.cpp
llama.cpp 16,8 tok/s
Durchsatz & Latenz

Performancebenchmark

Messwert:
#Modell / HerstellerMesswerteParallelGPU / CPU / RAMRuntime
1Step-3.5-FlashStepFun PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
16,78 tok/s TG
Prefill 165 · TTFT 73.137 ms
5×2x AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 189 GB RAMllama.cppgodclawQ4_K_M
2Step-3.5-FlashStepFun PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
15,35 tok/s TG
Prefill 219 · TTFT 122.535 ms
10×2x AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 189 GB RAMllama.cppgodclawQ4_K_M
3Step-3.5-FlashStepFun PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
11,46 tok/s TG
Prefill 99 · TTFT 26.457 ms
1×2x AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 189 GB RAMllama.cppgodclawQ4_K_M
Agent- & Chat-Bewertung

Harnessbenchmark

Noch keine Harnessbenchmarks fuer dieses Modell.