Poolside
Laguna-XS-2.1-INT433.4B
Benchmarkprofil und veröffentlichte Ergebnisse.
MoE33.4B
Einordnung im Feld
Bestwerte im Vergleich
Beste Messwerte dieses Modells gegen Minimum, Durchschnitt und Maximum aller veröffentlichten Systeme.
Generation26,9 tok/s
Min 0,0Ø 77,4Max 667,0
Unter dem Durchschnitt · 978 Systeme im Feld
Prefill3.698 tok/s
Min 4Ø 2.302Max 35.719
Ueber dem Durchschnitt · 978 Systeme im Feld
Time to First Token748 ms
Min 31Ø 57.832Max 535.235
Ueber dem Durchschnitt · 976 Systeme im Feld
Performanceprofil
Durchsatz nach Hardware & Engine
Jede Blase steht für eine GPU, CPU bzw. Engine – die Position zeigt Prompt-Verarbeitung (X) und Ausgabe-Geschwindigkeit (Y), die Blasengröße die Anzahl der Messläufe.
Durchsatz & Latenz
Performancebenchmark
| # | Modell / Hersteller | Messwerte | Parallel | GPU / CPU / RAM | Runtime | ||
|---|---|---|---|---|---|---|---|
| 1 | Laguna-XS-2.1-INT433.4BPoolside PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation) | 26,88 tok/s TG Prefill 3.698 · TTFT 748 ms | 1× | 3x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAM | vLLMgodclawINT4 | Details → | |
| 2 | Laguna-XS-2.1-INT433.4BPoolside Performancebenchmark | 26,88 tok/s TG Prefill 3.698 · TTFT 748 ms | 1× | 3x AMD Radeon AI PRO R9700 i32x AMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAM | godclawINT4 | Details → |
Agent- & Chat-Bewertung
Harnessbenchmark
Noch keine Harnessbenchmarks fuer dieses Modell.