Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
DEEN
Sign in Sign up
Beta
🧮
Mainboard

ASRockRack ROMED8-2T/BCM

ASRock1 CPU6 Benchmarks
CPUs
1
Models
2
Benchmarks
6
Best generation
388,1 tok/s
🏆
Ling-3.0-flash läuft am schnellsten auf diesem Board · 388,1 tok/s
2 Modelle mit Performance-Daten getestet

Top models by token generation

Bester gemessener Generierungs-Durchsatz je Modell auf ASRockRack ROMED8-2T/BCM (tok/s) – klicken für Leaderboard-Filter.

Ling-3.0-flash127.5B
388,1 tok/s
Qwen3.8-Flash-Next180B
71,7 tok/s
Anzeige
Model comparison

Tested models compared

Jede Blase ist ein Modell auf ASRockRack ROMED8-2T/BCM – Position: Prompt-Verarbeitung (X) × Ausgabe-Geschwindigkeit (Y), Blasengröße: Anzahl Messläufe. Naeher an der oberen rechten Ecke = schneller.

MODnach Modell

4903682451230,004.1468.29212.438Prefill (tok/s)Generation (tok/s)Ling-3.0-flash - 388,1 tok/s Generation, 10.088 tok/s Prefill, TTFT 1.544 ms (3 Laufe)Ling-3.0-flashQwen3.8-Flash-Next - 71,7 tok/s Generation, 397 tok/s Prefill, TTFT 26.126 ms (3 Laufe)Qwen3.8-Flash-Next
Ling-3.0-flash 388,1 tok/sQwen3.8-Flash-Next 71,7 tok/s

Processors on this board

CPUAMD EPYC 7203P 8-Core ProcessorAMD · 6 Läufe388,1 tok/s

Graphics cards on this board

GPU2x NVIDIA RTX A6000NVIDIA · 6 Läufe388,1 tok/s

Tested models

MLing-3.0-flash127.5BinclusionAI · 3 Läufe MQwen3.8-Flash-Next180BQwen (Alibaba) · 3 Läufe
Throughput & latency

Performancebenchmark

6 veroeffentlichte Performance-Läufe auf ASRockRack ROMED8-2T/BCM.

In the leaderboard →
Metric:
Size
#Model / MakerMetricsParallelGPU / CPU / RAMRuntime
1Ling-3.0-flash127.5BinclusionAI Performance benchmarkTimebench 3 - Kombi (Prefill + Generation)
388,05 tok/s TG
Prefill 16.198 · TTFT 2.053 ms
10×2x NVIDIA RTX A6000AMD EPYC 7203P 8-Core Processor · 252 GB RAMvLLMgodclawINT4Details →
2Ling-3.0-flash127.5BinclusionAI Performance benchmarkTimebench 3 - Kombi (Prefill + Generation)
343,90 tok/s TG
Prefill 9.629 · TTFT 1.973 ms
5×2x NVIDIA RTX A6000AMD EPYC 7203P 8-Core Processor · 252 GB RAMvLLMgodclawINT4Details →
3Ling-3.0-flash127.5BinclusionAI Performance benchmarkTimebench 3 - Kombi (Prefill + Generation)
99,60 tok/s TG
Prefill 4.438 · TTFT 606 ms
1×2x NVIDIA RTX A6000AMD EPYC 7203P 8-Core Processor · 252 GB RAMvLLMgodclawINT4Details →
4Qwen3.8-Flash-Next180BQwen (Alibaba) Performance benchmarkTimebench 3 - Kombi (Prefill + Generation)
71,73 tok/s TG
Prefill 560 · TTFT 40.628 ms
10×2x NVIDIA RTX A6000AMD EPYC 7203P 8-Core Processor · 252 GB RAMllama.cppgodclawUD-Q4_K_XLDetails →
5Qwen3.8-Flash-Next180BQwen (Alibaba) Performance benchmarkTimebench 3 - Kombi (Prefill + Generation)
60,89 tok/s TG
Prefill 409 · TTFT 24.788 ms
5×2x NVIDIA RTX A6000AMD EPYC 7203P 8-Core Processor · 252 GB RAMllama.cppgodclawUD-Q4_K_XLDetails →
6Qwen3.8-Flash-Next180BQwen (Alibaba) Performance benchmarkTimebench 3 - Kombi (Prefill + Generation)
36,99 tok/s TG
Prefill 221 · TTFT 12.961 ms
1×2x NVIDIA RTX A6000AMD EPYC 7203P 8-Core Processor · 252 GB RAMllama.cppgodclawUD-Q4_K_XLDetails →
Agent & chat rating

Harnessbenchmark

0 veroeffentlichte Harness-Läufe auf ASRockRack ROMED8-2T/BCM.

In the leaderboard →
Noch keine Harnessbenchmarks auf diesem Mainboard.

← All hardware