Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
DEEN
Sign in Sign up
Beta
🧮
Mainboard

Dell Inc. PowerEdge R820

Dell2 CPUs39 Benchmarks⚡ 10 W Idle
CPUs
2
Models
18
Benchmarks
39
Best generation
14,5 tok/s
🏆
gpt-oss-20b läuft am schnellsten auf diesem Board · 14,5 tok/s
18 Modelle mit Performance-Daten getestet

Top models by token generation

Bester gemessener Generierungs-Durchsatz je Modell auf Dell Inc. PowerEdge R820 (tok/s) – klicken für Leaderboard-Filter.

gpt-oss-20b20B
14,5 tok/s
Qwen3-30B-A3B-Thinking-250730B
8,5 tok/s
Nemotron-3-Nano-4B4B
8,0 tok/s
Qwen3-30B-A3B-Instruct-250730B
7,1 tok/s
Qwen3-Coder-30B-A3B-Instruct30B
6,7 tok/s
Nemotron-3-Nano-30B-A3B30B
6,6 tok/s
Nemotron-Cascade-2-30B-A3B30B
5,9 tok/s
gpt-oss-120b120B
5,3 tok/s
North-Mini-Code-1.0
5,1 tok/s
Qwen3.6-35B-A3B35B
4,3 tok/s
Meta-Llama-3.1-8B-Instruct8B
3,6 tok/s
MiniMax-M2.7230B
2,6 tok/s
Anzeige
Model comparison

Tested models compared

Jede Blase ist ein Modell auf Dell Inc. PowerEdge R820 – Position: Prompt-Verarbeitung (X) × Ausgabe-Geschwindigkeit (Y), Blasengröße: Anzahl Messläufe. Naeher an der oberen rechten Ecke = schneller.

MODnach Modell

18,614,09,34,70,004284126Prefill (tok/s)Generation (tok/s)gpt-oss-20b - 14,5 tok/s Generation, 88 tok/s Prefill, TTFT 122.346 ms (3 Laufe)gpt-oss-20bQwen3-30B-A3B-Thinking-2507 - 8,5 tok/s Generation, 74 tok/s Prefill, TTFT 134.321 ms (3 Laufe)Qwen3-30B-A3B-Thinkin...Nemotron-3-Nano-4B - 8,0 tok/s Generation, 63 tok/s Prefill, TTFT 139.289 ms (3 Laufe)Nemotron-3-Nano-4BQwen3-30B-A3B-Instruct-2507 - 7,1 tok/s Generation, 102 tok/s Prefill, TTFT 109.338 ms (3 Laufe)Qwen3-30B-A3B-Instruc...Qwen3-Coder-30B-A3B-Instruct - 6,7 tok/s Generation, 103 tok/s Prefill, TTFT 107.342 ms (3 Laufe)Qwen3-Coder-30B-A3B-I...Nemotron-3-Nano-30B-A3B - 6,6 tok/s Generation, 72 tok/s Prefill, TTFT 131.051 ms (3 Laufe)Nemotron-3-Nano-30B-A...Nemotron-Cascade-2-30B-A3B - 5,9 tok/s Generation, 72 tok/s Prefill, TTFT 130.288 ms (3 Laufe)Nemotron-Cascade-2-30...gpt-oss-120b - 5,3 tok/s Generation, 42 tok/s Prefill, TTFT 165.568 ms (3 Laufe)gpt-oss-120bNorth-Mini-Code-1.0 - 5,1 tok/s Generation, 89 tok/s Prefill, TTFT 113.797 ms (3 Laufe)North-Mini-Code-1.0Qwen3.6-35B-A3B - 4,3 tok/s Generation, 62 tok/s Prefill, TTFT 31.435 ms (1 Lauf)Qwen3.6-35B-A3BMeta-Llama-3.1-8B-Instruct - 3,6 tok/s Generation, 36 tok/s Prefill, TTFT 59.044 ms (1 Lauf)Meta-Llama-3.1-8B-Ins...MiniMax-M2.7 - 2,6 tok/s Generation, 24 tok/s Prefill, TTFT 193.311 ms (3 Laufe)MiniMax-M2.7Qwen2.5-72B-Instruct - 2,3 tok/s Generation, 81 tok/s Prefill, TTFT 569 ms (2 Laufe)Qwen2.5-72B-InstructGLM-4.5-Air - 2,1 tok/s Generation, 18 tok/s Prefill, TTFT 117.963 ms (1 Lauf)GLM-4.5-AirDeepSeek-V4-Flash-284B-A13B - 1,2 tok/s Generation, 14 tok/s Prefill, TTFT 148.315 ms (1 Lauf)DeepSeek-V4-Flash-284...OpenReasoning-Nemotron-32B - 1,1 tok/s Generation, 8 tok/s Prefill, TTFT 266.668 ms (1 Lauf)OpenReasoning-Nemotro...Seed-OSS-36B-Instruct - 1,0 tok/s Generation, 8 tok/s Prefill, TTFT 240.790 ms (1 Lauf)Seed-OSS-36B-InstructMiniMax-M2.5 - 0,8 tok/s Generation, 22 tok/s Prefill, TTFT 98.716 ms (1 Lauf)MiniMax-M2.5
gpt-oss-20b 14,5 tok/sQwen3-30B-A3B-Thinking-2507 8,5 tok/sNemotron-3-Nano-4B 8,0 tok/sQwen3-30B-A3B-Instruct-2507 7,1 tok/sQwen3-Coder-30B-A3B-Instruct 6,7 tok/sNemotron-3-Nano-30B-A3B 6,6 tok/sNemotron-Cascade-2-30B-A3B 5,9 tok/sgpt-oss-120b 5,3 tok/sNorth-Mini-Code-1.0 5,1 tok/sQwen3.6-35B-A3B 4,3 tok/sMeta-Llama-3.1-8B-Instruct 3,6 tok/sMiniMax-M2.7 2,6 tok/sQwen2.5-72B-Instruct 2,3 tok/sGLM-4.5-Air 2,1 tok/sDeepSeek-V4-Flash-284B-A13B 1,2 tok/sOpenReasoning-Nemotron-32B 1,1 tok/sSeed-OSS-36B-Instruct 1,0 tok/sMiniMax-M2.5 0,8 tok/s

Processors on this board

CPUIntel(R) Xeon(R) CPU E5-4620 v2 @ 2.60GHzIntel · 38 Läufe14,5 tok/s CPUIntel(R) Xeon(R) CPU E5-4657L v2 @ 2.40GHzIntel · 1 Läufe2,3 tok/s

Graphics cards on this board

GPU2x NVIDIA GeForce RTX 2060NVIDIA · 38 Läufe14,5 tok/s

Tested models

Mgpt-oss-20b20BOpenAI · 3 Läufe MQwen3-30B-A3B-Thinking-250730BQwen (Alibaba) · 3 Läufe MNemotron-3-Nano-4B4BNVIDIA · 3 Läufe MQwen3-30B-A3B-Instruct-250730BQwen (Alibaba) · 3 Läufe MQwen3-Coder-30B-A3B-Instruct30BQwen (Alibaba) · 3 Läufe MNemotron-3-Nano-30B-A3B30BNVIDIA · 3 Läufe MNemotron-Cascade-2-30B-A3B30BNVIDIA · 3 Läufe Mgpt-oss-120b120BOpenAI · 3 Läufe MNorth-Mini-Code-1.0Cohere · 3 Läufe MQwen3.6-35B-A3B35BQwen (Alibaba) · 1 Läufe MMeta-Llama-3.1-8B-Instruct8BMeta · 1 Läufe MMiniMax-M2.7230BMiniMax · 3 Läufe MQwen2.5-72B-Instruct72BQwen (Alibaba) · 2 Läufe MGLM-4.5-Air106BZ.ai (Zhipu) · 1 Läufe MDeepSeek-V4-Flash-284B-A13B284BDeepSeek · 1 Läufe MOpenReasoning-Nemotron-32B32BNVIDIA · 1 Läufe MSeed-OSS-36B-Instruct36BByteDance Seed · 1 Läufe MMiniMax-M2.5230BMiniMax · 1 Läufe

Operating systems used

🖥Ubuntu 24.04.3 LTS (Kernel 7.0.0-28-generic)

← All hardware