Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
Beta
🎮
Grafikkarte

NVIDIA GeForce RTX 5090

NVIDIA32 GB VRAM
12Benchmarks
4Modelle
12Performance
0Harness
Beste Generation
1.295,3 tok/s
gpt-oss-20b
∅ Generation
647,6 tok/s
Schnitt aus 12 Läufen
Bester Prefill
37.116 tok/s
Prompt-Verarbeitung
Bester TTFT
272 ms
Time to First Token
Beste Harness-Quote
–%
noch kein Harness
🏆
gpt-oss-20b läuft am schnellsten auf dieser GPU · 1.295,3 tok/s
Bester Prefill: 37.116 tok/s · 4 Modelle getestet

Top-Modelle

Bester gemessener Durchsatz je Modell auf NVIDIA GeForce RTX 5090 – umschaltbar nach Generation, Prefill oder Kombiwert.

gpt-oss-20b
1.295,3 tok/s
Qwen3-Coder-30B-A3B-Instruct
966,2 tok/s
Qwen3-30B-A3B-Instruct-2507
909,3 tok/s
Qwen3-30B-A3B-Thinking-2507
873,7 tok/s
Performanceprofil

Durchsatz auf NVIDIA GeForce RTX 5090

Jede Blase steht für ein Modell, eine Engine bzw. eine CPU – Position: Prompt-Verarbeitung (X) × Ausgabe (Y), Blasengröße: Anzahl Messläufe.

MODnach Modell

1.5091.2971.08587266014.77317.57920.38423.190Prefill (tok/s)Generation (tok/s)gpt-oss-20b - 1.295,3 tok/s Generation, 16.820 tok/s Prefill, TTFT 547 ms (3 Laufe)gpt-oss-20bQwen3-Coder-30B-A3B-Instruct - 966,2 tok/s Generation, 18.086 tok/s Prefill, TTFT 1.143 ms (3 Laufe)Qwen3-Coder-30B-A3B-I...Qwen3-30B-A3B-Instruct-2507 - 909,3 tok/s Generation, 21.143 tok/s Prefill, TTFT 1.008 ms (3 Laufe)Qwen3-30B-A3B-Instruc...Qwen3-30B-A3B-Thinking-2507 - 873,7 tok/s Generation, 20.565 tok/s Prefill, TTFT 967 ms (3 Laufe)Qwen3-30B-A3B-Thinkin...
gpt-oss-20b 1.295,3 tok/sQwen3-Coder-30B-A3B-Instruct 966,2 tok/sQwen3-30B-A3B-Instruct-2507 909,3 tok/sQwen3-30B-A3B-Thinking-2507 873,7 tok/s

ENGnach Engine

1.4251.3601.2951.2311.16618.00418.77019.53620.302Prefill (tok/s)Generation (tok/s)vLLM - 1.295,3 tok/s Generation, 19.153 tok/s Prefill, TTFT 916 ms (12 Laufe)vLLM
vLLM 1.295,3 tok/s

CPUnach Prozessor

1.4251.3601.2951.2311.16618.00418.77019.53620.302Prefill (tok/s)Generation (tok/s)AMD Ryzen 7 5800X3D 8-Core Processor - 1.295,3 tok/s Generation, 19.153 tok/s Prefill, TTFT 916 ms (12 Laufe)AMD Ryzen 7 5800X3D 8...
AMD Ryzen 7 5800X3D 8-Core Processor 1.295,3 tok/s
Alle Messungen

12 Benchmark-Läufe

Jeder veroeffentlichte Lauf auf NVIDIA GeForce RTX 5090 – Performance und Harness.

Im Leaderboard →
Messwert:
#Modell / HerstellerTypMesswerteParallelGPU / CPU / RAMRuntimeDatum
1gpt-oss-20bOpenAITimebench 3 - Kombi (Prefill + Generation)Performancebenchmark
1.295,30 tok/s TG
Prefill 25.462 · TTFT 808 ms
10×NVIDIA GeForce RTX 509016x AMD Ryzen 7 5800X3D 8-Core Processor · 126 GB RAMvLLMcodex_cli23.07.2026Details →
2Qwen3-Coder-30B-A3B-InstructQwen (Alibaba)Timebench 3 - Kombi (Prefill + Generation)Performancebenchmark
966,21 tok/s TG
Prefill 33.768 · TTFT 1.793 ms
10×NVIDIA GeForce RTX 509016x AMD Ryzen 7 5800X3D 8-Core Processor · 126 GB RAMvLLMcodex_cli AWQ23.07.2026Details →
3Qwen3-30B-A3B-Instruct-2507Qwen (Alibaba)Timebench 3 - Kombi (Prefill + Generation)Performancebenchmark
909,25 tok/s TG
Prefill 37.116 · TTFT 1.783 ms
10×NVIDIA GeForce RTX 509016x AMD Ryzen 7 5800X3D 8-Core Processor · 126 GB RAMvLLMcodex_cli AWQ23.07.2026Details →
4Qwen3-30B-A3B-Thinking-2507Qwen (Alibaba)Timebench 3 - Kombi (Prefill + Generation)Performancebenchmark
873,72 tok/s TG
Prefill 33.023 · TTFT 1.835 ms
10×NVIDIA GeForce RTX 509016x AMD Ryzen 7 5800X3D 8-Core Processor · 126 GB RAMvLLMcodex_cli AWQ23.07.2026Details →
5gpt-oss-20bOpenAITimebench 3 - Kombi (Prefill + Generation)Performancebenchmark
784,45 tok/s TG
Prefill 17.724 · TTFT 560 ms
5×NVIDIA GeForce RTX 509016x AMD Ryzen 7 5800X3D 8-Core Processor · 126 GB RAMvLLMcodex_cli23.07.2026Details →
6Qwen3-Coder-30B-A3B-InstructQwen (Alibaba)Timebench 3 - Kombi (Prefill + Generation)Performancebenchmark
688,61 tok/s TG
Prefill 16.192 · TTFT 873 ms
5×NVIDIA GeForce RTX 509016x AMD Ryzen 7 5800X3D 8-Core Processor · 126 GB RAMvLLMcodex_cli AWQ23.07.2026Details →
7Qwen3-30B-A3B-Instruct-2507Qwen (Alibaba)Timebench 3 - Kombi (Prefill + Generation)Performancebenchmark
655,83 tok/s TG
Prefill 17.990 · TTFT 931 ms
5×NVIDIA GeForce RTX 509016x AMD Ryzen 7 5800X3D 8-Core Processor · 126 GB RAMvLLMcodex_cli AWQ23.07.2026Details →
8Qwen3-30B-A3B-Thinking-2507Qwen (Alibaba)Timebench 3 - Kombi (Prefill + Generation)Performancebenchmark
633,41 tok/s TG
Prefill 20.292 · TTFT 767 ms
5×NVIDIA GeForce RTX 509016x AMD Ryzen 7 5800X3D 8-Core Processor · 126 GB RAMvLLMcodex_cli AWQ23.07.2026Details →
9gpt-oss-20bOpenAITimebench 3 - Kombi (Prefill + Generation)Performancebenchmark
267,04 tok/s TG
Prefill 7.273 · TTFT 272 ms
1×NVIDIA GeForce RTX 509016x AMD Ryzen 7 5800X3D 8-Core Processor · 126 GB RAMvLLMcodex_cli AWQ23.07.2026Details →
10Qwen3-Coder-30B-A3B-InstructQwen (Alibaba)Timebench 3 - Kombi (Prefill + Generation)Performancebenchmark
243,00 tok/s TG
Prefill 4.297 · TTFT 765 ms
1×NVIDIA GeForce RTX 509016x AMD Ryzen 7 5800X3D 8-Core Processor · 126 GB RAMvLLMcodex_cli AWQ23.07.2026Details →
11Qwen3-30B-A3B-Instruct-2507Qwen (Alibaba)Timebench 3 - Kombi (Prefill + Generation)Performancebenchmark
232,79 tok/s TG
Prefill 8.323 · TTFT 311 ms
1×NVIDIA GeForce RTX 509016x AMD Ryzen 7 5800X3D 8-Core Processor · 126 GB RAMvLLMcodex_cli AWQ23.07.2026Details →
12Qwen3-30B-A3B-Thinking-2507Qwen (Alibaba)Timebench 3 - Kombi (Prefill + Generation)Performancebenchmark
221,28 tok/s TG
Prefill 8.379 · TTFT 300 ms
1×NVIDIA GeForce RTX 509016x AMD Ryzen 7 5800X3D 8-Core Processor · 126 GB RAMvLLMcodex_cli AWQ23.07.2026Details →

← Alle Hardware