ℹ

Zur Einordnung: Diese Plattform nutzt Unified Memory – die "VRAM" ist gemeinsamer System-RAM (APU/Superchip); das Modell teilt sich den Speicher mit dem System.

Generation27,50tok/s

Prefill109,30tok/s

Time to First Token604,00ms

Gesamtdauer37,85s

Concurrency1parallel

Einordnung im Feld

Diese GPU Alle GPUs

717von 1161 Systemen

Performancebenchmark · Leitmetrik: Generation-Speed (tok/s) · 1× parallel

Dieser Lauf ist besser als 38 % aller vergleichbaren Systeme.

Generation 27,5 tok/s

-63 % vs Ø 74,3

Prefill 109,3 tok/s

-95 % vs Ø 2.324,7

Time to First Token 604 ms

-98 % vs Ø 35.657

Verteilung im Feld0 – 405 tok/s

Ø 74 Median Dieser Lauf

Wie schlägt sich dieser Benchmark mit anderen Modellen?

gpt-oss-20bNVIDIA GeForce RTX 5090 · run-20260724-004608-16af9b

404,6 tok/s

gpt-oss-20bNVIDIA RTX PRO 6000 Blackwell Workstation Edition · run-20260730-035052-9f766a

395,2 tok/s

Nemotron-3-Nano-4BNVIDIA GeForce RTX 5090 · run-20260728-194135-d456e7

393,5 tok/s

Nemotron-3-Nano-4BNVIDIA RTX PRO 6000 Blackwell Workstation Edition · run-20260727-181607-bffb11

393,5 tok/s

gpt-oss-20bNVIDIA GeForce RTX 5090 · run-20260724-004607-29bd16

388,9 tok/s

gpt-oss-20bNVIDIA GeForce RTX 5090 · run-20260729-032121-1c779f

388,2 tok/s

gemma-4-E2B-itNVIDIA RTX PRO 6000 Blackwell Workstation Edition · run-20260727-181606-6ea089

378,6 tok/s

gemma-4-E2B-itNVIDIA GeForce RTX 5090 · run-20260728-184455-e8b129

377,6 tok/s

Nemotron-3-Nano-4B3× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260728-194136-ac388e

362,3 tok/s

Nemotron-3-Nano-4B3× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260728-194136-5e5085

361,4 tok/s

Nemotron-3-Nano-30B-A3BNVIDIA GeForce RTX 5090 · run-20260729-105335-653788

359,4 tok/s

Nemotron-3-Nano-Omni-30B-A3B-ReasoningNVIDIA GeForce RTX 5090 · run-20260729-105334-2c4905

359,3 tok/s

Nemotron-Cascade-2-30B-A3B gleiches ModellNVIDIA GeForce RTX 5090 · run-20260729-105334-44d1e7

359,0 tok/s

Nemotron-3-Nano-Omni-30B-A3B-ReasoningNVIDIA RTX PRO 6000 Blackwell Workstation Edition · run-20260729-032119-4852bf

357,1 tok/s

Nemotron-Cascade-2-30B-A3B dieser LaufAMD Radeon 8060S Graphics · run-20260820-184209-dca769

27,5 tok/s

Wie schlägt sich dieser Benchmark mit anderen GPUs?

Dasselbe Modell auf anderer Hardware · 1× parallel · Generation (tok/s)

NVIDIA GeForce RTX 5090run-20260729-105334-44d1e7

359,0 tok/s

NVIDIA RTX PRO 6000 Blackwell Workstation Editionrun-20260729-032120-4e3476

356,8 tok/s

3× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Editionrun-20260729-105340-3ddb51

330,2 tok/s

3× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Editionrun-20260729-105340-508364

329,9 tok/s

3× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Editionrun-20260729-105340-f538c5

327,7 tok/s

NVIDIA GeForce RTX 3090 Tirun-20260729-060801-1e5cba

221,8 tok/s

NVIDIA GeForce RTX 5070 Tirun-20260818-080548-cee82f

138,8 tok/s

NVIDIA GeForce RTX 5070 Tirun-20260818-071253-cd7611

120,0 tok/s

3× AMD Radeon AI PRO R9700run-20260722-181156-a273f2

107,9 tok/s

NVIDIA GB10run-20260820-124207-595ea8

77,0 tok/s

NVIDIA GeForce RTX 5070 Tirun-20260729-032125-03286f

69,0 tok/s

NVIDIA GB10run-20260820-124207-7e0db9

62,0 tok/s

3× AMD Radeon AI PRO R9700run-20260806-094441-85feb1

32,2 tok/s

3× AMD Radeon AI PRO R9700run-20260806-094441-502c90

31,8 tok/s

Hardware

GPU: AMD Radeon 8060S Graphics
CPU: AMD RYZEN AI MAX+ 395 w/ Radeon 8060S
RAM: 31 GB
Mainboard: Bosgame AXB35-02 (BeyondMax Series)

Setup

Runtime: vLLM
Quantisierung: BF16
Modell: Nemotron-Cascade-2-30B-A3B

Konfiguration

benchmark-konfiguration — run-20260820-184209-dca769

# LLM-Benchmark Konfiguration # Modell : Nemotron-Cascade-2-30B-A3B # Engine : vLLM # Run-ID : run-20260820-184209-dca769 # GPU : AMD Radeon 8060S Graphics # CPU : AMD RYZEN AI MAX+ 395 w/ Radeon 8060S # RAM : 31 GB bench@llm-benchmark:~$ python \ -m vllm.entrypoints.openai.api_server \ --model nvidia/Nemotron-Cascade-2-30B-A3B \ --served-model-name Nemotron-Cascade-2-30B-A3B \ --host 0.0.0.0 \ --port 8000 \ --trust-remote-code \ --dtype bfloat16 \ --enforce-eager \ --gpu-memory-utilization 0.90 \ --max-model-len 65536 \ --max-num-seqs 2 \ --max-num-batched-tokens 65536 \ --no-enable-chunked-prefill \ --reasoning-parser nemotron_v3 \ --enable-auto-tool-choice \ --tool-call-parser qwen3_xml \ --mamba-ssm-cache-dtype float32 \ --generation-config vllm

Engine?Die Inferenz-Software, die das Modell ausliefert (z.B. vLLM oder llama.cpp). Sie bestimmt Geschwindigkeit, unterstuetzte Modellformate und welche Parameter ueberhaupt verfuegbar sind.	vllm
Modellalias?Der Name, unter dem das Modell ueber die API angesprochen wird. Genau dieser Wert muss im Request-Feld 'model' stehen.	Nemotron-Cascade-2-30B-A3B
Kontextlaenge?Maximale Anzahl Tokens (Eingabe + erzeugte Ausgabe zusammen), die das Modell pro Anfrage verarbeiten kann.	65536
Python-Modul?Startet vLLM als Python-Modul (python -m vllm.entrypoints.openai.api_server). Der folgende Wert ist der Modulname.	vllm.entrypoints.openai.api_server
Modellpfad?Pfad zur GGUF-Modelldatei, die geladen und ausgeliefert wird.	nvidia/Nemotron-Cascade-2-30B-A3B
Alias?Anzeigename des Modells nach aussen (served model name), unabhaengig vom Dateinamen.	Nemotron-Cascade-2-30B-A3B
Trust-Remote-Code?Erlaubt vLLM, mit dem Modell mitgelieferten Python-Code auszufuehren. Noetig fuer Architekturen, die vLLM nicht von Haus aus kennt. Nur bei vertrauenswuerdigen Modellen aktivieren.	aktiv
Dtype?Zahlenformat der Modellgewichte bei der Berechnung (z.B. auto, float16, bfloat16). 'auto' waehlt automatisch das vom Modell empfohlene Format.	bfloat16
Enforce-Eager?Schaltet die optimierte Graph-Ausfuehrung (CUDA-/HIP-Graphs) AB und rechnet Schritt fuer Schritt. Startet schneller und spart etwas VRAM, ist im laufenden Betrieb aber meist langsamer als mit Graphs.	aktiv
GPU-Speicher?Anteil des GPU-Speichers (0 bis 1), den vLLM belegen darf. 0.92 = 92 %. Hoeher = mehr Platz fuer den KV-Cache (mehr/laengere parallele Anfragen), aber groesseres Risiko fuer 'Out of Memory'.	0.90
Kontext?Groesse des Kontextfensters in Token. 0 = der beim Training verwendete Kontext des Modells.	65536
Max-Sequenzen?Maximale Anzahl gleichzeitig bearbeiteter Anfragen (Batch-Groesse). Hoeher = mehr Durchsatz, braucht aber mehr KV-Cache-Speicher.	2
Max-Batch-Tokens?Maximale Anzahl Tokens, die pro Rechenschritt gebuendelt verarbeitet werden. Beeinflusst Prefill-Durchsatz und Latenz.	65536
no-enable-chunked-prefill	aktiv
Reasoning-Parser?Trennt den Denk-/Reasoning-Teil der Antwort vom eigentlichen Inhalt (z.B. bei Modellen mit <think>-Bloecken).	nemotron_v3
Auto-Tool-Choice?Erlaubt dem Modell, Tools (Function-Calling) selbststaendig auszuwaehlen. MUSS aktiv sein, damit 'tools' im Request akzeptiert werden - sonst lehnt vLLM sie mit HTTP 400 ab.	aktiv
Tool-Parser?Bestimmt, wie vLLM Tool-Aufrufe aus der Modellantwort ausliest (z.B. hermes, mistral, llama3_json). Muss zum Modell passen.	qwen3_xml
mamba-ssm-cache-dtype	float32
Generation-Config?Quelle der Default-Sampling-Parameter (auto/vllm oder Pfad). Steuert die vom Modell vorgegebenen Defaults fuer temperature/top_p usw.	vllm

Alle Benchmarks dieses Modells Zum Leaderboard

Modell-Vergleich

Nemotron-Cascade-2-30B-A3B auf verschiedener Hardware

Alle veröffentlichten Performance-Läufe dieses Modells – jede Blase eine Variante: Position = Prefill (X) × Generation (Y), Blasengröße = Anzahl Läufe. Näher oben rechts = schneller. ★ Gold markiert = dieser Benchmark.

GPUnach Grafikkarte

NVIDIA RTX PRO 6000 Blackwell Workstation Edition 1.768,1 tok/sNVIDIA GeForce RTX 5090 1.719,2 tok/sNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition 1.655,2 tok/sNVIDIA GeForce RTX 3090 Ti 897,5 tok/s★ AMD Radeon 8060S Graphics 326,9 tok/s dieser LaufNVIDIA GeForce RTX 5070 Ti 262,4 tok/sNVIDIA GB10 (DGX Spark) 148,8 tok/sAMD Radeon AI PRO R9700 122,1 tok/sCPU-only 5,9 tok/s

CPUnach Prozessor

AMD Ryzen 9 9950X 16-Core Processor 1.768,1 tok/sAMD Ryzen 7 5800X3D 8-Core Processor 1.719,2 tok/sAMD Ryzen Threadripper PRO 9965WX 24-Cores 1.655,2 tok/sAMD Ryzen 9 8945HX with Radeon Graphics 897,5 tok/s★ AMD RYZEN AI MAX+ 395 w/ Radeon 8060S 326,9 tok/s dieser LaufAMD Ryzen Threadripper PRO 5975WX 32-Cores 262,4 tok/sAMD Ryzen 9 7945HX with Radeon Graphics 219,6 tok/sNVIDIA Grace 148,8 tok/sAMD Ryzen Threadripper PRO 7955WX 16-Cores 122,1 tok/sIntel(R) Xeon(R) CPU E5-4620 v2 @ 2.60GHz 5,9 tok/s

MBnach Mainboard

ASUSTeK COMPUTER INC. ProArt X870E-CREATOR WIFI 1.768,1 tok/sASUSTeK COMPUTER INC. ROG STRIX B550-A GAMING 1.719,2 tok/sASUSTeK COMPUTER INC. Pro WS WRX90E-SAGE SE 1.655,2 tok/sMeigao Innovation Technology (Shen Zhen) Co., Ltd DRFXL (MotherBoard Series) 897,5 tok/s★ Bosgame AXB35-02 (BeyondMax Series) 326,9 tok/s dieser LaufASUSTeK COMPUTER INC. Pro WS WRX80E-SAGE SE WIFI 262,4 tok/sShenzhen Meigao Electronic Equipment Co.,Ltd DRFXI (MotherBoard Series) 219,6 tok/sASUSTeK COMPUTER INC. GX10 148,8 tok/sDell Inc. PowerEdge R820 5,9 tok/s

ENGnach Engine

llama.cpp 1.768,1 tok/s★ vLLM 326,9 tok/s dieser Lauf

DRVnach Treiber

unbekannt 1.768,1 tok/sNVIDIA 590.48.01 / CUDA 13.1 148,8 tok/s

💰 Economics

Wirtschaftlichkeit dieses Laufs

Betriebskosten, TCO und Vergleich mit den nächstbesten Läufen desselben Modells bei identischer Concurrency (1× parallel). Methodik →

⚙️ KonfigurationAlle Kennzahlen und Diagramme unten folgen diesen Einstellungen – bezogen auf 24 Monate Laufzeit.In URL übernehmen Zurücksetzen

⚡ Strompreis EUR/kWh

⚙️ System-Auslastung 100 %

🖥️ Anschaffung EUR

🔌 Idle 18 W

⚡ TDP 120 W

☁️ Externes LLM (API) anzeigen

Input €/1M Output €/1M Input je Output-Token

Strompreis0,30 EUR/kWh

Ø-Leistung (inkl. Idle)120 W geschätzt (TDP)GPU 120 W Volllast

Ø-Kosten / Stunde0,036 EUR

Strom / 1 Mio. Token0,36 EUR

Token / kWh825,00 Tsd.

Anschaffung (System)4.054 EUR fehltBoard 3.500 EUR · RAM 434 EUR · Netzteil 120 EUR

Stromkosten (2 Jahre)–

TCO (2 Jahre)4.685 EUR

Output-Token (2 Jahre)1,73 Mrd.

☁️ Externes LLM (API) – Vergleich

Externe LLM-Kosten (2 Jahre)–

Ersparnis vs. extern (2 Jahre)–

Alle Werte oben und die Diagramme unten berücksichtigen die eingestellte System-Auslastung: bei X % generiert das System nur X % der Zeit, die restliche Zeit läuft es im Idle (18 W). Kosten pro Stunde sinken dadurch (mehr Idle), Kosten je Token steigen.

Kosten über 2 Jahre – nur Strom

Kosten über 2 Jahre – inkl. Anschaffung (TCO)

Geschwindigkeit vs. Token pro Euro

Euro pro 1 Mio. Token

Vergleich zur API – Wirtschaftlichkeit je Benchmark

	Nemotron-Cascade-2-30B-A3BAMD Radeon 8060S Graphics	Nemotron-Cascade-2-30B-A3BNVIDIA GeForce RTX 5090	Nemotron-Cascade-2-30B-A3BNVIDIA RTX PRO 6000 Blackwell Workstation Edition	Nemotron-Cascade-2-30B-A3B3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition
Kosten Strom (24 Mon.)	–	–	–	–
Kosten Anschaffung	–	–	–	–
Kosten Gesamt (TCO)	–	–	–	–
Generierte Token (24 Mon.)	–	–	–	–
Tokenpreis bei API	–	–	–	–
Break-Even-Point (Tage)	–	–	–	–
Ergebnis (Ersparnis / Ausgabe)	–	–	–	–

AMD Radeon 8060S Graphics · dieser Lauf 28 tok/s NVIDIA GeForce RTX 5090 359 tok/s NVIDIA RTX PRO 6000 Blackwell Workstation Edition 357 tok/s 3× NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition 330 tok/s

Vergleich mit bis zu 3 nächstbesten Läufen dieses Modells bei gleicher Concurrency (mind. einer auf anderer Hardware). Leistung = GPU-TDP + CPU (Idle + 15 %) + Board (geschätzt), Anschaffung = komplettes System (GPU + CPU + Board + RAM + Netzteil), Preise = hinterlegte Marktpreise.

Beigesteuert von

Mario Alka Administrator

@marioalka

Ich bin Unternehmer, Softwareentwickler und KI-Enthusiast. Seit vielen Jahren entwickle ich Unternehmenssoftware und beschäftige mich inzwischen fast täglich mit lokalen LLMs, KI-Agenten und leistungsfähiger KI-Hardware.

Mit LLM-Benchmark.de möchte ich eine Plattform schaffen, auf der Modelle, GPUs und Agenten objektiv und reproduzierbar miteinander verglichen werden.