Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
Beigesteuert vonMario AlkaAleph Alpha

Kolibri-1

Harnessbenchmark · gemessen am 08.10.2026 08:11

Benchmark-IDrun-20261008-125923-5b5304
Kolibri-Qwen Diverse Deterministic 310 V2.0MoE78.1BRuntime: deterministic310Quantisierung: NVFP4
⚠
Konfigurations-Hinweis: Es sind 2 Grafikkarten installiert, aber nur 1 wurde fuer diesen Lauf genutzt. Mit allen 2 GPUs koennte der Durchsatz deutlich hoeher liegen.
Punkte283,00von 310,00
Punktequote91,29%
Aufgaben bestanden283von 310
Gesamtdauer2.384,43s
Einordnung im Feld
9von 27 Systemen

Harnessbenchmark · Leitmetrik: Punktequote (%)

Dieser Lauf ist besser als 69 % aller vergleichbaren Systeme.
Punktequote 91 %
+28 % vs Ø 71,5
Aufgaben bestanden 283
+149 % vs Ø 113,7
Gesamtdauer 2.384,4 s
+104 % vs Ø 1.169,9
Verteilung im Feld37 – 100 %
Ø 72 Median Dieser Lauf

Wie schlägt sich dieser Benchmark mit anderen Modellen?

Kolibri-1 gleiches ModellNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20261008-165122-c5dea7
100 %
Qwen3.6-35B-A3B-AWQNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260929-153935-691df9
100 %
Qwen3.6-35B-A3B-AWQNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260929-091748-cbe456
100 %
Qwen3.8-27B-Uncensored2× 2x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260929-091747-e13da0
100 %
Open-Jev-27B-v1.1NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260929-091747-5d8477
100 %
Kolibri-1 gleiches ModellNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20261008-125923-3f1672
99 %
Qwen3.6-35B-A3B-AWQNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260929-112249-dba0f2
97 %
Kolibri-1 gleiches ModellNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20261008-125923-43651d
93 %
Kolibri-1 dieser LaufNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20261008-125923-5b5304
91 %
Gemma-4-26B-A4B-itNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260722-161611-05d866
91 %
MiniMax-M2.53× 3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260722-161611-f6cfe1
81 %
Nemotron-Cascade-2-30B-A3BNVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260929-091748-15ef7f
80 %
MiniMax-M2.53× 3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260722-161611-54019f
79 %
MiniMax-M2.53× 3x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · run-20260722-161611-a58abe
68 %

Aufgaben (310)

AufgabeStatusPunkteDauer
arithmetic-01bestanden1 / 12,41 s
arithmetic-02bestanden1 / 14,16 s
arithmetic-03bestanden1 / 15,14 s
arithmetic-04bestanden1 / 13,05 s
arithmetic-05bestanden1 / 11,27 s
arithmetic-06bestanden1 / 12,36 s
arithmetic-07bestanden1 / 13,38 s
arithmetic-08bestanden1 / 12,47 s
arithmetic-09bestanden1 / 13,03 s
arithmetic-10bestanden1 / 11,52 s
arithmetic-11bestanden1 / 12,46 s
arithmetic-12bestanden1 / 12,94 s
arithmetic-13bestanden1 / 18,44 s
arithmetic-14bestanden1 / 13,88 s
arithmetic-15bestanden1 / 11,51 s
ordering_logic-01bestanden1 / 17,64 s
ordering_logic-02bestanden1 / 13,45 s
ordering_logic-03fehlgeschlagen0 / 13,88 s
ordering_logic-04bestanden1 / 14,46 s
ordering_logic-05bestanden1 / 15,55 s
ordering_logic-06bestanden1 / 14,50 s
ordering_logic-07bestanden1 / 16,56 s
ordering_logic-08bestanden1 / 15,52 s
ordering_logic-09bestanden1 / 16,20 s
ordering_logic-10bestanden1 / 14,83 s
ordering_logic-11bestanden1 / 14,73 s
ordering_logic-12bestanden1 / 15,91 s
ordering_logic-13bestanden1 / 15,04 s
ordering_logic-14bestanden1 / 15,09 s
ordering_logic-15bestanden1 / 14,81 s
extraction-01bestanden1 / 18,20 s
extraction-02bestanden1 / 14,64 s
extraction-03bestanden1 / 15,45 s
extraction-04bestanden1 / 14,32 s
extraction-05bestanden1 / 19,61 s
extraction-06bestanden1 / 15,08 s
extraction-07bestanden1 / 15,94 s
extraction-08bestanden1 / 110,24 s
extraction-09bestanden1 / 17,15 s
extraction-10bestanden1 / 15,70 s
extraction-11bestanden1 / 15,95 s
extraction-12bestanden1 / 14,85 s
extraction-13bestanden1 / 15,75 s
extraction-14bestanden1 / 15,22 s
extraction-15bestanden1 / 17,17 s
code_comprehension-01bestanden1 / 12,68 s
code_comprehension-02bestanden1 / 15,67 s
code_comprehension-03bestanden1 / 114,51 s
code_comprehension-04bestanden1 / 116,71 s
code_comprehension-05bestanden1 / 13,81 s
code_comprehension-06bestanden1 / 13,36 s
code_comprehension-07bestanden1 / 16,48 s
code_comprehension-08bestanden1 / 111,75 s
code_comprehension-09bestanden1 / 119,54 s
code_comprehension-10bestanden1 / 11,81 s
code_comprehension-11bestanden1 / 12,57 s
code_comprehension-12bestanden1 / 15,04 s
code_comprehension-13bestanden1 / 17,22 s
code_comprehension-14bestanden1 / 18,66 s
code_comprehension-15bestanden1 / 15,68 s
grounded_qa-01bestanden1 / 12,51 s
grounded_qa-02bestanden1 / 13,00 s
grounded_qa-03bestanden1 / 12,86 s
grounded_qa-04bestanden1 / 13,82 s
grounded_qa-05bestanden1 / 12,45 s
grounded_qa-06bestanden1 / 13,25 s
grounded_qa-07bestanden1 / 14,26 s
grounded_qa-08bestanden1 / 13,16 s
grounded_qa-09bestanden1 / 13,03 s
grounded_qa-10bestanden1 / 14,08 s
grounded_qa-11bestanden1 / 13,59 s
grounded_qa-12bestanden1 / 13,22 s
grounded_qa-13bestanden1 / 12,90 s
grounded_qa-14bestanden1 / 13,05 s
grounded_qa-15bestanden1 / 12,78 s
classification-01bestanden1 / 15,06 s
classification-02bestanden1 / 13,21 s
classification-03bestanden1 / 13,35 s
classification-04bestanden1 / 13,46 s
classification-05bestanden1 / 12,85 s
classification-06bestanden1 / 13,70 s
classification-07bestanden1 / 14,91 s
classification-08bestanden1 / 12,80 s
classification-09bestanden1 / 14,39 s
classification-10bestanden1 / 13,17 s
classification-11bestanden1 / 13,69 s
classification-12bestanden1 / 14,80 s
classification-13bestanden1 / 14,08 s
classification-14bestanden1 / 13,36 s
classification-15bestanden1 / 15,77 s
path_planning-01bestanden1 / 17,73 s
path_planning-02bestanden1 / 17,52 s
path_planning-03bestanden1 / 17,43 s
path_planning-04bestanden1 / 18,30 s
path_planning-05bestanden1 / 16,69 s
path_planning-06bestanden1 / 18,31 s
path_planning-07bestanden1 / 15,68 s
path_planning-08bestanden1 / 110,70 s
path_planning-09bestanden1 / 17,77 s
path_planning-10fehlgeschlagen0 / 14,05 s
path_planning-11bestanden1 / 17,81 s
path_planning-12fehlgeschlagen0 / 14,44 s
path_planning-13bestanden1 / 18,80 s
path_planning-14bestanden1 / 17,06 s
path_planning-15fehlgeschlagen0 / 14,52 s
relational_query-01bestanden1 / 13,60 s
relational_query-02bestanden1 / 14,34 s
relational_query-03bestanden1 / 13,46 s
relational_query-04bestanden1 / 13,61 s
relational_query-05bestanden1 / 13,99 s
relational_query-06bestanden1 / 13,60 s
relational_query-07bestanden1 / 12,53 s
relational_query-08bestanden1 / 14,86 s
relational_query-09bestanden1 / 13,54 s
relational_query-10bestanden1 / 13,21 s
relational_query-11bestanden1 / 13,02 s
relational_query-12bestanden1 / 13,15 s
relational_query-13bestanden1 / 15,40 s
relational_query-14bestanden1 / 14,83 s
relational_query-15bestanden1 / 13,60 s
date_time-01bestanden1 / 15,56 s
date_time-02bestanden1 / 14,08 s
date_time-03bestanden1 / 128,75 s
date_time-04bestanden1 / 16,49 s
date_time-05bestanden1 / 12,91 s
date_time-06bestanden1 / 119,06 s
date_time-07bestanden1 / 114,57 s
date_time-08bestanden1 / 13,15 s
date_time-09bestanden1 / 124,42 s
date_time-10bestanden1 / 16,08 s
date_time-11bestanden1 / 13,48 s
date_time-12bestanden1 / 132,88 s
date_time-13bestanden1 / 15,52 s
date_time-14bestanden1 / 13,47 s
date_time-15fehlgeschlagen0 / 138,95 s
units-01bestanden1 / 12,48 s
units-02bestanden1 / 10,71 s
units-03bestanden1 / 13,30 s
units-04bestanden1 / 12,29 s
units-05bestanden1 / 13,22 s
units-06bestanden1 / 12,54 s
units-07bestanden1 / 11,72 s
units-08bestanden1 / 16,35 s
units-09bestanden1 / 12,35 s
units-10bestanden1 / 11,93 s
units-11bestanden1 / 12,39 s
units-12bestanden1 / 14,49 s
units-13bestanden1 / 12,92 s
units-14bestanden1 / 12,81 s
units-15bestanden1 / 11,91 s
string_processing-01bestanden1 / 14,04 s
string_processing-02bestanden1 / 13,16 s
string_processing-03bestanden1 / 12,22 s
string_processing-04bestanden1 / 13,00 s
string_processing-05bestanden1 / 11,90 s
string_processing-06bestanden1 / 12,17 s
string_processing-07bestanden1 / 13,26 s
string_processing-08bestanden1 / 12,21 s
string_processing-09bestanden1 / 12,22 s
string_processing-10bestanden1 / 15,01 s
string_processing-11bestanden1 / 12,17 s
string_processing-12bestanden1 / 12,32 s
string_processing-13bestanden1 / 13,42 s
string_processing-14bestanden1 / 12,13 s
string_processing-15bestanden1 / 12,38 s
sets-01bestanden1 / 13,81 s
sets-02bestanden1 / 110,11 s
sets-03bestanden1 / 14,60 s
sets-04bestanden1 / 12,05 s
sets-05bestanden1 / 13,88 s
sets-06bestanden1 / 14,86 s
sets-07bestanden1 / 12,53 s
sets-08bestanden1 / 14,96 s
sets-09bestanden1 / 15,85 s
sets-10bestanden1 / 13,47 s
sets-11bestanden1 / 15,45 s
sets-12bestanden1 / 16,29 s
sets-13bestanden1 / 11,59 s
sets-14bestanden1 / 15,40 s
sets-15bestanden1 / 15,86 s
constraint_selection-01bestanden1 / 13,48 s
constraint_selection-02bestanden1 / 14,16 s
constraint_selection-03bestanden1 / 13,79 s
constraint_selection-04bestanden1 / 13,25 s
constraint_selection-05bestanden1 / 13,24 s
constraint_selection-06bestanden1 / 13,56 s
constraint_selection-07bestanden1 / 13,68 s
constraint_selection-08bestanden1 / 13,79 s
constraint_selection-09bestanden1 / 13,37 s
constraint_selection-10bestanden1 / 13,16 s
constraint_selection-11bestanden1 / 12,59 s
constraint_selection-12bestanden1 / 14,21 s
constraint_selection-13bestanden1 / 13,52 s
constraint_selection-14bestanden1 / 13,80 s
constraint_selection-15bestanden1 / 13,55 s
probability-01bestanden1 / 12,76 s
probability-02bestanden1 / 11,24 s
probability-03bestanden1 / 12,90 s
probability-04bestanden1 / 11,56 s
probability-05bestanden1 / 11,44 s
probability-06bestanden1 / 12,62 s
probability-07bestanden1 / 11,98 s
probability-08bestanden1 / 11,53 s
probability-09bestanden1 / 12,86 s
probability-10bestanden1 / 12,09 s
probability-11bestanden1 / 13,59 s
probability-12bestanden1 / 13,12 s
probability-13bestanden1 / 12,41 s
probability-14bestanden1 / 12,03 s
probability-15bestanden1 / 13,00 s
ext-bit_circuits-01bestanden1 / 13,06 s
ext-bit_circuits-02bestanden1 / 125,22 s
ext-bit_circuits-03bestanden1 / 113,94 s
ext-bit_circuits-04bestanden1 / 115,65 s
ext-bit_circuits-05bestanden1 / 13,13 s
ext-bit_circuits-06bestanden1 / 128,71 s
ext-bit_circuits-07bestanden1 / 13,25 s
ext-bit_circuits-08bestanden1 / 125,92 s
ext-bit_circuits-09bestanden1 / 125,78 s
ext-bit_circuits-10bestanden1 / 122,88 s
ext-weighted_scheduling-01bestanden1 / 115,83 s
ext-weighted_scheduling-02bestanden1 / 119,80 s
ext-weighted_scheduling-03bestanden1 / 19,84 s
ext-weighted_scheduling-04bestanden1 / 119,78 s
ext-weighted_scheduling-05bestanden1 / 110,40 s
ext-weighted_scheduling-06fehlgeschlagen0 / 138,22 s
ext-weighted_scheduling-07bestanden1 / 18,29 s
ext-weighted_scheduling-08bestanden1 / 120,84 s
ext-weighted_scheduling-09bestanden1 / 110,01 s
ext-weighted_scheduling-10bestanden1 / 110,37 s
ext-finite_automata-01bestanden1 / 12,12 s
ext-finite_automata-02bestanden1 / 18,96 s
ext-finite_automata-03bestanden1 / 12,20 s
ext-finite_automata-04bestanden1 / 15,93 s
ext-finite_automata-05bestanden1 / 11,75 s
ext-finite_automata-06bestanden1 / 15,92 s
ext-finite_automata-07bestanden1 / 12,22 s
ext-finite_automata-08bestanden1 / 117,25 s
ext-finite_automata-09bestanden1 / 11,70 s
ext-finite_automata-10bestanden1 / 18,90 s
ext-fifo_inventory-01bestanden1 / 17,03 s
ext-fifo_inventory-02bestanden1 / 14,67 s
ext-fifo_inventory-03bestanden1 / 12,55 s
ext-fifo_inventory-04bestanden1 / 13,00 s
ext-fifo_inventory-05bestanden1 / 13,30 s
ext-fifo_inventory-06bestanden1 / 14,14 s
ext-fifo_inventory-07bestanden1 / 12,44 s
ext-fifo_inventory-08bestanden1 / 12,87 s
ext-fifo_inventory-09bestanden1 / 14,55 s
ext-fifo_inventory-10bestanden1 / 12,79 s
ext-edit_distance-01fehlgeschlagen0 / 137,48 s
ext-edit_distance-02fehlgeschlagen0 / 137,48 s
ext-edit_distance-03bestanden1 / 127,67 s
ext-edit_distance-04fehlgeschlagen0 / 137,46 s
ext-edit_distance-05fehlgeschlagen0 / 137,47 s
ext-edit_distance-06fehlgeschlagen0 / 138,51 s
ext-edit_distance-07fehlgeschlagen0 / 137,88 s
ext-edit_distance-08fehlgeschlagen0 / 137,64 s
ext-edit_distance-09fehlgeschlagen0 / 137,38 s
ext-edit_distance-10fehlgeschlagen0 / 137,40 s
ext-calendar_explicit-01bestanden1 / 15,56 s
ext-calendar_explicit-02bestanden1 / 19,05 s
ext-calendar_explicit-03bestanden1 / 16,83 s
ext-calendar_explicit-04bestanden1 / 116,38 s
ext-calendar_explicit-05bestanden1 / 19,05 s
ext-calendar_explicit-06fehlgeschlagen0 / 111,94 s
ext-calendar_explicit-07bestanden1 / 112,32 s
ext-calendar_explicit-08bestanden1 / 115,79 s
ext-calendar_explicit-09bestanden1 / 132,27 s
ext-calendar_explicit-10bestanden1 / 111,04 s
ext-rolling_checksum-01bestanden1 / 111,93 s
ext-rolling_checksum-02bestanden1 / 16,06 s
ext-rolling_checksum-03bestanden1 / 118,66 s
ext-rolling_checksum-04bestanden1 / 110,50 s
ext-rolling_checksum-05fehlgeschlagen0 / 114,05 s
ext-rolling_checksum-06bestanden1 / 19,25 s
ext-rolling_checksum-07bestanden1 / 111,45 s
ext-rolling_checksum-08bestanden1 / 111,15 s
ext-rolling_checksum-09bestanden1 / 112,67 s
ext-rolling_checksum-10fehlgeschlagen0 / 110,22 s
ext-grid_path_count-01fehlgeschlagen0 / 117,67 s
ext-grid_path_count-02bestanden1 / 16,66 s
ext-grid_path_count-03fehlgeschlagen0 / 15,90 s
ext-grid_path_count-04bestanden1 / 118,11 s
ext-grid_path_count-05bestanden1 / 124,64 s
ext-grid_path_count-06bestanden1 / 110,45 s
ext-grid_path_count-07bestanden1 / 14,61 s
ext-grid_path_count-08bestanden1 / 18,19 s
ext-grid_path_count-09bestanden1 / 17,38 s
ext-grid_path_count-10bestanden1 / 17,23 s
ext-sample_variance-01fehlgeschlagen0 / 16,00 s
ext-sample_variance-02bestanden1 / 15,18 s
ext-sample_variance-03fehlgeschlagen0 / 112,18 s
ext-sample_variance-04bestanden1 / 111,95 s
ext-sample_variance-05fehlgeschlagen0 / 13,34 s
ext-sample_variance-06bestanden1 / 120,00 s
ext-sample_variance-07bestanden1 / 12,86 s
ext-sample_variance-08fehlgeschlagen0 / 136,60 s
ext-sample_variance-09fehlgeschlagen0 / 111,14 s
ext-sample_variance-10bestanden1 / 112,61 s
ext-round_robin-01bestanden1 / 14,43 s
ext-round_robin-02bestanden1 / 17,76 s
ext-round_robin-03fehlgeschlagen0 / 14,34 s
ext-round_robin-04bestanden1 / 111,15 s
ext-round_robin-05bestanden1 / 15,32 s
ext-round_robin-06bestanden1 / 15,52 s
ext-round_robin-07fehlgeschlagen0 / 14,42 s
ext-round_robin-08bestanden1 / 111,50 s
ext-round_robin-09bestanden1 / 13,98 s
ext-round_robin-10bestanden1 / 17,32 s

Konfiguration

benchmark-konfiguration — run-20261008-125923-5b5304
# LLM-Benchmark Konfiguration # Modell : Kolibri-1 # Engine : vLLM # Run-ID : run-20261008-125923-5b5304 # GPU : NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition # CPU : AMD Ryzen 9 7945HX with Radeon Graphics # RAM : 60 GB bench@llm-benchmark:~$ vllm serve \ --model /model \ --served-model-name primitive-ai/Kolibri-1-NVFP4 \ --max-model-len 32768 \ --max-num-seqs 10 \ --gpu-memory-utilization 0.94 \ --kv-cache-dtype fp8 \ --reasoning-parser kolibri1 \ --tool-call-parser kolibri1 \ --enable-prefix-caching
Engine?Die Inferenz-Software, die das Modell ausliefert (z.B. vLLM oder llama.cpp). Sie bestimmt Geschwindigkeit, unterstuetzte Modellformate und welche Parameter ueberhaupt verfuegbar sind.vllm
Modellalias?Der Name, unter dem das Modell ueber die API angesprochen wird. Genau dieser Wert muss im Request-Feld 'model' stehen.primitive-ai/Kolibri-1-NVFP4
Kontextlaenge?Maximale Anzahl Tokens (Eingabe + erzeugte Ausgabe zusammen), die das Modell pro Anfrage verarbeiten kann.32768
Alias?Anzeigename des Modells nach aussen (served model name), unabhaengig vom Dateinamen.primitive-ai/Kolibri-1-NVFP4
Kontext?Groesse des Kontextfensters in Token. 0 = der beim Training verwendete Kontext des Modells.32768
Max-Sequenzen?Maximale Anzahl gleichzeitig bearbeiteter Anfragen (Batch-Groesse). Hoeher = mehr Durchsatz, braucht aber mehr KV-Cache-Speicher.10
GPU-Speicher?Anteil des GPU-Speichers (0 bis 1), den vLLM belegen darf. 0.92 = 92 %. Hoeher = mehr Platz fuer den KV-Cache (mehr/laengere parallele Anfragen), aber groesseres Risiko fuer 'Out of Memory'.0.94
KV-Cache-Dtype?Datentyp des KV-Cache (auto, fp8). fp8 halbiert etwa den Cache-Speicher -> mehr und laengere parallele Anfragen bei minimalem Qualitaetsverlust.fp8
Reasoning-Parser?Trennt den Denk-/Reasoning-Teil der Antwort vom eigentlichen Inhalt (z.B. bei Modellen mit <think>-Bloecken).kolibri1
Tool-Parser?Bestimmt, wie vLLM Tool-Aufrufe aus der Modellantwort ausliest (z.B. hermes, mistral, llama3_json). Muss zum Modell passen.kolibri1
Prefix-Caching?Speichert bereits berechnete Prompt-Anfaenge und verwendet sie wieder. Beschleunigt Anfragen mit gemeinsamem Praefix (z.B. gleicher System-Prompt) deutlich.aktiv
execution_typelocal

Alle Benchmarks dieses Modells Zum Leaderboard

Anzeige
Modell-Vergleich

Kolibri-1 auf verschiedener Hardware

Alle veröffentlichten Performance-Läufe dieses Modells – jede Blase eine Variante: Position = Prefill (X) × Generation (Y), Blasengröße = Anzahl Läufe. Näher oben rechts = schneller. ★ Gold markiert = dieser Benchmark.

GPUnach Grafikkarte

1.3269956633320,0014.11528.23142.346Prefill (tok/s)Generation (tok/s)AMD Radeon 8060S Graphics - 158,2 tok/s Generation, 1.648 tok/s Prefill, TTFT 3.695 ms (3 Laufe)AMD Radeon 8060S Grap...NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition - 1.044,4 tok/s Generation, 34.389 tok/s Prefill, TTFT 192 ms (12 Laufe) | DIESER LAUF★ NVIDIA RTX PRO 6000 B...
★ NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition 1.044,4 tok/s dieser LaufAMD Radeon 8060S Graphics 158,2 tok/s

CPUnach Prozessor

1.3269956633320,0014.11528.23142.346Prefill (tok/s)Generation (tok/s)AMD RYZEN AI MAX+ 395 w/ Radeon 8060S - 158,2 tok/s Generation, 1.648 tok/s Prefill, TTFT 3.695 ms (3 Laufe)AMD RYZEN AI MAX+ 395...AMD Ryzen 9 7945HX with Radeon Graphics - 1.044,4 tok/s Generation, 34.389 tok/s Prefill, TTFT 192 ms (12 Laufe) | DIESER LAUF★ AMD Ryzen 9 7945HX wi...
★ AMD Ryzen 9 7945HX with Radeon Graphics 1.044,4 tok/s dieser LaufAMD RYZEN AI MAX+ 395 w/ Radeon 8060S 158,2 tok/s

MBnach Mainboard

1.3269956633320,0014.11528.23142.346Prefill (tok/s)Generation (tok/s)Meigao Innovation Technology (Shen Zhen) Co., Ltd SHWSA (MS-S1 MAX) - 158,2 tok/s Generation, 1.648 tok/s Prefill, TTFT 3.695 ms (3 Laufe)Meigao Innovation Tec...Shenzhen Meigao Electronic Equipment Co.,Ltd DRFXI (MotherBoard Series) - 1.044,4 tok/s Generation, 34.389 tok/s Prefill, TTFT 192 ms (12 Laufe) | DIESER LAUF★ Shenzhen Meigao Elect...
★ Shenzhen Meigao Electronic Equipment Co.,Ltd DRFXI (MotherBoard Series) 1.044,4 tok/s dieser LaufMeigao Innovation Technology (Shen Zhen) Co., Ltd SHWSA (MS-S1 MAX) 158,2 tok/s

ENGnach Engine

1.1771.07597487277007.44814.89522.343Prefill (tok/s)Generation (tok/s)unbekannt - 1.044,4 tok/s Generation, 18.018 tok/s Prefill, TTFT 1.967 ms (6 Laufe)unbekanntvLLM - 902,9 tok/s Generation, 0 tok/s Prefill, TTFT 177 ms (9 Laufe) | DIESER LAUF★ vLLM
unbekannt 1.044,4 tok/s★ vLLM 902,9 tok/s dieser Lauf

DRVnach Treiber

1.1491.0971.04499294016.93717.65818.37919.099Prefill (tok/s)Generation (tok/s)unbekannt - 1.044,4 tok/s Generation, 18.018 tok/s Prefill, TTFT 893 ms (15 Laufe)unbekannt
unbekannt 1.044,4 tok/s
Beigesteuert von

Mario Alka Administrator

@marioalka

Ich bin Unternehmer, Softwareentwickler und KI-Enthusiast. Seit vielen Jahren entwickle ich Unternehmenssoftware und beschäftige mich inzwischen fast täglich mit lokalen LLMs, KI-Agenten und leistungsfähiger KI-Hardware.

Mit LLM-Benchmark.de möchte ich eine Plattform schaffen, auf der Modelle, GPUs und Agenten objektiv und reproduzierbar miteinander verglichen werden.