Kolibri-1
Harnessbenchmark · gemessen am 08.10.2026 07:58
run-20261008-125923-43651dHarnessbenchmark · Leitmetrik: Punktequote (%)
Wie schlägt sich dieser Benchmark mit anderen Modellen?
Hardware
GPU: NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition · 96 GB VRAM
CPU: AMD Ryzen 9 7945HX with Radeon Graphics
RAM: 60 GB
Mainboard: Shenzhen Meigao Electronic Equipment Co.,Ltd DRFXI (MotherBoard Series)
Setup
Runtime: deterministic310
Quantisierung: FP8
Modell: Kolibri-1
Aufgaben (310)
| Aufgabe | Status | Punkte | Dauer |
|---|---|---|---|
| arithmetic-01 | bestanden | 1 / 1 | 2,70 s |
| arithmetic-02 | bestanden | 1 / 1 | 4,23 s |
| arithmetic-03 | bestanden | 1 / 1 | 5,73 s |
| arithmetic-04 | bestanden | 1 / 1 | 2,90 s |
| arithmetic-05 | bestanden | 1 / 1 | 1,97 s |
| arithmetic-06 | bestanden | 1 / 1 | 2,51 s |
| arithmetic-07 | bestanden | 1 / 1 | 2,83 s |
| arithmetic-08 | bestanden | 1 / 1 | 6,10 s |
| arithmetic-09 | bestanden | 1 / 1 | 3,03 s |
| arithmetic-10 | bestanden | 1 / 1 | 1,61 s |
| arithmetic-11 | bestanden | 1 / 1 | 2,67 s |
| arithmetic-12 | bestanden | 1 / 1 | 3,18 s |
| arithmetic-13 | bestanden | 1 / 1 | 8,30 s |
| arithmetic-14 | bestanden | 1 / 1 | 3,58 s |
| arithmetic-15 | bestanden | 1 / 1 | 1,84 s |
| ordering_logic-01 | fehlgeschlagen | 0 / 1 | 5,79 s |
| ordering_logic-02 | bestanden | 1 / 1 | 4,36 s |
| ordering_logic-03 | bestanden | 1 / 1 | 5,23 s |
| ordering_logic-04 | bestanden | 1 / 1 | 4,79 s |
| ordering_logic-05 | bestanden | 1 / 1 | 3,57 s |
| ordering_logic-06 | bestanden | 1 / 1 | 5,11 s |
| ordering_logic-07 | bestanden | 1 / 1 | 8,15 s |
| ordering_logic-08 | bestanden | 1 / 1 | 5,89 s |
| ordering_logic-09 | bestanden | 1 / 1 | 7,75 s |
| ordering_logic-10 | bestanden | 1 / 1 | 6,27 s |
| ordering_logic-11 | fehlgeschlagen | 0 / 1 | 4,35 s |
| ordering_logic-12 | bestanden | 1 / 1 | 6,94 s |
| ordering_logic-13 | bestanden | 1 / 1 | 5,54 s |
| ordering_logic-14 | bestanden | 1 / 1 | 6,78 s |
| ordering_logic-15 | bestanden | 1 / 1 | 4,84 s |
| extraction-01 | bestanden | 1 / 1 | 6,39 s |
| extraction-02 | bestanden | 1 / 1 | 5,27 s |
| extraction-03 | bestanden | 1 / 1 | 6,08 s |
| extraction-04 | bestanden | 1 / 1 | 5,02 s |
| extraction-05 | bestanden | 1 / 1 | 4,49 s |
| extraction-06 | bestanden | 1 / 1 | 5,27 s |
| extraction-07 | bestanden | 1 / 1 | 3,71 s |
| extraction-08 | bestanden | 1 / 1 | 5,17 s |
| extraction-09 | bestanden | 1 / 1 | 8,16 s |
| extraction-10 | bestanden | 1 / 1 | 5,02 s |
| extraction-11 | bestanden | 1 / 1 | 7,02 s |
| extraction-12 | bestanden | 1 / 1 | 7,68 s |
| extraction-13 | bestanden | 1 / 1 | 6,62 s |
| extraction-14 | bestanden | 1 / 1 | 4,23 s |
| extraction-15 | bestanden | 1 / 1 | 9,58 s |
| code_comprehension-01 | bestanden | 1 / 1 | 2,63 s |
| code_comprehension-02 | bestanden | 1 / 1 | 8,40 s |
| code_comprehension-03 | bestanden | 1 / 1 | 15,60 s |
| code_comprehension-04 | bestanden | 1 / 1 | 8,40 s |
| code_comprehension-05 | bestanden | 1 / 1 | 3,35 s |
| code_comprehension-06 | bestanden | 1 / 1 | 3,39 s |
| code_comprehension-07 | bestanden | 1 / 1 | 6,68 s |
| code_comprehension-08 | bestanden | 1 / 1 | 13,58 s |
| code_comprehension-09 | bestanden | 1 / 1 | 11,93 s |
| code_comprehension-10 | bestanden | 1 / 1 | 2,68 s |
| code_comprehension-11 | bestanden | 1 / 1 | 3,78 s |
| code_comprehension-12 | bestanden | 1 / 1 | 4,63 s |
| code_comprehension-13 | bestanden | 1 / 1 | 15,81 s |
| code_comprehension-14 | bestanden | 1 / 1 | 9,60 s |
| code_comprehension-15 | bestanden | 1 / 1 | 4,90 s |
| grounded_qa-01 | bestanden | 1 / 1 | 2,57 s |
| grounded_qa-02 | bestanden | 1 / 1 | 2,73 s |
| grounded_qa-03 | bestanden | 1 / 1 | 3,30 s |
| grounded_qa-04 | bestanden | 1 / 1 | 3,28 s |
| grounded_qa-05 | bestanden | 1 / 1 | 2,22 s |
| grounded_qa-06 | bestanden | 1 / 1 | 3,93 s |
| grounded_qa-07 | bestanden | 1 / 1 | 3,27 s |
| grounded_qa-08 | bestanden | 1 / 1 | 2,11 s |
| grounded_qa-09 | bestanden | 1 / 1 | 2,42 s |
| grounded_qa-10 | bestanden | 1 / 1 | 2,79 s |
| grounded_qa-11 | bestanden | 1 / 1 | 2,25 s |
| grounded_qa-12 | bestanden | 1 / 1 | 3,40 s |
| grounded_qa-13 | bestanden | 1 / 1 | 3,11 s |
| grounded_qa-14 | bestanden | 1 / 1 | 3,04 s |
| grounded_qa-15 | bestanden | 1 / 1 | 2,69 s |
| classification-01 | bestanden | 1 / 1 | 5,02 s |
| classification-02 | bestanden | 1 / 1 | 6,28 s |
| classification-03 | bestanden | 1 / 1 | 3,26 s |
| classification-04 | bestanden | 1 / 1 | 3,31 s |
| classification-05 | bestanden | 1 / 1 | 5,32 s |
| classification-06 | bestanden | 1 / 1 | 6,17 s |
| classification-07 | bestanden | 1 / 1 | 3,45 s |
| classification-08 | bestanden | 1 / 1 | 5,16 s |
| classification-09 | bestanden | 1 / 1 | 4,48 s |
| classification-10 | bestanden | 1 / 1 | 3,27 s |
| classification-11 | bestanden | 1 / 1 | 3,42 s |
| classification-12 | bestanden | 1 / 1 | 3,78 s |
| classification-13 | bestanden | 1 / 1 | 4,50 s |
| classification-14 | bestanden | 1 / 1 | 5,28 s |
| classification-15 | bestanden | 1 / 1 | 4,89 s |
| path_planning-01 | bestanden | 1 / 1 | 11,13 s |
| path_planning-02 | bestanden | 1 / 1 | 11,32 s |
| path_planning-03 | bestanden | 1 / 1 | 8,81 s |
| path_planning-04 | bestanden | 1 / 1 | 7,62 s |
| path_planning-05 | bestanden | 1 / 1 | 7,76 s |
| path_planning-06 | bestanden | 1 / 1 | 8,91 s |
| path_planning-07 | bestanden | 1 / 1 | 6,25 s |
| path_planning-08 | bestanden | 1 / 1 | 9,70 s |
| path_planning-09 | bestanden | 1 / 1 | 7,02 s |
| path_planning-10 | bestanden | 1 / 1 | 9,73 s |
| path_planning-11 | bestanden | 1 / 1 | 6,75 s |
| path_planning-12 | bestanden | 1 / 1 | 7,94 s |
| path_planning-13 | bestanden | 1 / 1 | 7,34 s |
| path_planning-14 | bestanden | 1 / 1 | 8,71 s |
| path_planning-15 | bestanden | 1 / 1 | 10,77 s |
| relational_query-01 | bestanden | 1 / 1 | 3,39 s |
| relational_query-02 | bestanden | 1 / 1 | 2,72 s |
| relational_query-03 | bestanden | 1 / 1 | 2,56 s |
| relational_query-04 | bestanden | 1 / 1 | 2,76 s |
| relational_query-05 | bestanden | 1 / 1 | 2,76 s |
| relational_query-06 | bestanden | 1 / 1 | 3,66 s |
| relational_query-07 | bestanden | 1 / 1 | 2,55 s |
| relational_query-08 | bestanden | 1 / 1 | 2,42 s |
| relational_query-09 | bestanden | 1 / 1 | 2,49 s |
| relational_query-10 | bestanden | 1 / 1 | 2,54 s |
| relational_query-11 | bestanden | 1 / 1 | 4,46 s |
| relational_query-12 | bestanden | 1 / 1 | 2,53 s |
| relational_query-13 | bestanden | 1 / 1 | 2,71 s |
| relational_query-14 | bestanden | 1 / 1 | 2,50 s |
| relational_query-15 | bestanden | 1 / 1 | 3,47 s |
| date_time-01 | bestanden | 1 / 1 | 3,98 s |
| date_time-02 | bestanden | 1 / 1 | 3,85 s |
| date_time-03 | bestanden | 1 / 1 | 20,98 s |
| date_time-04 | bestanden | 1 / 1 | 6,25 s |
| date_time-05 | bestanden | 1 / 1 | 2,88 s |
| date_time-06 | bestanden | 1 / 1 | 6,72 s |
| date_time-07 | bestanden | 1 / 1 | 8,53 s |
| date_time-08 | bestanden | 1 / 1 | 3,43 s |
| date_time-09 | bestanden | 1 / 1 | 26,02 s |
| date_time-10 | bestanden | 1 / 1 | 6,49 s |
| date_time-11 | bestanden | 1 / 1 | 6,88 s |
| date_time-12 | bestanden | 1 / 1 | 32,42 s |
| date_time-13 | bestanden | 1 / 1 | 6,26 s |
| date_time-14 | bestanden | 1 / 1 | 3,50 s |
| date_time-15 | bestanden | 1 / 1 | 30,19 s |
| units-01 | bestanden | 1 / 1 | 2,65 s |
| units-02 | bestanden | 1 / 1 | 3,04 s |
| units-03 | bestanden | 1 / 1 | 5,35 s |
| units-04 | bestanden | 1 / 1 | 2,66 s |
| units-05 | bestanden | 1 / 1 | 2,83 s |
| units-06 | bestanden | 1 / 1 | 2,95 s |
| units-07 | bestanden | 1 / 1 | 2,08 s |
| units-08 | bestanden | 1 / 1 | 3,72 s |
| units-09 | bestanden | 1 / 1 | 2,52 s |
| units-10 | bestanden | 1 / 1 | 1,94 s |
| units-11 | bestanden | 1 / 1 | 2,18 s |
| units-12 | bestanden | 1 / 1 | 3,67 s |
| units-13 | bestanden | 1 / 1 | 2,24 s |
| units-14 | bestanden | 1 / 1 | 2,56 s |
| units-15 | bestanden | 1 / 1 | 2,37 s |
| string_processing-01 | bestanden | 1 / 1 | 5,58 s |
| string_processing-02 | bestanden | 1 / 1 | 2,41 s |
| string_processing-03 | bestanden | 1 / 1 | 2,68 s |
| string_processing-04 | bestanden | 1 / 1 | 3,58 s |
| string_processing-05 | bestanden | 1 / 1 | 2,26 s |
| string_processing-06 | bestanden | 1 / 1 | 2,69 s |
| string_processing-07 | bestanden | 1 / 1 | 3,70 s |
| string_processing-08 | bestanden | 1 / 1 | 2,24 s |
| string_processing-09 | bestanden | 1 / 1 | 2,35 s |
| string_processing-10 | bestanden | 1 / 1 | 3,87 s |
| string_processing-11 | bestanden | 1 / 1 | 2,28 s |
| string_processing-12 | bestanden | 1 / 1 | 2,55 s |
| string_processing-13 | bestanden | 1 / 1 | 5,05 s |
| string_processing-14 | bestanden | 1 / 1 | 3,20 s |
| string_processing-15 | bestanden | 1 / 1 | 3,12 s |
| sets-01 | bestanden | 1 / 1 | 3,32 s |
| sets-02 | bestanden | 1 / 1 | 6,42 s |
| sets-03 | bestanden | 1 / 1 | 4,21 s |
| sets-04 | bestanden | 1 / 1 | 3,30 s |
| sets-05 | bestanden | 1 / 1 | 2,38 s |
| sets-06 | bestanden | 1 / 1 | 7,61 s |
| sets-07 | bestanden | 1 / 1 | 2,47 s |
| sets-08 | bestanden | 1 / 1 | 8,26 s |
| sets-09 | bestanden | 1 / 1 | 6,89 s |
| sets-10 | bestanden | 1 / 1 | 2,64 s |
| sets-11 | bestanden | 1 / 1 | 6,44 s |
| sets-12 | bestanden | 1 / 1 | 6,35 s |
| sets-13 | bestanden | 1 / 1 | 2,45 s |
| sets-14 | bestanden | 1 / 1 | 4,90 s |
| sets-15 | bestanden | 1 / 1 | 9,90 s |
| constraint_selection-01 | bestanden | 1 / 1 | 3,85 s |
| constraint_selection-02 | bestanden | 1 / 1 | 4,10 s |
| constraint_selection-03 | bestanden | 1 / 1 | 3,78 s |
| constraint_selection-04 | bestanden | 1 / 1 | 3,74 s |
| constraint_selection-05 | bestanden | 1 / 1 | 3,63 s |
| constraint_selection-06 | bestanden | 1 / 1 | 3,83 s |
| constraint_selection-07 | bestanden | 1 / 1 | 3,73 s |
| constraint_selection-08 | bestanden | 1 / 1 | 3,46 s |
| constraint_selection-09 | bestanden | 1 / 1 | 3,63 s |
| constraint_selection-10 | bestanden | 1 / 1 | 3,73 s |
| constraint_selection-11 | bestanden | 1 / 1 | 2,64 s |
| constraint_selection-12 | bestanden | 1 / 1 | 4,10 s |
| constraint_selection-13 | bestanden | 1 / 1 | 3,89 s |
| constraint_selection-14 | bestanden | 1 / 1 | 3,66 s |
| constraint_selection-15 | bestanden | 1 / 1 | 3,03 s |
| probability-01 | bestanden | 1 / 1 | 1,26 s |
| probability-02 | bestanden | 1 / 1 | 1,32 s |
| probability-03 | bestanden | 1 / 1 | 2,81 s |
| probability-04 | bestanden | 1 / 1 | 1,73 s |
| probability-05 | bestanden | 1 / 1 | 1,43 s |
| probability-06 | bestanden | 1 / 1 | 3,17 s |
| probability-07 | bestanden | 1 / 1 | 2,50 s |
| probability-08 | bestanden | 1 / 1 | 1,68 s |
| probability-09 | bestanden | 1 / 1 | 2,99 s |
| probability-10 | bestanden | 1 / 1 | 2,28 s |
| probability-11 | bestanden | 1 / 1 | 1,78 s |
| probability-12 | bestanden | 1 / 1 | 2,99 s |
| probability-13 | bestanden | 1 / 1 | 2,66 s |
| probability-14 | bestanden | 1 / 1 | 2,24 s |
| probability-15 | bestanden | 1 / 1 | 3,17 s |
| ext-bit_circuits-01 | bestanden | 1 / 1 | 3,09 s |
| ext-bit_circuits-02 | bestanden | 1 / 1 | 29,82 s |
| ext-bit_circuits-03 | bestanden | 1 / 1 | 3,31 s |
| ext-bit_circuits-04 | bestanden | 1 / 1 | 17,08 s |
| ext-bit_circuits-05 | bestanden | 1 / 1 | 3,21 s |
| ext-bit_circuits-06 | bestanden | 1 / 1 | 30,60 s |
| ext-bit_circuits-07 | bestanden | 1 / 1 | 4,57 s |
| ext-bit_circuits-08 | bestanden | 1 / 1 | 27,41 s |
| ext-bit_circuits-09 | bestanden | 1 / 1 | 10,75 s |
| ext-bit_circuits-10 | bestanden | 1 / 1 | 31,39 s |
| ext-weighted_scheduling-01 | bestanden | 1 / 1 | 24,74 s |
| ext-weighted_scheduling-02 | bestanden | 1 / 1 | 16,27 s |
| ext-weighted_scheduling-03 | bestanden | 1 / 1 | 12,24 s |
| ext-weighted_scheduling-04 | bestanden | 1 / 1 | 18,19 s |
| ext-weighted_scheduling-05 | bestanden | 1 / 1 | 12,31 s |
| ext-weighted_scheduling-06 | bestanden | 1 / 1 | 24,36 s |
| ext-weighted_scheduling-07 | bestanden | 1 / 1 | 11,04 s |
| ext-weighted_scheduling-08 | bestanden | 1 / 1 | 33,90 s |
| ext-weighted_scheduling-09 | bestanden | 1 / 1 | 12,55 s |
| ext-weighted_scheduling-10 | bestanden | 1 / 1 | 8,11 s |
| ext-finite_automata-01 | bestanden | 1 / 1 | 4,17 s |
| ext-finite_automata-02 | bestanden | 1 / 1 | 8,55 s |
| ext-finite_automata-03 | bestanden | 1 / 1 | 2,35 s |
| ext-finite_automata-04 | bestanden | 1 / 1 | 6,39 s |
| ext-finite_automata-05 | bestanden | 1 / 1 | 2,00 s |
| ext-finite_automata-06 | bestanden | 1 / 1 | 10,44 s |
| ext-finite_automata-07 | bestanden | 1 / 1 | 3,13 s |
| ext-finite_automata-08 | bestanden | 1 / 1 | 25,34 s |
| ext-finite_automata-09 | bestanden | 1 / 1 | 4,27 s |
| ext-finite_automata-10 | bestanden | 1 / 1 | 11,76 s |
| ext-fifo_inventory-01 | bestanden | 1 / 1 | 3,05 s |
| ext-fifo_inventory-02 | bestanden | 1 / 1 | 5,38 s |
| ext-fifo_inventory-03 | bestanden | 1 / 1 | 3,02 s |
| ext-fifo_inventory-04 | bestanden | 1 / 1 | 2,78 s |
| ext-fifo_inventory-05 | bestanden | 1 / 1 | 2,81 s |
| ext-fifo_inventory-06 | bestanden | 1 / 1 | 4,90 s |
| ext-fifo_inventory-07 | bestanden | 1 / 1 | 3,11 s |
| ext-fifo_inventory-08 | bestanden | 1 / 1 | 3,08 s |
| ext-fifo_inventory-09 | bestanden | 1 / 1 | 2,75 s |
| ext-fifo_inventory-10 | bestanden | 1 / 1 | 5,32 s |
| ext-edit_distance-01 | fehlgeschlagen | 0 / 1 | 39,65 s |
| ext-edit_distance-02 | fehlgeschlagen | 0 / 1 | 39,71 s |
| ext-edit_distance-03 | fehlgeschlagen | 0 / 1 | 39,72 s |
| ext-edit_distance-04 | fehlgeschlagen | 0 / 1 | 39,57 s |
| ext-edit_distance-05 | fehlgeschlagen | 0 / 1 | 39,68 s |
| ext-edit_distance-06 | fehlgeschlagen | 0 / 1 | 39,06 s |
| ext-edit_distance-07 | fehlgeschlagen | 0 / 1 | 38,81 s |
| ext-edit_distance-08 | fehlgeschlagen | 0 / 1 | 38,79 s |
| ext-edit_distance-09 | fehlgeschlagen | 0 / 1 | 38,80 s |
| ext-edit_distance-10 | fehlgeschlagen | 0 / 1 | 38,79 s |
| ext-calendar_explicit-01 | bestanden | 1 / 1 | 13,65 s |
| ext-calendar_explicit-02 | bestanden | 1 / 1 | 7,29 s |
| ext-calendar_explicit-03 | bestanden | 1 / 1 | 15,83 s |
| ext-calendar_explicit-04 | bestanden | 1 / 1 | 14,07 s |
| ext-calendar_explicit-05 | bestanden | 1 / 1 | 8,97 s |
| ext-calendar_explicit-06 | bestanden | 1 / 1 | 11,88 s |
| ext-calendar_explicit-07 | bestanden | 1 / 1 | 17,92 s |
| ext-calendar_explicit-08 | bestanden | 1 / 1 | 13,42 s |
| ext-calendar_explicit-09 | bestanden | 1 / 1 | 16,21 s |
| ext-calendar_explicit-10 | bestanden | 1 / 1 | 18,30 s |
| ext-rolling_checksum-01 | bestanden | 1 / 1 | 11,03 s |
| ext-rolling_checksum-02 | bestanden | 1 / 1 | 11,24 s |
| ext-rolling_checksum-03 | bestanden | 1 / 1 | 14,74 s |
| ext-rolling_checksum-04 | bestanden | 1 / 1 | 11,07 s |
| ext-rolling_checksum-05 | fehlgeschlagen | 0 / 1 | 16,03 s |
| ext-rolling_checksum-06 | bestanden | 1 / 1 | 10,68 s |
| ext-rolling_checksum-07 | bestanden | 1 / 1 | 12,16 s |
| ext-rolling_checksum-08 | bestanden | 1 / 1 | 11,77 s |
| ext-rolling_checksum-09 | bestanden | 1 / 1 | 11,77 s |
| ext-rolling_checksum-10 | fehlgeschlagen | 0 / 1 | 9,31 s |
| ext-grid_path_count-01 | fehlgeschlagen | 0 / 1 | 22,48 s |
| ext-grid_path_count-02 | bestanden | 1 / 1 | 6,36 s |
| ext-grid_path_count-03 | fehlgeschlagen | 0 / 1 | 13,73 s |
| ext-grid_path_count-04 | bestanden | 1 / 1 | 9,46 s |
| ext-grid_path_count-05 | fehlgeschlagen | 0 / 1 | 20,62 s |
| ext-grid_path_count-06 | bestanden | 1 / 1 | 11,47 s |
| ext-grid_path_count-07 | bestanden | 1 / 1 | 5,79 s |
| ext-grid_path_count-08 | bestanden | 1 / 1 | 8,12 s |
| ext-grid_path_count-09 | bestanden | 1 / 1 | 9,93 s |
| ext-grid_path_count-10 | bestanden | 1 / 1 | 8,16 s |
| ext-sample_variance-01 | fehlgeschlagen | 0 / 1 | 7,85 s |
| ext-sample_variance-02 | bestanden | 1 / 1 | 4,66 s |
| ext-sample_variance-03 | fehlgeschlagen | 0 / 1 | 20,73 s |
| ext-sample_variance-04 | bestanden | 1 / 1 | 7,33 s |
| ext-sample_variance-05 | fehlgeschlagen | 0 / 1 | 9,23 s |
| ext-sample_variance-06 | bestanden | 1 / 1 | 14,39 s |
| ext-sample_variance-07 | bestanden | 1 / 1 | 3,83 s |
| ext-sample_variance-08 | bestanden | 1 / 1 | 17,43 s |
| ext-sample_variance-09 | fehlgeschlagen | 0 / 1 | 38,37 s |
| ext-sample_variance-10 | bestanden | 1 / 1 | 11,15 s |
| ext-round_robin-01 | bestanden | 1 / 1 | 7,96 s |
| ext-round_robin-02 | bestanden | 1 / 1 | 9,32 s |
| ext-round_robin-03 | bestanden | 1 / 1 | 4,89 s |
| ext-round_robin-04 | bestanden | 1 / 1 | 11,99 s |
| ext-round_robin-05 | bestanden | 1 / 1 | 10,74 s |
| ext-round_robin-06 | bestanden | 1 / 1 | 4,04 s |
| ext-round_robin-07 | bestanden | 1 / 1 | 13,78 s |
| ext-round_robin-08 | bestanden | 1 / 1 | 22,42 s |
| ext-round_robin-09 | bestanden | 1 / 1 | 4,33 s |
| ext-round_robin-10 | bestanden | 1 / 1 | 12,18 s |
Konfiguration
| Engine?Die Inferenz-Software, die das Modell ausliefert (z.B. vLLM oder llama.cpp). Sie bestimmt Geschwindigkeit, unterstuetzte Modellformate und welche Parameter ueberhaupt verfuegbar sind. | vllm |
| Modellalias?Der Name, unter dem das Modell ueber die API angesprochen wird. Genau dieser Wert muss im Request-Feld 'model' stehen. | Aleph-Alpha/Kolibri-1 |
| Kontextlaenge?Maximale Anzahl Tokens (Eingabe + erzeugte Ausgabe zusammen), die das Modell pro Anfrage verarbeiten kann. | 32768 |
| Alias?Anzeigename des Modells nach aussen (served model name), unabhaengig vom Dateinamen. | Aleph-Alpha/Kolibri-1 |
| Kontext?Groesse des Kontextfensters in Token. 0 = der beim Training verwendete Kontext des Modells. | 32768 |
| Max-Sequenzen?Maximale Anzahl gleichzeitig bearbeiteter Anfragen (Batch-Groesse). Hoeher = mehr Durchsatz, braucht aber mehr KV-Cache-Speicher. | 10 |
| GPU-Speicher?Anteil des GPU-Speichers (0 bis 1), den vLLM belegen darf. 0.92 = 92 %. Hoeher = mehr Platz fuer den KV-Cache (mehr/laengere parallele Anfragen), aber groesseres Risiko fuer 'Out of Memory'. | 0.94 |
| KV-Cache-Dtype?Datentyp des KV-Cache (auto, fp8). fp8 halbiert etwa den Cache-Speicher -> mehr und laengere parallele Anfragen bei minimalem Qualitaetsverlust. | fp8 |
| Reasoning-Parser?Trennt den Denk-/Reasoning-Teil der Antwort vom eigentlichen Inhalt (z.B. bei Modellen mit <think>-Bloecken). | kolibri1 |
| Tool-Parser?Bestimmt, wie vLLM Tool-Aufrufe aus der Modellantwort ausliest (z.B. hermes, mistral, llama3_json). Muss zum Modell passen. | kolibri1 |
| Prefix-Caching?Speichert bereits berechnete Prompt-Anfaenge und verwendet sie wieder. Beschleunigt Anfragen mit gemeinsamem Praefix (z.B. gleicher System-Prompt) deutlich. | aktiv |
| execution_type | local |
Kolibri-1 auf verschiedener Hardware
Alle veröffentlichten Performance-Läufe dieses Modells – jede Blase eine Variante: Position = Prefill (X) × Generation (Y), Blasengröße = Anzahl Läufe. Näher oben rechts = schneller. ★ Gold markiert = dieser Benchmark.
GPUnach Grafikkarte
CPUnach Prozessor
MBnach Mainboard
DRVnach Treiber
Mario Alka Administrator
Ich bin Unternehmer, Softwareentwickler und KI-Enthusiast. Seit vielen Jahren entwickle ich Unternehmenssoftware und beschäftige mich inzwischen fast täglich mit lokalen LLMs, KI-Agenten und leistungsfähiger KI-Hardware.
Mit LLM-Benchmark.de möchte ich eine Plattform schaffen, auf der Modelle, GPUs und Agenten objektiv und reproduzierbar miteinander verglichen werden.


