Aleph Alpha

Kolibri-178.1B

Name: Kolibri-1
Author: Aleph Alpha

Benchmarkprofil und veröffentlichte Ergebnisse.

MoE78.1B

Einordnung im Feld

Bestwerte im Vergleich

Beste Messwerte dieses Modells gegen Minimum, Durchschnitt und Maximum aller veröffentlichten Systeme.

NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition Alle GPUs

Generation1.044,4 tok/s

Min 7,0Ø 556,8Max 2.143,6

Ueber dem Durchschnitt · 542 Systeme im Feld

Prefill43.711 tok/s

Min 28Ø 6.400Max 43.711

Spitzenwert im Feld · 533 Systeme im Feld

Time to First Token98 ms

Min 59Ø 9.098Max 168.314

Ueber dem Durchschnitt · 542 Systeme im Feld

Harness-Quote100,0 %

Min 37,1Ø 71,5Max 100,0

Spitzenwert im Feld · 27 Systeme im Feld

Performanceprofil

Durchsatz nach Hardware & Engine

Jede Blase steht für eine GPU, CPU bzw. Engine – die Position zeigt Prompt-Verarbeitung (X) und Ausgabe-Geschwindigkeit (Y), die Blasengröße die Anzahl der Messläufe.

GPUnach Grafikkarte

NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition 1.044,4 tok/sAMD Radeon 8060S Graphics 158,2 tok/s

CPUnach Prozessor

AMD Ryzen 9 7945HX with Radeon Graphics 1.044,4 tok/sAMD RYZEN AI MAX+ 395 w/ Radeon 8060S 158,2 tok/s

ENGnach Engine

unbekannt 1.044,4 tok/svLLM 902,9 tok/s

Durchsatz & Latenz

Performancebenchmark

Messwert:

#	Modell / Hersteller	Messwerte	Parallel	GPU / CPU / RAM	Runtime
1	Kolibri-178.1BAleph Alpha PerformancebenchmarkKolibri Prefill-Decode 1024-256 - Summenraten C1 C5 C10 V1	1.044,38 tok/s TG Prefill 38.866 · TTFT 388 ms	10×	NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition iAMD Ryzen 9 7945HX with Radeon Graphics · 60 GB RAM	serverphasetimingNVFP4	Details →
2	Kolibri-178.1BAleph Alpha PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)	902,92 tok/s TG Prefill - · TTFT 227 ms	10×	NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation EditionAMD Ryzen 9 7945HX with Radeon Graphics · 60 GB RAM	vLLMgodclaw	Details →
3	Kolibri-178.1BAleph Alpha PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)	846,62 tok/s TG Prefill - · TTFT 238 ms	10×	NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation EditionAMD Ryzen 9 7945HX with Radeon Graphics · 60 GB RAM	vLLMgodclaw	Details →
4	Kolibri-178.1BAleph Alpha PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)	833,03 tok/s TG Prefill - · TTFT 213 ms	10×	NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation EditionAMD Ryzen 9 7945HX with Radeon Graphics · 60 GB RAM	vLLMgodclaw	Details →
5	Kolibri-178.1BAleph Alpha PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)	626,30 tok/s TG Prefill - · TTFT 165 ms	5×	NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation EditionAMD Ryzen 9 7945HX with Radeon Graphics · 60 GB RAM	vLLMgodclaw	Details →
6	Kolibri-178.1BAleph Alpha PerformancebenchmarkKolibri Prefill-Decode 1024-256 - Summenraten C1 C5 C10 V1	589,64 tok/s TG Prefill 43.711 · TTFT 223 ms	5×	NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition iAMD Ryzen 9 7945HX with Radeon Graphics · 60 GB RAM	serverphasetimingNVFP4	Details →
7	Kolibri-178.1BAleph Alpha PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)	569,97 tok/s TG Prefill - · TTFT 160 ms	5×	NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation EditionAMD Ryzen 9 7945HX with Radeon Graphics · 60 GB RAM	vLLMgodclaw	Details →
8	Kolibri-178.1BAleph Alpha PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)	490,51 tok/s TG Prefill - · TTFT 177 ms	5×	NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation EditionAMD Ryzen 9 7945HX with Radeon Graphics · 60 GB RAM	vLLMgodclaw	Details →
9	Kolibri-178.1BAleph Alpha PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)	171,47 tok/s TG Prefill - · TTFT 98 ms	1×	NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation EditionAMD Ryzen 9 7945HX with Radeon Graphics · 60 GB RAM	vLLMgodclaw	Details →
10	Kolibri-178.1BAleph Alpha PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)	168,71 tok/s TG Prefill - · TTFT 160 ms	1×	NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation EditionAMD Ryzen 9 7945HX with Radeon Graphics · 60 GB RAM	vLLMgodclaw	Details →
11	Kolibri-178.1BAleph Alpha PerformancebenchmarkKolibri Prefill-Decode 1024-256 - Summenraten C1 C5 C10 V1	158,18 tok/s TG Prefill 2.213 · TTFT 6.611 ms	10×	AMD Radeon 8060S Graphics iAMD RYZEN AI MAX+ 395 w/ Radeon 8060S · 31 GB RAM	serverphasetimingQ4_K_M	Details →
12	Kolibri-178.1BAleph Alpha PerformancebenchmarkKolibri Prefill-Decode 1024-256 - Summenraten C1 C5 C10 V1	133,13 tok/s TG Prefill 20.590 · TTFT 106 ms	1×	NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition iAMD Ryzen 9 7945HX with Radeon Graphics · 60 GB RAM	serverphasetimingNVFP4	Details →
13	Kolibri-178.1BAleph Alpha PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)	130,86 tok/s TG Prefill - · TTFT 155 ms	1×	NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation EditionAMD Ryzen 9 7945HX with Radeon Graphics · 60 GB RAM	vLLMgodclaw	Details →
14	Kolibri-178.1BAleph Alpha PerformancebenchmarkKolibri Prefill-Decode 1024-256 - Summenraten C1 C5 C10 V1	126,83 tok/s TG Prefill 1.426 · TTFT 3.664 ms	5×	AMD Radeon 8060S Graphics iAMD RYZEN AI MAX+ 395 w/ Radeon 8060S · 31 GB RAM	serverphasetimingQ4_K_M	Details →
15	Kolibri-178.1BAleph Alpha PerformancebenchmarkKolibri Prefill-Decode 1024-256 - Summenraten C1 C5 C10 V1	55,83 tok/s TG Prefill 1.304 · TTFT 810 ms	1×	AMD Radeon 8060S Graphics iAMD RYZEN AI MAX+ 395 w/ Radeon 8060S · 31 GB RAM	serverphasetimingQ4_K_M	Details →

Agent- & Chat-Bewertung

Harnessbenchmark