Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
DEEN
Anmelden Registrieren
Beta

Marcel Sommer

@marcelsommer · Mitglied seit 07/2026

60Benchmarks beigesteuert
60Performance-Läufe
0Harness-Läufe
14Getestete Modelle
3Genutzte GPUs
2.264Bester Durchsatz · tok/s

Genutzte Hardware

NVIDIA GeForce RTX 3090 Ti51× · 2.264 tok/sNVIDIA RTX A60006× · 1.172 tok/sNVIDIA Tesla V100 PCIe 32GB3× · 63 tok/s

Getestete Modelle

Qwen3.8-Flash-Next9×Qwen3.6-35B-A3B6×glm-4.7-flash6×gemma4:31b6×Codestral-22B-v0.16×gemma-4-E2B-it5×gpt-oss-20b4×NVIDIA-Nemotron-3-Nano-30B-A3B3×NVIDIA-Nemotron-3.5-Lightning-30B-A3B3×gemma-4-E4B-it3×Gemma-4-26B-A4B-it3×gemma-4-12B-it3×Devstral-Small-2-24B-Instruct-25122×Devstral-Small-25071×

Top Performance-Läufe

ModellHardwaretok/sTTFTDatum
NVIDIA-Nemotron-3.5-Lightning-30B-A3B 10× NVIDIA GeForce RTX 3090 Ti vLLM 2.264 21.818 ms 12.08.2026
Qwen3.8-Flash-Next 10× NVIDIA RTX A6000 1.172 45.396 ms 16.10.2026
NVIDIA-Nemotron-3.5-Lightning-30B-A3B 5× NVIDIA GeForce RTX 3090 Ti vLLM 1.135 9.812 ms 12.08.2026
Qwen3.6-35B-A3B 10× NVIDIA GeForce RTX 3090 Ti 831 14.928 ms 31.07.2026
Qwen3.6-35B-A3B 10× NVIDIA GeForce RTX 3090 Ti 830 14.891 ms 31.07.2026
Qwen3.6-35B-A3B 10× NVIDIA GeForce RTX 3090 Ti 828 14.940 ms 03.08.2026
Qwen3.8-Flash-Next 5× NVIDIA RTX A6000 590 21.049 ms 16.10.2026
gpt-oss-20b 10× NVIDIA GeForce RTX 3090 Ti vLLM 572 1.915 ms 04.08.2026
Qwen3.6-35B-A3B 5× NVIDIA GeForce RTX 3090 Ti 467 5.143 ms 03.08.2026
gemma-4-E2B-it 10× NVIDIA GeForce RTX 3090 Ti vLLM 451 864 ms 03.08.2026