Created bymario-alka.dePowered bygodcore.denoob2claw.detricoma.de
DEEN
Anmelden Registrieren
Beta
Meta

Muse-Glimmer-30B30B

Multimodales 30B-Modell (dense, alle Parameter aktiv) von Meta mit dediziertem Perception-Encoder (~1,8B) fuer Bildverarbeitung, destilliert aus Muse Spark, ausgelegt auf agentische Aufgaben auf lokaler Hardware.

Dense Causal Transformer + Perception Encoder (multimodal, 131k Kontext)30B
Einordnung im Feld

Bestwerte im Vergleich

Beste Messwerte dieses Modells gegen Minimum, Durchschnitt und Maximum aller veröffentlichten Systeme.

AMD Radeon AI PRO R9700Alle GPUs
Generation199,1 tok/s
Min 0,0Ø 77,4Max 667,0
Ueber dem Durchschnitt · 978 Systeme im Feld
Prefill3.112 tok/s
Min 4Ø 2.302Max 35.719
Ueber dem Durchschnitt · 978 Systeme im Feld
Time to First Token337 ms
Min 31Ø 57.832Max 535.235
Ueber dem Durchschnitt · 976 Systeme im Feld
Performanceprofil

Durchsatz nach Hardware & Engine

Jede Blase steht für eine GPU, CPU bzw. Engine – die Position zeigt Prompt-Verarbeitung (X) und Ausgabe-Geschwindigkeit (Y), die Blasengröße die Anzahl der Messläufe.

GPUnach Grafikkarte

2222071911751607301.2051.6802.155Prefill (tok/s)Generation (tok/s)AMD Radeon AI PRO R9700 - 199,1 tok/s Generation, 1.884 tok/s Prefill, TTFT 4.199 ms (12 Laufe)AMD Radeon AI PRO R97...AMD Radeon RX 7900 XTX - 182,7 tok/s Generation, 1.002 tok/s Prefill, TTFT 10.161 ms (3 Laufe)AMD Radeon RX 7900 XTX
AMD Radeon AI PRO R9700 199,1 tok/sAMD Radeon RX 7900 XTX 182,7 tok/s

CPUnach Prozessor

2242051851661466651.2731.8802.488Prefill (tok/s)Generation (tok/s)AMD Ryzen Threadripper PRO 7955WX 16-Cores - 199,1 tok/s Generation, 2.152 tok/s Prefill, TTFT 2.455 ms (9 Laufe)AMD Ryzen Threadrippe...AMD Ryzen Threadripper PRO 3955WX 16-Cores - 182,7 tok/s Generation, 1.002 tok/s Prefill, TTFT 10.161 ms (3 Laufe)AMD Ryzen Threadrippe...AMD Ryzen 3 3100 4-Core Processor - 171,8 tok/s Generation, 1.079 tok/s Prefill, TTFT 9.433 ms (3 Laufe)AMD Ryzen 3 3100 4-Co...
AMD Ryzen Threadripper PRO 7955WX 16-Cores 199,1 tok/sAMD Ryzen Threadripper PRO 3955WX 16-Cores 182,7 tok/sAMD Ryzen 3 3100 4-Core Processor 171,8 tok/s

ENGnach Engine

24419013783,930,61.4341.6961.9582.220Prefill (tok/s)Generation (tok/s)llama.cpp - 199,1 tok/s Generation, 1.627 tok/s Prefill, TTFT 5.443 ms (12 Laufe)llama.cppvLLM - 75,3 tok/s Generation, 2.026 tok/s Prefill, TTFT 5.184 ms (3 Laufe)vLLM
llama.cpp 199,1 tok/svLLM 75,3 tok/s
Durchsatz & Latenz

Performancebenchmark

Messwert:
GPUs
#Modell / HerstellerMesswerteParallelGPU / CPU / RAMRuntime
1Muse-Glimmer-30B30BMeta PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
199,09 tok/s TG
Prefill 2.520 · TTFT 2.032 ms
10×4x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMllama.cppopenclaw_cli batched-bench ROCmQ4_K_MDetails →
2Muse-Glimmer-30B30BMeta PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
182,69 tok/s TG
Prefill 1.099 · TTFT 18.308 ms
10×AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 63 GB RAMllama.cppgodclawQ4_K_MDetails →
3Muse-Glimmer-30B30BMeta PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
171,83 tok/s TG
Prefill 1.188 · TTFT 16.950 ms
10×AMD Radeon AI PRO R9700AMD Ryzen 3 3100 4-Core Processor · 31 GB RAMllama.cppopenclaw_cliQ4_K_MDetails →
4Muse-Glimmer-30B30BMeta PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
159,55 tok/s TG
Prefill 3.112 · TTFT 1.645 ms
10×4x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMllama.cppopenclaw_cli batched-bench ROCmQ8_0Details →
5Muse-Glimmer-30B30BMeta PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
90,08 tok/s TG
Prefill 978 · TTFT 10.061 ms
5×AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 63 GB RAMllama.cppgodclawQ4_K_MDetails →
6Muse-Glimmer-30B30BMeta PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
84,05 tok/s TG
Prefill 2.716 · TTFT 943 ms
5×4x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMllama.cppopenclaw_cli batched-bench ROCmQ8_0Details →
7Muse-Glimmer-30B30BMeta PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
82,79 tok/s TG
Prefill 2.200 · TTFT 1.164 ms
5×4x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMllama.cppopenclaw_cli batched-bench ROCmQ4_K_MDetails →
8Muse-Glimmer-30B30BMeta PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
75,28 tok/s TG
Prefill 2.774 · TTFT 8.886 ms
10×4x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMvLLMgodclawBF16Details →
9Muse-Glimmer-30B30BMeta PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
72,58 tok/s TG
Prefill 1.050 · TTFT 9.383 ms
5×AMD Radeon AI PRO R9700AMD Ryzen 3 3100 4-Core Processor · 31 GB RAMllama.cppopenclaw_cliQ4_K_MDetails →
10Muse-Glimmer-30B30BMeta PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
41,70 tok/s TG
Prefill 2.092 · TTFT 5.044 ms
5×4x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMvLLMgodclawBF16Details →
11Muse-Glimmer-30B30BMeta PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
37,33 tok/s TG
Prefill 927 · TTFT 2.113 ms
1×AMD Radeon RX 7900 XTXAMD Ryzen Threadripper PRO 3955WX 16-Cores · 63 GB RAMllama.cppgodclawQ4_K_MDetails →
12Muse-Glimmer-30B30BMeta PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
28,00 tok/s TG
Prefill 1.219 · TTFT 420 ms
1×4x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMllama.cppopenclaw_cli batched-bench ROCmQ4_K_MDetails →
13Muse-Glimmer-30B30BMeta PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
27,32 tok/s TG
Prefill 999 · TTFT 1.966 ms
1×AMD Radeon AI PRO R9700AMD Ryzen 3 3100 4-Core Processor · 31 GB RAMllama.cppopenclaw_cliQ4_K_MDetails →
14Muse-Glimmer-30B30BMeta PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
17,92 tok/s TG
Prefill 1.520 · TTFT 337 ms
1×4x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMllama.cppopenclaw_cli batched-bench ROCmQ8_0Details →
15Muse-Glimmer-30B30BMeta PerformancebenchmarkTimebench 3 - Kombi (Prefill + Generation)
8,16 tok/s TG
Prefill 1.213 · TTFT 1.622 ms
1×4x AMD Radeon AI PRO R9700 iAMD Ryzen Threadripper PRO 7955WX 16-Cores · 184 GB RAMvLLMgodclawBF16Details →
Agent- & Chat-Bewertung

Harnessbenchmark

Noch keine Harnessbenchmarks fuer dieses Modell.