LLM Economics
Vergleiche Hardware, Modelle und Inferenz-Setups nach Betriebskosten, Tokenleistung und Gesamtbetriebskosten.
Betriebskosten vs. TCO
Betriebskosten sind reine Stromkosten. TCO (Total Cost of Ownership) addiert die Anschaffung (GPU bzw. Vollsystem) hinzu und teilt sie ggf. auf die Laufzeit.
Leistung & Anschaffung
Da je Lauf keine Wattzahl gemessen wird, schätzen wir die System-Leistung: GPU-TDP × Anzahl (die GPU ist unter Inferenz die Hauptlast) + CPU (bei GPU-Läufen wartet die CPU meist → Idle-Watt + 15 %; bei reinen CPU-Läufen die volle CPU-TDP) + Mainboard. Auf der GPU-Übersicht wird zusätzlich die reine GPU-TDP ausgewiesen. Bei Unified-Chips/APUs (z. B. AMD Strix Halo / Radeon 8060S, NVIDIA GB10) enthält die GPU-TDP die CPU bereits – dort wird die CPU nicht doppelt gezählt. Die Anschaffung rechnet das komplette System: GPU + CPU + Mainboard + RAM + Netzteil.
AVG, MIN, MAX, Median
Economics-Kennzahlen werden zuerst je realem Benchmarklauf berechnet und erst danach aggregiert. So bleibt jede Kostenkennzahl an einen tatsächlichen Lauf gebunden. MIN bei Kosten = günstigster Lauf, MAX = teuerster.
Kosten pro 1 Mio. Token
electricity_cost_per_1M = 1.000.000 × power_kw × price_per_kwh / tokens_per_second / 3600
Einfluss von Strompreis, Auslastung, Anschaffung
Höherer Strompreis und höhere Auslastung erhöhen die laufenden Kosten linear. Die Anschaffung verteilt sich mit steigender Tokenproduktion auf immer mehr Token, wodurch die Gesamtkosten je Token sinken.
Performance- vs. Harness-Economics
Performance-Läufe liefern Token/s → Kosten pro Token. Harness-Läufe liefern Dauer + Punkte → Kosten pro erfolgreicher Aufgabe / pro Punkt. Tokenbezogene Harness-Kosten nur, wenn echte Tokenmetriken erfasst wurden.
Warum niedrige Tokenkosten ≠ Qualität
Ein kleines, günstiges Modell produziert billig Token, ist aber nicht automatisch das beste. Qualität kommt aus dem Harness-Benchmark. Economics vergleicht Kosten, nicht Qualität.
Datenstatus & fehlende Werte
Jeder Wert ist als gemessen, geschätzt (TDP), Vollpreis, Teilpreis oder fehlend gekennzeichnet. Fehlende Pflichtwerte werden nie durch erfundene Standardwerte ersetzt.