LLM Economics
Vergleiche Hardware, Modelle und Inferenz-Setups nach Betriebskosten, Tokenleistung und Gesamtbetriebskosten.
Einstellungen werden im Browser gespeichert und in der URL geteilt. Leistungsaufnahme ist mangels Messwert je Lauf aus GPU-TDP × Anzahl (geschätzt) hinterlegt. Methodik →
Betriebskosten vs. TCO
Betriebskosten sind reine Stromkosten. TCO (Total Cost of Ownership) addiert die Anschaffung (GPU bzw. Vollsystem) hinzu und teilt sie ggf. auf die Laufzeit.
Leistungsaufnahme (GPU-TDP)
Da je Lauf keine Wattzahl gemessen wird, verwenden wir die Hersteller-TDP der GPU × Anzahl als geschätzte Inferenzlast – die GPU ist der dominierende Verbraucher. CPU und Mainboard werden bewusst nicht aufaddiert: sonst erschiene unter einer 450-W-GPU eine falsche System-TDP, und bei APUs (z. B. AMD Strix Halo / Radeon 8060S) würden GPU und CPU desselben Chips doppelt gezählt. Reine CPU-Knoten nutzen die CPU-TDP (+ Board).
AVG, MIN, MAX, Median
Economics-Kennzahlen werden zuerst je realem Benchmarklauf berechnet und erst danach aggregiert. So bleibt jede Kostenkennzahl an einen tatsächlichen Lauf gebunden. MIN bei Kosten = günstigster Lauf, MAX = teuerster.
Kosten pro 1 Mio. Token
electricity_cost_per_1M = 1.000.000 × power_kw × price_per_kwh / tokens_per_second / 3600
Einfluss von Strompreis, Auslastung, Anschaffung
Höherer Strompreis und höhere Auslastung erhöhen die laufenden Kosten linear. Die Anschaffung verteilt sich mit steigender Tokenproduktion auf immer mehr Token, wodurch die Gesamtkosten je Token sinken.
Performance- vs. Harness-Economics
Performance-Läufe liefern Token/s → Kosten pro Token. Harness-Läufe liefern Dauer + Punkte → Kosten pro erfolgreicher Aufgabe / pro Punkt. Tokenbezogene Harness-Kosten nur, wenn echte Tokenmetriken erfasst wurden.
Warum niedrige Tokenkosten ≠ Qualität
Ein kleines, günstiges Modell produziert billig Token, ist aber nicht automatisch das beste. Qualität kommt aus dem Harness-Benchmark. Economics vergleicht Kosten, nicht Qualität.
Datenstatus & fehlende Werte
Jeder Wert ist als gemessen, geschätzt (TDP), Vollpreis, Teilpreis oder fehlend gekennzeichnet. Fehlende Pflichtwerte werden nie durch erfundene Standardwerte ersetzt.