Blog

Hier schreibe ich auf, was ich beim Betrieb lokaler KI wirklich messe: welche offenen Sprachmodelle auf eigener Hardware welche Aufgaben schaffen, wie belastbar automatische Bewertungen sind und was davon für Unternehmen mit sensiblen Daten zählt. Jeder Artikel basiert auf eigenen Testläufen, die Rohdaten stehen im Benchmark zum Nachprüfen bereit. Für Geschäftsführer, IT-Verantwortliche und alle, die KI einsetzen wollen, ohne Kundendaten aus der Hand zu geben.

• 7. Oktober 2026 · 9 Min. Lesezeit

  Lokale KI-Modelle im Test: 62 Modelle, 139.000 Antworten – und was Quantisierung wirklich kostet

  Testrunde 2 des lokalen LLM-Benchmarks: 62 Modelle plus 78 Quantisierungs- und Engine-Varianten, 100 deutsche Business-Aufgaben, über 139.000 Antworten, doppelt bewertet und gegen 100 menschliche Urteile validiert. Mit klaren Antworten auf die Praxisfragen: Reicht Q4? Wann kippt Q2? Was bringt Thinking – und was kostet Abliteration?

  Artikel lesen →

• 30. September 2026 · 9 Min. Lesezeit

  DGX Spark vs. Mac Studio vs. RTX 5090 für lokale KI

  Warum eine RTX 5090 mit 32 GB mehr als dreimal so schnell antwortet wie ein DGX Spark mit 128 GB. Mit Tabelle für über 50 Grafikkarten und Modell je Karte.

  Artikel lesen →

• 3. September 2026 · 9 Min. Lesezeit

  LLM as a Judge: Wer bewertet den Bewerter? 100 KI-Urteile von Hand nachgeprüft

  41 lokale Sprachmodelle, 41.000 Antworten – bewertet von KI-Judges. Aber kann man denen trauen? Ein Stichproben-Audit, ein neues Bewertungssystem mit zwei unabhängigen Judge-Familien und 100 von Hand geprüfte Antworten geben die Antwort. Inklusive aller Fehler, die dabei aufgeflogen sind.

  Artikel lesen →

• 13. August 2026 · 7 Min. Lesezeit

  Wer bewertet die Bewerter? 4 KI-Judges im Test

  Vier Benchmark-Bewerter gegen ein manuelles Gold-Set getestet: Der günstigste lokale Judge ist genauer als der Cloud-Judge. Mit öffentlich dokumentiertem Bug.

  Artikel lesen →

• 29. Juli 2026 · 9 Min. Lesezeit

  Lokale KI im Test: 25 Modelle, 30 Aufgaben

  25 offene Sprachmodelle gegen 30 Aufgaben auf einer RTX 5090, 7.500 Testläufe, zwei unabhängige Bewerter. Was für DSGVO-konforme KI im Mittelstand reicht.

  Artikel lesen →