Das richtige Modell für dich: Größe, Lizenz und dein eigener Deutsch-Test

Versteh die Namen. Ein Modellname wie gemma-4-26B-A4B-it mit Zusatz Q4_K_M bedeutet:

• gemma-4: Modellfamilie und Version (hier von Google)
• 26B: Größe – 26 Milliarden Parameter (die „Stellschrauben“ des Modells). Mehr ist meist klüger, aber größer.
• A4B: „aktiv 4 Milliarden“ – das Modell rechnet pro Wort nur mit einem Teil seiner Stellschrauben. Dadurch ist es schneller, als die Größe vermuten lässt. Fachwort: Mixture of Experts.
• it: „instruction tuned“ – für Gespräche trainiert. Nimm immer diese Variante (oft auch „instruct“ oder „chat“).
• Q4_K_M (oder „4bit“): die Genauigkeitsstufe aus L.3.

Kenn die Kandidaten (Stand Oktober 2026).

Gemma 4 nennt über 35 unterstützte Sprachen. Wie gut die Modelle im Alltag Deutsch schreiben, findest du gleich selbst heraus.

Prüf die Lizenz, bevor du beruflich arbeitest. Auf der Modellseite (in LM Studio unter Model Search oder bei Hugging Face) steht die Lizenz.

• Apache 2.0 oder MIT: Du darfst das Modell privat und beruflich nutzen, auch für Kundenarbeit.
• Eigene Lizenzen (z. B. „… Community License“): lies die Bedingungen oder lass sie dir zusammenfassen. Manche begrenzen große Firmen oder bestimmte Zwecke.

Leg deinen Testkatalog an. Schreib zehn Aufgaben auf, die du wirklich brauchst – nicht Rätsel, sondern Alltag. Vorschlag zum Anpassen:

1. Eine höfliche Mail an einen Kunden, der seit drei Wochen nicht zahlt.
2. Fasse diesen Absatz in drei Stichpunkten zusammen: [ein echter Absatz aus deiner Arbeit, ohne vertrauliche Namen].
3. Formuliere diesen Satz einfacher: [ein Behördensatz].
4. Übersetze ins Englische: [zwei Sätze].
5. Mach aus diesen Stichpunkten eine Liste mit Aufgaben und Fristen: [Stichpunkte].
6. Erklär einem Zwölfjährigen, was eine Steuererklärung ist.
7. Wie viele Tage hat der Februar 2028? (Fangfrage: Schaltjahr – prüf die Antwort.)
8. Wer ist aktuell Bundeskanzler? (Fangfrage: Ein lokales Modell kennt nur seinen Trainingsstand. Gute Modelle sagen das dazu.)
9. Schreib einen Instagram-Text für [dein Angebot], locker, mit zwei Emojis.
10. Eine Aufgabe, die dir besonders wichtig ist.

Speicher den Katalog als Textdatei, damit du ihn bei jedem neuen Modell wiederverwenden kannst.

Teste zwei bis drei Modelle. Lade die Modelle nacheinander (immer nur eins geladen, sonst wird der Speicher knapp), starte für jedes einen neuen Chat und stell die zehn Aufgaben. Bewerte jede Antwort mit 0 bis 2 Punkten:

• 2: so würde ich es nutzen
• 1: brauchbar, muss nacharbeiten
• 0: falsch, holprig oder erfunden

Schreib auch das Tempo dazu (L.3). Gewinner ist das Modell mit den meisten Punkten bei für dich brauchbarem Tempo.

Achte beim Deutsch auf typische Schwächen kleiner Modelle: Sätze, die wörtlich aus dem Englischen übersetzt klingen (in unserem Test etwa „Ich hoffe, diese E-Mail erreicht Sie gut“), zu förmlicher Ton oder Platzhalter wie „[Datum einfügen]“, die du selbst füllen musst. Das ist kein Fehler – aber ein Punktabzug, wenn ein anderes Modell es besser kann.

Sieh dir unseren eigenen Vergleich an. Wir haben auf einem MacBook Pro mit M1 Pro und 16 GB die beiden Google-Modelle Gemma 4 E4B und Gemma 4 12B mit denselben Aufgaben getestet (Oktober 2026):

Die letzte Zeile ist die wichtigste Lektion dieser Vertiefung: Beide Modelle kennen nur den Stand ihres Trainings – und behaupten trotzdem voller Überzeugung, ihr Wissen sei aktuell. Seit Mai 2025 ist Friedrich Merz Bundeskanzler. Für aktuelle Fakten ist eine lokale KI ohne Internet die falsche Quelle; dafür nimmst du Claude mit Websuche oder eine Nachrichtenseite.

Unser Fazit für 16 GB: Gemma 4 12B schreibt besseres Deutsch, E4B ist fast doppelt so schnell. Für Briefe und Texte lohnt sich das größere Modell; für schnelle Zusammenfassungen reicht das kleine.

Lass dir bei der Auswertung helfen, wenn du unsicher bist, welche Antwort besser ist:

Achte darauf, dass in den Testantworten keine vertraulichen Daten stehen, wenn du sie Claude zeigst – das ist ja der Sinn der lokalen KI.

Räum auf. Lösch Modelle, die du nicht behältst (in LM Studio links unter Library). Jedes Modell belegt viele Gigabyte.