Vertiefung · Deine eigene KI auf deinem Rechner · Lektion L.1 · 12 Min.

Lokal oder Cloud? Der ehrliche Vergleich

Danach weißt du, was eine lokale KI ist, wofür sie heute schon gut ist, wo Claude klar besser bleibt und warum lokale KI in den nächsten Jahren wichtiger wird – und kannst für dich entscheiden, ob sich der Aufwand lohnt.

Stand 24. Oktober 2026 · Wir prüfen die Inhalte regelmäßig gegen die aktuellen Programme. Was ist neu?

Wenn du Claude etwas schreibst, wandert dein Text über das Internet zu Anthropic, wird dort auf großen Rechnern verarbeitet, und die Antwort kommt zurück. Das nennt man Cloud-KI.

Eine lokale KI funktioniert anders: Das Sprachmodell liegt als Datei auf deinem eigenen Rechner und rechnet dort. Dein Text verlässt das Gerät nicht. Du brauchst dafür kein Abo und, wenn alles eingerichtet ist, nicht einmal Internet.

Das klingt nach dem perfekten Tausch. Ist es aber nicht immer. In dieser Lektion legen wir beides ehrlich nebeneinander, damit du nicht Geld und Zeit in etwas steckst, das du gar nicht brauchst.

In dieser Vertiefung gibt es zwei Wege, zwischen denen du in Lektion L.2 wählst:

  • Weg A: Die KI läuft auf deinem eigenen Laptop oder PC, wenn er stark genug ist (Lektionen L.1 bis L.6, L.9, L.10).
  • Weg B: Ein eigener KI-Rechner steht bei dir zu Hause, läuft rund um die Uhr, und alle im Haushalt oder Büro nutzen ihn vom Laptop oder Handy aus (zusätzlich L.7 und L.8).

Am Ende hast du auf beiden Wegen dasselbe: eine KI, die funktioniert, ohne Internet antwortet, deine eigenen Dokumente lesen kann und sicher eingerichtet ist.

Schritt für Schritt

Versteh, was „lokal“ bedeutet. Du brauchst zwei Dinge:

  1. ein Programm, das wie ein Chatfenster aussieht (in dieser Vertiefung: LM Studio oder Ollama),
  2. ein Modell: eine große Datei (meist 5 bis 25 GB), in der das „Wissen“ der KI steckt. Gute Modelle gibt es kostenlos, zum Beispiel von Google, OpenAI oder Alibaba.

Einmal heruntergeladen, läuft beides ohne Internet.

Sieh, wofür lokale KI heute schon gut ist.

  • Texte zusammenfassen, umformulieren, übersetzen, Entwürfe schreiben
  • Fragen zu deinen eigenen Dokumenten beantworten (Verträge, Anleitungen, Notizen) – ohne dass sie das Haus verlassen
  • Daten sortieren und in Tabellen bringen
  • alles, wobei du vertrauliche Inhalte hast: Kundendaten, Gesundheitsdaten, Personalakten, Geschäftsgeheimnisse
  • Arbeiten ohne Internet, etwa im Zug oder in einer Halle ohne Netz

Erkenn dich wieder: Für wen sich das besonders lohnt. Lokale KI ist vor allem dort stark, wo Daten nicht aus dem Haus sollen:

  • Arztpraxen und Therapeuten: eigene Praxis-Handbücher und Vorlagen befragen, Briefe entwerfen, lange Unterlagen zusammenfassen.
  • Kanzleien und Steuerbüros: Schriftstücke zusammenfassen, Entwürfe aus eigenen Mustern erstellen, Fristen aus Dokumenten heraussuchen.
  • Hausverwaltungen und Vermieter: Abrechnungen und Verträge befragen („Was steht zur Kündigungsfrist?“), Antwortbriefe an Mieter entwerfen.
  • Pflegedienste und soziale Einrichtungen: interne Abläufe und Anleitungen als Wissens-Chat, Texte vereinfachen.
  • Selbstständige mit Kundendaten, etwa Coaches und Berater: Notizen ordnen, Angebote und Mails vorbereiten.
  • Privat: Kontoauszüge, Gesundheitsunterlagen, das Familienarchiv.

Ehrlich dazu: Dass deine Daten den Rechner nicht verlassen, ist ein großer Vorteil. Es macht dich aber nicht automatisch „DSGVO-konform“ und erfüllt nicht von selbst die Schweigepflicht – Zugriffsschutz, Verschlüsselung und Datensicherung gehören dazu (Lektion L.9). Was rechtlich in deinem Beruf dazugehört, klärst du mit deinem Datenschutzbeauftragten oder deiner Kammer.

Sieh ehrlich, wo Claude klar besser bleibt.

  • lange, verzwickte Aufgaben mit vielen Schritten
  • Programmieren und „Agenten“, die selbstständig in deinen Programmen arbeiten (Claude Code, Konnektoren)
  • aktuelles Wissen und Websuche – ein lokales Modell weiß nur, was bis zu seinem Stand trainiert wurde. In unserem Test nannten zwei aktuelle Modelle im Oktober 2026 noch Olaf Scholz als Bundeskanzler – „zu 100 % sicher“ (mehr in L.5)
  • Faktentreue: Kleine Modelle erfinden öfter etwas (Lektion 1.3 gilt hier doppelt)

Die Forscher von Epoch AI haben gemessen: Offene Modelle, die auf einen normalen Heimrechner passen, erreichen den Stand der besten Modelle mit etwa 6 bis 12 Monaten Verspätung. Sie warnen aber selbst, dass der Abstand im Alltag oft größer ist, als die Testergebnisse zeigen.

Kenn die Kosten auf beiden Seiten.

Lokal Claude
Programm und Modell 0 € –
Abo 0 € 0 € (Free), Pro etwa 20 $ im Monat, Max etwa 100 $ oder 200 $ (Lektion 1.6)
Hardware dein vorhandener Rechner, sonst ab ca. 1.000 € (L.2) jedes Gerät mit Browser
Strom wenige Euro bis ca. 50 € im Jahr bei sparsamen Geräten (L.7) –
Zeit einmal 1–3 Stunden einrichten, dann gelegentlich pflegen sofort loslegen

Versteh, warum lokale KI in Zukunft wichtiger wird. Das sind keine Versprechen, sondern Entwicklungen, die man heute schon messen kann:

  • Kleine Modelle werden schnell besser. Neue Bauweisen rechnen bei jeder Antwort nur mit einem kleinen Teil des Modells. Dadurch laufen gute Modelle schon auf Rechnern mit 16 bis 32 GB Speicher.
  • Rechenleistung wird billiger. Was KI-Antworten auf einem bestimmten Niveau kosten, ist in wenigen Jahren um ein Vielfaches gefallen.
  • Datenschutz wird wichtiger. Für viele Betriebe ist „nichts verlässt das Haus“ das einfachste Argument.
  • Gegenwind: Arbeitsspeicher ist 2026 knapp und teuer geworden. Neue Rechner mit viel Speicher kosten deshalb gerade mehr als vor einem Jahr.

Entscheide für dich.

Lohnt es sich nicht, ist das ein gutes Ergebnis: Du hast dir Zeit und Geld gespart.

Sag Claude:Ich überlege, eine lokale KI auf meinem Rechner einzurichten. Ich nutze KI vor allem für: [deine drei häufigsten Aufgaben]. Vertraulich sind dabei: [z. B. Kundendaten, nichts]. Sag mir ehrlich: Lohnt sich lokale KI für mich, oder reicht Claude? Was spricht dafür, was dagegen?
Hängst du irgendwo fest? Frag deinen Claude – so oft du willst, auch zu jedem einzelnen Schritt.
Sag Claude:Ich mache gerade die Lektion „L.1 Lokal oder Cloud? Der ehrliche Vergleich“ im AWA Campus und hänge bei diesem Schritt: … Erklär ihn mir bitte einfacher, Schritt für Schritt. Ich bin Anfänger.
Geschafft, wenn …
  • du in eigenen Worten erklären kannst, was eine lokale KI ist,
  • du drei Aufgaben nennen kannst, für die lokal gut passt, und drei, für die du bei Claude bleibst,
  • du entschieden hast, ob du weitermachst.
Wörter erklärt
  • Lokal: auf deinem eigenen Gerät, nicht im Internet.
  • Cloud: auf Rechnern eines Anbieters im Internet.
  • Modell: die Datei, in der das trainierte „Wissen“ der KI steckt.
  • Offenes Modell: ein Modell, das der Hersteller zum Herunterladen freigibt, oft auch für berufliche Nutzung.