Stufe 1 · Verstehen · Lektion 1.3 · 10 Min.

Wo KI Unsinn erzählt – und wie du es merkst

Danach kannst du typische Fehler einer KI erkennen und Antworten mit einfachen Mitteln prüfen.

Stand 22. Oktober 2026 · Wir prüfen die Inhalte regelmäßig gegen die aktuellen Programme. Was ist neu?

Claude ist sehr hilfreich, aber nicht unfehlbar. Das Tückische: Auch eine falsche Antwort klingt freundlich und sicher. In dieser Lektion lernst du, wo KI besonders oft danebenliegt, und wie du mit wenigen Handgriffen prüfst, ob du einer Antwort trauen kannst.

Schritt für Schritt

Lern die fünf Stolperfallen kennen. Hier liegt KI besonders oft daneben:

  1. Genaue Zahlen und Daten: Preise, Fristen, Paragrafen, Telefonnummern, Öffnungszeiten.
  2. Erfundene Quellen: Bücher, Studien, Links oder Zitate, die es gar nicht gibt.
  3. Neues und Aktuelles: Was nach dem Lernstand der KI passiert ist, kennt sie nur, wenn sie im Internet nachsehen darf.
  4. Rechnen und Zählen: Bei längeren Rechnungen oder beim Zählen von Buchstaben passieren Fehler.
  5. Örtliches und Persönliches: Regeln in deiner Stadt, deine Verträge, deine Lage – das muss die KI raten, wenn du es nicht sagst.

Achte auf Warnzeichen. Werde aufmerksam, wenn eine Antwort sehr genau klingt, aber keine Quelle hat. Oder wenn Claude bei einer Nachfrage plötzlich etwas ganz anderes sagt. Oder wenn etwas zu gut klingt, um wahr zu sein.

Frag nach Quellen und Unsicherheit. Das ist der einfachste Prüf-Trick. Wenn Claude im Internet suchen darf, nennt er Links. Klick mindestens einen an und schau, ob dort wirklich steht, was Claude sagt.

Sag Claude:Nenne mir für deine wichtigsten Aussagen Quellen mit Link. Sag mir ehrlich, wo du dir unsicher bist und was ich selbst nachprüfen sollte.

Lass Claude sich selbst prüfen. Eine zweite Runde deckt erstaunlich viele Fehler auf.

Sag Claude:Lies deine letzte Antwort noch einmal kritisch durch. Was könnte daran falsch oder veraltet sein? Korrigiere es, falls nötig.

Merk dir die Faustregel. Je teurer ein Fehler wäre, desto gründlicher prüfst du. Ein Rezeptvorschlag braucht keine Prüfung. Eine Frist beim Amt, eine Medikamenten-Frage oder ein Vertrag schon: Dort prüfst du bei der offiziellen Stelle nach oder fragst einen Profi. Claude hilft dir beim Verstehen und Vorbereiten, die Entscheidung triffst du.

Mach eine kleine Probe. Frag Claude etwas, das du sicher weißt, zum Beispiel über deinen Wohnort oder deinen Beruf. Schau, wo die Antwort stimmt und wo nicht. So bekommst du ein Gefühl dafür, wie zuverlässig Claude bei deinen Themen ist.

Hängst du irgendwo fest? Frag deinen Claude – so oft du willst, auch zu jedem einzelnen Schritt.
Sag Claude:Ich mache gerade die Lektion „1.3 Wo KI Unsinn erzählt – und wie du es merkst“ im AWA Campus und hänge bei diesem Schritt: … Erklär ihn mir bitte einfacher, Schritt für Schritt. Ich bin Anfänger.
Geschafft, wenn …
  • du die fünf Stolperfallen aufzählen kannst,
  • du Claude nach Quellen gefragt und mindestens eine Quelle selbst geöffnet hast,
  • du weißt, bei welchen Themen du immer selbst nachprüfst.
Wörter erklärt
  • Halluzinieren: so nennt man es, wenn eine KI etwas erfindet und es als Tatsache darstellt.
  • Quelle: die Stelle, aus der eine Information stammt, zum Beispiel eine Webseite oder ein Gesetzestext.
  • Lernstand (auch „Wissensstichtag“): der Zeitpunkt, bis zu dem die KI Texte zum Lernen bekommen hat; Neueres kennt sie nur über eine Internetsuche.
  • Websuche: Claude sieht während der Antwort im Internet nach und nennt die gefundenen Seiten.