Einheit 1 ·

Halluzination

Lies das zuerst. Jede Frage danach kommt aus diesen Karten.

Lernen · 1/3

Was eine Halluzination ist

Es klingt absolut sicher. Und ist trotzdem falsch.

Eine Halluzination ist, wenn das Modell selbstsicher etwas Falsches behauptet. Es schreibt flüssigen Text, auch wenn kein Wissen dahintersteht.

Auch Quellen und Verweise, die es nennt, sind erzeugter Text. Es kann also sein, dass sie gar nicht existieren.

Die ganze Lektion als Text

Karten und das Wichtigste

Warum es Dinge erfindet und wie du dich schützt.

Das Wichtigste

  • Selbstsicher heißt nicht wahr, auch genannte Quellen können erfunden sein.
  • Quelle mitgeben, 'weiß ich nicht' erlauben, wichtige Aussagen prüfen.
  • Wo Fehler teuer sind, prüft ein Mensch.

Was eine Halluzination ist

Es klingt absolut sicher. Und ist trotzdem falsch.

Eine Halluzination ist, wenn das Modell selbstsicher etwas Falsches behauptet. Es schreibt flüssigen Text, auch wenn kein Wissen dahintersteht.

Auch Quellen und Verweise, die es nennt, sind erzeugter Text. Es kann also sein, dass sie gar nicht existieren.

Merke dir: Selbstsicher heißt nicht wahr, auch genannte Quellen können erfunden sein.

Zwei starke Schutzmaßnahmen

Zwei kleine Sätze im Prompt, deutlich weniger Erfundenes.

Gib dem Modell das Quellenmaterial mit, und erlaube ihm, 'weiß ich nicht' zu sagen.

Dann verlang eine Antwort mit Quellenbezug und prüf die wichtigsten Aussagen, bevor du sie verwendest.

Besserer Prompt

Nenn anhand des Berichts unten den Umsatz für 2023. Wenn er nicht drinsteht, sag, dass er nicht zu finden ist.

Merke dir: Quelle mitgeben, 'weiß ich nicht' erlauben, wichtige Aussagen prüfen.

Wo es am meisten zählt

Ein erfundener Titel? Egal. Eine erfundene Dosis? Gar nicht egal.

Beim Brainstorming oder bei Titelideen ist ein erfundenes Detail verkraftbar.

Bei rechtlichen, medizinischen oder finanziellen Fakten nicht: Wo ein Fehler echte Kosten hat, prüft immer ein Mensch.

Merke dir: Wo Fehler teuer sind, prüft ein Mensch.

Jetzt ausprobieren

Füge das in einen beliebigen KI-Assistenten ein (ChatGPT, Claude, Gemini, Copilot). Ergänze die Teile in eckigen Klammern.

Nenne mir 3 wissenschaftliche Artikel zu diesem engen Thema: [ein Thema, das du gut kennst]. Mit Autoren, Jahr und Link.

Worauf du in der Antwort achtest: Suche jeden Titel. Erfundene oder vermischte Quellen sind ein klassisches Beispiel für Halluzination. Frag danach: „Bei welchem bist du unsicher?“

Tiefer einsteigen?

Diese Einheit geht in einem ganzen Kurs weiter: KI-Grundlagen und praktische Nutzung (ChatGPT, Claude, Gemini). Eine Lektion daraus kannst du kostenlos ausprobieren: „Was ein KI-Assistent wirklich ist“.