Lies das zuerst. Jede Frage danach kommt aus diesen Karten.Lies das zuerst. Jede Frage danach kommt aus diesen Karten.
Lernen · 1/3
Was eine Halluzination ist
Es klingt absolut sicher. Und ist trotzdem falsch.
Der Umsatz wuchs 2023 um genau 47 %. [Müller et al., 2019]
Quelle nicht gefunden
Eine Halluzination ist, wenn das Modell selbstsicher etwas Falsches behauptet. Es schreibt flüssigen Text, auch wenn kein Wissen dahintersteht.
Auch Quellen und Verweise, die es nennt, sind erzeugter Text. Es kann also sein, dass sie gar nicht existieren.
Die ganze Lektion als Text
Karten und das Wichtigste
+
Warum es Dinge erfindet und wie du dich schützt.
Das Wichtigste
Selbstsicher heißt nicht wahr, auch genannte Quellen können erfunden sein.
Quelle mitgeben, 'weiß ich nicht' erlauben, wichtige Aussagen prüfen.
Wo Fehler teuer sind, prüft ein Mensch.
Was eine Halluzination ist
Es klingt absolut sicher. Und ist trotzdem falsch.
Eine Halluzination ist, wenn das Modell selbstsicher etwas Falsches behauptet. Es schreibt flüssigen Text, auch wenn kein Wissen dahintersteht.
Auch Quellen und Verweise, die es nennt, sind erzeugter Text. Es kann also sein, dass sie gar nicht existieren.
Merke dir:Selbstsicher heißt nicht wahr, auch genannte Quellen können erfunden sein.
Zwei starke Schutzmaßnahmen
Zwei kleine Sätze im Prompt, deutlich weniger Erfundenes.
Gib dem Modell das Quellenmaterial mit, und erlaube ihm, 'weiß ich nicht' zu sagen.
Dann verlang eine Antwort mit Quellenbezug und prüf die wichtigsten Aussagen, bevor du sie verwendest.
Besserer Prompt
Nenn anhand des Berichts unten den Umsatz für 2023. Wenn er nicht drinsteht, sag, dass er nicht zu finden ist.
Merke dir:Quelle mitgeben, 'weiß ich nicht' erlauben, wichtige Aussagen prüfen.
Wo es am meisten zählt
Ein erfundener Titel? Egal. Eine erfundene Dosis? Gar nicht egal.
Beim Brainstorming oder bei Titelideen ist ein erfundenes Detail verkraftbar.
Bei rechtlichen, medizinischen oder finanziellen Fakten nicht: Wo ein Fehler echte Kosten hat, prüft immer ein Mensch.
Merke dir:Wo Fehler teuer sind, prüft ein Mensch.
Jetzt ausprobieren
Füge das in einen beliebigen KI-Assistenten ein (ChatGPT, Claude, Gemini, Copilot). Ergänze die Teile in eckigen Klammern.
Nenne mir 3 wissenschaftliche Artikel zu diesem engen Thema: [ein Thema, das du gut kennst]. Mit Autoren, Jahr und Link.
Worauf du in der Antwort achtest: Suche jeden Titel. Erfundene oder vermischte Quellen sind ein klassisches Beispiel für Halluzination. Frag danach: „Bei welchem bist du unsicher?“
Diese Einheit geht in einem ganzen Kurs weiter: KI-Grundlagen und praktische Nutzung (ChatGPT, Claude, Gemini). Eine Lektion daraus kannst du kostenlos ausprobieren: „Was ein KI-Assistent wirklich ist“.