KI kann sich irren

Antworten von ChatGPT oder Claude klingen oft fertig und sicher. Trotzdem können sie falsch sein. ^{Q57, Q58} Hier lesen Sie, woran das liegt, wie Sie eine Antwort prüfen und was Sie besser gar nicht erst eingeben.

Warum klingt eine falsche Antwort so überzeugend?

KI-Chats können falsche oder irreführende Antworten geben und dabei sicher klingen. Beide Anbieter nennen das selbst „Halluzination“. ^{Q57, Q58} Beide raten, wichtige Angaben selbst zu prüfen und die KI nicht als einzige Quelle zu nutzen. ^{Q57, Q58}

Ein Sprachmodell schreibt Text, der wahrscheinlich passt. Wahrscheinlich ist aber nicht dasselbe wie wahr. Typische Fehler nennen die Anbieter selbst: falsche Fakten, Daten und Definitionen, erfundene Zitate, Studien oder Quellen, veraltetes Wissen zu aktuellen Themen. ^{Q57, Q58} Der sichere Ton hilft beim Erkennen nicht: Auch eine falsche Antwort kann sehr bestimmt klingen. ^Q58

1. Neben das Original legen. Fasst die KI einen Brief, einen Vertrag oder eine Webseite zusammen: Steht das, was sie behauptet, wirklich dort? Das Original kann wichtigen Zusammenhang enthalten; darauf weist Anthropic für Quellen aus der Websuche selbst hin. ^Q57
2. Zahlen, Daten, Fristen und Zitate selbst nachsehen. Daten, Fakten und Zitate nennt OpenAI selbst als typische Fehlerstellen. ^Q58
3. Genannte Quellen öffnen. Gibt es die Quelle, und steht dort, was die KI sagt? ^{Q57, Q58}
4. Nicht vom Ton leiten lassen. Nachfragen („Woher stammt das?“) kann Unsicherheiten sichtbar machen, ersetzt aber das Nachsehen nicht. ^Q58
5. Bei Geld, Gesundheit und Recht entscheidet ein Mensch – die Bank, die Ärztin, die Anwältin, das Amt. Anthropic rät ausdrücklich, Ratschläge mit hoher Tragweite sorgfältig zu prüfen. ^Q57

Gilt für alle:

• Passwörter, PINs, TANs und andere Zugangsdaten
• Konto-, Kreditkarten-, Ausweis- und Steuernummern
• Angaben über andere Menschen, die davon nichts wissen
• Namen und Adressen auf abfotografierten Briefen – decken Sie sie vorher ab. Zum Erklären eines Briefs braucht die KI sie in der Regel nicht. Aber: Nur den Namen zu entfernen, reicht oft nicht (siehe Beispiel).

Warum: Eingaben werden beim Anbieter gespeichert, können in bestimmten Fällen von Menschen beim Anbieter gelesen werden und werden für andere sichtbar, wenn Sie einen Chat über einen Link teilen (→ Die vier Fragen). ^{Q49, Q50, Q55, Q56} OpenAI rät selbst, Passwörter, Kontonummern, Gesundheits- und Finanzangaben nicht in geteilte Inhalte zu schreiben. ^Q55

Im Betrieb zusätzlich – nur nach Klärung:

• Kunden- und Mitarbeiterdaten: Dafür braucht es eine Rechtsgrundlage. Namen und Anschriften zu entfernen, reicht nach Ansicht der Aufsichtsbehörden regelmäßig nicht, weil der Zusammenhang die Person verraten kann. ^{Q13 Abschn. 3.1}
• Gesundheitsdaten und andere besonders geschützte Daten (etwa Religion oder Gewerkschaftszugehörigkeit): Ihre Verarbeitung ist grundsätzlich untersagt; Ausnahmen regelt Art. 9 Abs. 2 DSGVO. ^{Q40 Art. 9 · Q13 Abschn. 3.2}
• Bewerber- und Personaldaten: vorher fachkundig prüfen lassen, ebenso bei Gesundheits- und Kinderdaten. ^Grundsatz
• Betriebsgeheimnisse, Zeichnungen, Unterlagen von Kunden oder Lieferanten: Prüfen Sie vorher, was Ihre Verträge dazu sagen. Hier geht es nicht nur um Datenschutz (siehe Szenario „Technische Unterlagen“).