Ich nutze KI sehr gerne. Gerade deshalb gehört für mich dazu, ihre Schwäche ernst zu nehmen: Sie kann Unsicherheit sprachlich hervorragend verstecken.
Selbstbewusstsein ist kein Prüfzeichen
Eine KI formuliert Antworten. Sie zeigt dabei nicht automatisch zuverlässig an, wie sicher eine Aussage tatsächlich ist. Deshalb kann eine falsche Antwort genauso ordentlich, strukturiert und überzeugend aussehen wie eine richtige.
OpenAI beschreibt dieses Verhalten selbst: ChatGPT kann falsche oder irreführende Informationen erzeugen und dabei zuversichtlich klingen. Das wird häufig als Halluzination bezeichnet.
Ein kleines Beispiel direkt von dieser Website
Für den noch unfertigen Internetauftritt sollte ein Passwortschutz über .htaccess eingerichtet werden. Die erste Lösung sah plausibel aus. In der Praxis fehlte bei der Passwortdatei zunächst der führende Punkt im Dateinamen, anschließend reagierte der echte Goneo-Webserver auf eine Variante mit einem Internal Server Error.
Das war kein Drama – aber ein gutes Beispiel. Die richtige Frage war nicht: „Warum sieht der Code so vernünftig aus und funktioniert trotzdem nicht?“ Sondern: „Was zeigt der reale Server, welche Annahme war falsch und was muss angepasst werden?“
Auch große Projekte funktionieren so
Bei LSD Worringen mussten Live-Daten, abgeschlossene Spiele, Teamgames und mobile Darstellung mit echten Begegnungen getestet werden. Manche Sonderfälle waren vorher schlicht nicht vollständig sichtbar. Erst der Praxistest zeigte, welche Annahmen ergänzt oder korrigiert werden mussten.
Bei PODC war wiederum wichtig, dass die Weboberfläche nicht anfängt, fachliche Daten eigenständig neu zu berechnen. KI kann technisch viele Varianten vorschlagen. Aber nur der Projektkontext sagt, welche davon fachlich richtig ist.
Meine Gegenmaßnahmen
- Unsicherheit ausdrücklich erlauben: Lieber „das weiß ich nicht sicher“ als eine erfundene Sicherheit.
- Aktuelle Quellen verlangen: Bei veränderlichen Produkten, Schnittstellen oder Einstellungen nachsehen statt raten.
- Originalquellen bevorzugen: Dokumentation, Herstellerhilfe, echte API-Antwort oder vorhandene Projektdokumentation.
- Echte Tests durchführen: Browser, Smartphone, Excel-Datei, Webserver oder Live-Daten entscheiden.
- Fehler als Information nutzen: Ein 500er, eine falsche Tabelle oder ein nicht erfasstes Teamgame ist kein Rückschritt, sondern ein Hinweis auf die falsche Annahme.
Kann man Halluzinationen einfach „abschalten“?
Nein – jedenfalls nicht seriös durch eine einzelne Formulierung oder Einstellung. Man kann die Arbeitsweise deutlich verbessern: klare Anweisungen, Quellenpflicht bei aktuellen Themen, sichtbare Unsicherheit, guter Kontext und saubere Projektunterlagen. Aber daraus wird keine Garantie auf Fehlerfreiheit.
Das ist für mich auch kein Grund zur Angst. Ein Taschenrechner, eine Suchmaschine oder ein Mensch mit viel Selbstvertrauen ersetzt schließlich ebenfalls nicht automatisch die Plausibilitätsprüfung. Bei KI muss man diese Gewohnheit nur bewusster pflegen.
Wann ich besonders genau prüfe
Je größer die Folgen eines Fehlers, desto höher die Messlatte. Zugangsdaten, Sicherheit, rechtliche Angaben, medizinische oder finanzielle Entscheidungen, aktuelle Produktfunktionen und Änderungen an produktiven Daten verdienen deutlich mehr Kontrolle als eine Formulierung für eine Überschrift.
Die offizielle OpenAI-Hilfe beschreibt die Grenzen ebenfalls ausdrücklich: Sagt ChatGPT die Wahrheit?
Zurück zur praktischen Arbeitsweise: Wie ich KI tatsächlich für Projekte nutze.