Mitte 2025 liefert eine der größten Beratungen der Welt der australischen Regierung einen Bericht für rund 290.000 US-Dollar. Darin: wissenschaftliche Quellen, die es nicht gibt, und ein wörtliches Zitat aus einem Gerichtsurteil, das nie so gefallen ist. Kein Praktikant, der geschlampt hat — eine KI, die geraten hat. Und Deloitte ist in bester Gesellschaft: Ein Anwalt in Kalifornien zahlt 10.000 Dollar Strafe, weil von 23 Zitaten, die ChatGPT ihm für seinen Schriftsatz geliefert hatte, 21 frei erfunden waren. Eine Zeitungs-Leseliste empfiehlt Bücher, die nie geschrieben wurden. In dieser Folge nehmen wir das eine Verhalten auseinander, das all diese Leute kalt erwischt hat. „Halluzination" ist ein hübscher Name für einen unbequemen Befund: Das Modell lügt nicht — es kennt den Unterschied zwischen wahr und falsch gar nicht. Es erzeugt den wahrscheinlich klingenden nächsten Satz, souverän, flüssig, im perfekten Ton, und liegt eben manchmal grandios daneben. Wir haben es dazu erzogen: Wer im Training fürs Raten belohnt und fürs Schweigen bestraft wird, rät. Wir haben uns einen Bluffer herangezüchtet und wundern uns, dass er blufft. Das Unangenehme ist die Richtung der Kurve. Die plumpen Fehler verschwinden, die perfekt getarnten bleiben — bei den neuen „Reasoning"-Modellen ist die Halluzinationsrate in OpenAIs eigenem Test nicht gesunken, sondern von 16 auf 33 Prozent gestiegen, beim kleineren Modell auf 48. Je besser die Maschine formuliert, desto eher winkt der Mensch, der prüfen soll, es einfach durch. Genau da wird aus einer Spielerei ein Haftungsfall — Air Canada musste für eine Falschauskunft seines Chatbots zahlen. Die gute Nachricht kommt am Schluss, und sie ist groß: Fast alle Beispiele haben eines gemeinsam — jemand hat das Modell gefragt „Was weißt du?" statt ihm Material zu geben. Wer die KI vom Orakel zum Transformator macht — nicht „erzähl mir etwas über die Welt“, sondern „arbeite mit meinen Unterlagen” —, dem fällt die größte Quelle der Halluzination einfach weg. Was dann noch bleibt, ist kein Hexenwerk, sondern Handwerk: sauberes Material, Belegpflicht, das Recht des Modells zu schweigen, und ein Mensch an der einen Stelle, die wirklich zählt.
