Unter fast jedem Chatfenster steht ein Satz wie dieser: „KI kann Fehler machen. Bitte prüfen Sie wichtige Informationen.“ Das ist auch absolut richtig.
Komisch ist nur, was daneben fehlt: Eine ähnliche Warnung vor uns Menschen. Wir sind schließlich die andere große Fehlerquelle im Unternehmen. Unter einer Excel-Tabelle steht kein Warnhinweis. Unter einem Prüfbericht oder einem Protokoll auch nicht. Wenn ein Kollege in einem Meeting eine Zahl in den Raum wirft, blinkt daneben kein gelbes Warndreieck. Niemand warnt uns, dass diese Info auf falschen Annahmen, einer Erinnerungslücke oder purem Raten basieren könnte.
Dabei produzieren Menschen schon immer falsche Informationen, und die Forschung dazu ist viel älter und umfangreicher als die zu KI-Fehlern. Wenn man die belegten Zahlen beider Seiten vergleicht, fällt etwas Unbequemes auf: Viele der strengen Kontrollen, die wir heute völlig zu Recht für KI fordern, fehlen bei uns Menschen seit Jahrzehnten.
Warum KI sich Dinge ausdenkt
Im September 2025 hat ein Team von OpenAI eine ziemlich einleuchtende Erklärung dafür geliefert, warum KI manchmal fantasiert (oft „Halluzination“ genannt): Sprachmodelle tun das, weil unsere Trainingsmethoden das Raten belohnen. Ein Modell, das bei Ahnungslosigkeit eine plausibel klingende Antwort liefert, bekommt im Training bessere Noten als eines, das ehrlich sagt: „Ich weiß es nicht.“ Wenn das System im Training lernt, dass sich clevere Antworten auszahlen, erfindet es unweigerlich falsche Fakten.
Das ist wie bei einem Multiple-Choice-Test, bei dem es keine Minuspunkte für falsche Antworten gibt: Wer das Feld leer lässt, bekommt sicher keinen Punkt. Wer rät, hat zumindest die Chance auf einen Treffer. So lernt das System das Raten. Der Fehler steckt also tief im Bewertungssystem selbst. Er verschwindet erst, wenn die KI dafür belohnt wird, Unsicherheit zuzugeben.
Dieser Effekt ist aber keineswegs auf Maschinen beschränkt. Auch im Büro ruft selten jemand begeistert „Keine Ahnung!“, wenn der Chef eine komplexe Frage stellt. Von Führungskräften erwartet man Entscheidungen, von Fachleuten klare Antworten. Wer Unsicherheit zugibt, verliert schnell an Ansehen. Wer schon mal erlebt hat, wie aus einer vorsichtigen Schätzung in einem Meeting nach 20 Minuten ein unumstößlicher Fakt wurde, kennt das. Bei Menschen wie bei Maschinen gilt leider oft: Eine plausibel klingende Antwort ist attraktiver als ehrliche Unwissenheit.
Halluzination, Irrtum oder Lüge?
Drei Philosophen der Universität Glasgow haben 2024 vorgeschlagen, das Wort „Halluzination“ bei KI ganz zu streichen. Sie plädieren stattdessen für den Begriff „Bullshit“ im philosophischen Sinn von Harry Frankfurt: Es geht um Aussagen, die völlig ohne Rücksicht auf die Wahrheit dahergeredet werden. Das löste in der Fachwelt eine lebhafte Debatte aus.
Quelle: Ethics and Information Technology 26:38
Hinter der Provokation steckt ein wahrer Kern. Wer im medizinischen Sinn halluziniert, nimmt seine echte Umgebung punktuell falsch wahr. Eine KI hat diesen Bezug zur Realität gar nicht erst. Sie berechnet nur, welches Wort als Nächstes am besten passt. Ob das Ergebnis mit der Wirklichkeit übereinstimmt, ist eher ein glückliches Nebenprodukt guter Trainingsdaten. Ob die KI die Wahrheit sagt oder lügt – beides entsteht auf exakt demselben Weg und klingt gleich überzeugend.
Bei Menschen müssen wir genauer hinsehen. Die Forschung unterscheidet hier klar: Ein Mensch kann falsche Informationen weitergeben, weil er wirklich glaubt, sie seien wahr. Das ist dann ein Irrtum, eine Erinnerungslücke oder ein Tippfehler. Er kann aber auch wissen, dass etwas falsch ist, und es trotzdem behaupten. Das ist dann bewusste Täuschung, also eine Lüge.
Das ist deshalb wichtig, weil wir ganz unterschiedlich darauf reagieren müssen. Gegen bewusste Lügen helfen nur Kontrolle und Transparenz. Bei einem ehrlichen Denkfehler bringt es dagegen gar nichts, jemanden nachträglich abzumahnen.
Die unsichtbare Fehlerquote des Menschen
Es gibt zwar keine pauschale Fehlerquote für den Menschen, aber Bereiche, in denen man sie sehr gut messen kann – zum Beispiel bei Excel-Tabellen.
Der Forscher Raymond Panko hat über Jahre hinweg untersucht, wie oft sich Menschen in Tabellenkalkulationen vertun. Seine Auswertung von 14 Studien zeigte: In Tabellen, die von den Erstellern als „fertig und korrekt“ abgegeben wurden, lag die Fehlerquote pro Zelle im Schnitt bei 3,9 Prozent. Simple Tippfehler machten dabei nur ein Viertel aus. Der Löwenanteil waren echte Logikfehler: Die Leute hatten falsch gedacht und diesen Denkfehler dann fehlerfrei in die Tabelle eingetragen. Auch vergessene Informationen waren häufig. Genau dieses Muster kennen wir von der KI: Das Ergebnis sieht sauber und richtig aus, ist im Kern aber falsch.
Zum Vergleich: Wenn moderne Sprachmodelle kurze, vorgegebene Texte einfach nur zusammenfassen sollen, erfinden sie je nach Modell zwischen 1,8 und 24,2 Prozent der Inhalte frei dazu. Dabei wird hier der einfachste Fall gemessen: Die KI muss kein eigenes Wissen haben, sondern nur den vorgelegten Text wiedergeben.
Quelle: Vectara Hallucination Leaderboard
Welchen Schaden ungeprüfte KI-Texte anrichten können, sammelt der Jurist Damien Charlotin in einer Datenbank. Er dokumentiert Gerichtsprozesse, in denen Anwälte oder Kläger von der KI erfundene Gerichtsurteile eingereicht haben. Inzwischen zählt er über 1.900 solcher Fälle.
Quelle: AI Hallucination Cases
Wenn absichtlich getäuscht wird
Neben dem unabsichtlichen Irrtum gibt es die bewusste Täuschung. Sie ist viel gefährlicher, weil die Person aktiv versucht, ihre Spuren zu verwischen.
Studien von Bella DePaulo zeigten, dass Menschen im Schnitt ein- bis zweimal am Tag lügen. Eine spätere Umfrage unter 1.000 US-Bürgern bestätigte das mit 1,65 Lügen pro Tag. Viel interessanter als der Durchschnitt ist aber, wie sich das verteilt: Knapp 60 Prozent der Leute hatten an dem untersuchten Tag überhaupt nicht gelogen. Stattdessen waren nur 5,3 Prozent der Befragten für die Hälfte aller Lügen verantwortlich. Lügen ist also wie Geld: Einige wenige haben sehr viel davon. Für Unternehmen heißt das: Die Wahrscheinlichkeit, dass ein zufälliger Kollege lügt, ist sehr gering. Das wahre Risiko geht von einer sehr kleinen Gruppe von Personen aus, die dafür umso systematischer täuscht.
Es gibt aber auch eine gute Nachricht aus der Verhaltensforschung. Wenn Menschen die Gelegenheit haben, unbeobachtet zu mogeln (etwa bei einem Würfelspiel um Geld), lügen sie deutlich seltener, als man erwarten würde. Die Forscher Johannes Abeler, Daniele Nosenzo und Collin Raymond werteten 2019 dazu 90 Studien aus. Das Fazit: Wir wollen grundsätzlich ehrlich sein und auch so wahrgenommen werden. Letzteres funktioniert aber nur, wenn wir das Gefühl haben, dass jemand zuschaut. Wer sich beobachtet fühlt, verhält sich ehrlicher.
Quelle: Econometrica 87, 1115–1153
Leider sind wir miserabel darin, Lügen zu erkennen. Eine große Auswertung von über 200 Studien zeigte: Ohne Hilfsmittel erkennen wir Lügen nur in 54 Prozent der Fällen. Das ist kaum besser als Münzwerfen. Wahre Aussagen erkennen wir ganz gut, aber echte Lügen entlarven wir nur zu 47 Prozent.
Quelle: Personality and Social Psychology Review
Der Grund dafür ist einfach: Wir haben ein psychologisches Grundvertrauen. Wir glauben unserem Gegenüber erst einmal, bis etwas wirklich Verdächtiges passiert. Das ist im Alltag extrem praktisch, weil die meisten Menschen eben nicht lügen. Es macht uns aber blind für die wenigen Gewohnheitslügner.
Paradoxerweise stehen wir bei der KI hier sogar besser da. Wenn ChatGPT behauptet, in einer Anleitung stehe ein bestimmter Wert, kann ich das Dokument aufschlagen und nachsehen. Bei einer mündlichen Aussage eines Kollegen bleibt mir oft nur mein Bauchgefühl – und das taugt, wie die Studien zeigen, nicht viel.
Was das kostet, zeigt der Report to the Nations 2026. Demnach verlieren Unternehmen weltweit etwa fünf Prozent ihres Jahresumsatzes durch Mitarbeiterbetrug. Ein durchschnittlicher Fall kostet über 100.000 Dollar. Bemerkenswert ist: 43 Prozent der aufgedeckten Fälle fliegen nur durch interne Hinweise auf, meist von Kollegen. Kein anderes Kontrollsystem ist auch nur annähernd so effektiv. Dennoch wird über diese enormen Kosten in den Chefetagen viel seltener gesprochen als über die Fehler eines Chatbots.
Sogar in der Wissenschaft wird geschummelt. Der Forscher Daniele Fanelli fand 2009 heraus, dass etwa zwei Prozent der Wissenschaftler zugeben, schon mal Daten gefälscht zu haben. Fragt man sie, ob sie Kollegen kennen, die das tun, steigt die Zahl auf über 14 Prozent. Im Jahr 2023 mussten weltweit über 10.000 wissenschaftliche Studien zurückgezogen werden – ein Rekord. Selbst das strengste Kontrollsystem scheitert oft daran, bewusste Fälschungen zu erkennen.
Quelle: PLOS ONE · Quelle: Nature
Das Problem der Masse
Es bleibt die Frage, was schlimmer ist: die menschliche Lüge, der menschliche Irrtum oder der KI-Fehler.
Moralisch ist die Sache klar: Wer bewusst lügt, nimmt in Kauf, dass andere Schaden nehmen. Eine KI hat keine solchen Absichten. Bei ihr gibt es keine Schuld, keine Moral und keinen Vorsatz.
Für ein Unternehmen sieht die Rechnung aber anders aus. Das wahre Risiko der KI ist ihr Tempo. Ein Mensch braucht Zeit, um sich eine Lüge auszudenken, und muss sie danach anstrengend verteidigen. Eine KI generiert fehlerhafte Texte in Sekundenbruchteilen – immer im gleichen selbstbewussten Tonfall, ohne nervös zu blinzeln oder sich in Widersprüche zu verstricken.
Gegen die Fehler von Menschen haben wir über Jahrhunderte Abwehrmechanismen entwickelt: das Vier-Augen-Prinzip, die Buchprüfung, Gesetze und Hinweisgebersysteme. Einen ähnlich erprobten Umgang mit KI-Fehlern sehe ich bisher nirgends. Ich glaube deshalb, dass die große Aufregung über KI-Halluzinationen auch eine Art Ausweichmanöver ist: Man regt sich lieber über ein neues System auf, für das niemand im Büro die Schuld trägt. Wenn Kollegen das Unternehmen Geld kosten, führt man dieses Gespräch weitaus ungerne.
Besonders deutlich wird dieses Tempo-Problem in der Technischen Dokumentation. Wenn sich ein falscher Wert in ein System einschleicht, wird er blitzschnell in 40 Sprachen übersetzt und weltweit ausgespielt, bevor jemand merkt, dass der Ausgangswert falsch war. Automatisierung verbreitet tolle Qualität genauso schnell wie katastrophalen Unsinn.
Eine einzige Quelle der Wahrheit
Genau deshalb ist der Single Point of Truth (die „einzige Quelle der Wahrheit“) aus dem Content Engineering so wichtig. Die Idee: Statt hunderte Dokumente herumliegen zu haben, die alle irgendwie aktuell gehalten werden müssen, gibt es nur noch einen zentralen Ort für jede Information.
Wenn eine Info an 14 verschiedenen Stellen von Hand eingetragen wird, gibt es 14 Chancen für einen Fehler. Wird sie aber an einem einzigen Ort gepflegt und von dort an alle anderen Systeme verteilt, kann man einen Fehler genau dort korrigieren, wo er entsteht.
Das gilt eins zu eins für Künstliche Intelligenz. Wenn eine KI ihre Antworten aus fünf Dokumenten zusammenbaut, die sich gegenseitig widersprechen, wird das Ergebnis nicht verlässlich – egal wie schlau die KI ist. Sie mischt den Widerspruch nur zu einem Text zusammen, der plausibel klingt. Zuverlässigkeit entsteht im sauberen Arbeitsprozess, lange bevor die KI überhaupt antwortet.
Das gefährliche Duo: Mensch und Maschine
Das größte Risiko im Unternehmen entsteht, wenn beide Welten aufeinandertreffen. Eine KI erfindet einen plausiblen, aber falschen Fakt. Ein Mitarbeiter liest ihn, hält ihn für richtig und übernimmt ihn ungeprüft in ein anderes System. Ein zweiter Kollege sieht das, verlässt sich darauf, weil es ja scheinbar vom Kollegen geprüft wurde, und arbeitet damit weiter. Am Ende steht ein falscher Wert im System, und niemand weiß mehr, wer eigentlich schuld ist.
Geht dann etwas schief, ist die Ausrede schnell zur Hand: „Das hat die KI so ausgegeben.“ Wenn man nicht mehr klar sagen kann, ob Mensch oder Maschine zuständig war, winken Mitarbeiter Dinge oft einfach ungeprüft durch. Wer Menschen die Verantwortung gibt, ohne ihnen die Zeit oder Mittel für eine echte Prüfung einzuräumen, wälzt einfach nur Management-Probleme auf seine Angestellten ab.
Wie wir damit umgehen sollten
Was bedeutet das alles für unsere tägliche Arbeit? Ein guter Prozess muss mit menschlichen und maschinellen Fehlern umgehen können. Dafür braucht es drei Dinge: Man muss Infos nachprüfen können, die Verantwortung muss klar sein, und es braucht einfache Wege, um Fehler zu melden.
Nachprüfbar wird eine Information nur, wenn die Quelle genannt ist. Dann kann ich das Original aufschlagen und kontrollieren. Ohne Quelle muss ich einfach blind vertrauen – egal ob die Info vom Chatbot oder vom Chef kommt. Wichtig ist auch, dass wir aufhören zu glauben, menschliche Arbeit sei grundsätzlich fehlerfrei. Die erwähnten 3,9 Prozent Fehlerquote in Excel-Tabellen sind da ein realistischerer Maßstab.
Die klare Verantwortung sorgt dafür, dass sich niemand hinter dem System verstecken kann. Wenn jemand seinen Namen unter eine Freigabe setzt, ist er zuständig. Die Ausrede „Die KI war’s“ gilt dann nicht mehr. Solche Spielregeln müssen aber aufgestellt werden, bevor das Kind in den Brunnen gefallen ist.
Gegen bewusste Täuschung helfen vor allem sichere Meldewege. Wie wir gesehen haben, fliegen die meisten Betrugsfälle durch Tipps von Kollegen auf. Wir verhalten uns ehrlicher, wenn wir wissen, dass jemand hinschaut. Auf unsere reine Menschenkenntnis sollten wir uns bei nur 54 Prozent Trefferquote besser nicht verlassen.
Am Ende hat der Warnhinweis unter dem Chatfenster völlig recht. Er spricht genau das Problem an, das wir bei der KI so einfach lösen können: Wir können die Ausgabe anhand der Quelle überprüfen. Für das, was Menschen im Alltag so erzählen, gibt es diesen einfachen Check oft nicht. Wenn ein Unternehmen klare Regeln für Quellen, Verantwortung und Feedback hat, kommt es mit den Fehlern von Mensch und Maschine klar. Wenn nicht, macht die KI die Schwächen im System nur noch schneller sichtbar, als wir es je getan haben.
