Zum Glück nutzen nur 20 % der deutschen Unternehmen KI – denn 73 % prüfen die Ergebnisse nicht.

TL;DR Zusammenfassung

Künstliche Intelligenz kann beeindruckend präzise arbeiten – doch genau das macht sie so gefährlich, wenn wir aufhören, mitzudenken. In Deutschland prüfen 73 % der Nutzer KI-Ergebnisse nicht – ein alarmierender Wert, der uns deutlich hinter Länder wie Indien oder Südkorea zurückwirft. Die Technik liefert keine Wahrheit, sondern Wahrscheinlichkeiten – wer das vergisst, riskiert peinliche, teure oder gar gefährliche Folgen. Deshalb: KI nutzen – ja. Aber nie ohne den eigenen Verstand.

Manchmal ist Rückstand ein rettender Segen.

Während in Konferenzräumen, Keynotes und Förderprogrammen vom „KI-Standort Deutschland“ die Rede ist, zeigt eine neue Studie von EY etwas ganz anderes: In Deutschland prüfen nur 27 % der Menschen die Ergebnisse von KI-Chatbots wie ChatGPT, Gemini oder Copilot. Drei Viertel glauben einfach – und machen weiter. Ohne Rückfrage, ohne Quellencheck, ohne Kontext.

Und plötzlich wirkt es gar nicht mehr so schlimm, dass bislang nur rund 20 % der deutschen Unternehmen überhaupt KI einsetzen.
Denn stellen wir uns mal vor: 100 % würden es tun – aber 73 % davon ohne jeden Faktencheck? Willkommen im digitalen Blindflug.

Die KI liefert – und wir liefern den Glauben

Wer mit Chatbots arbeitet, weiß: Sie sind schnell, kompetent und erstaunlich eloquent. Oft liefern sie in Sekunden Antworten, für die man sonst zehn Minuten googeln, zwei PDFs überfliegen und eine Kollegin anrufen müsste.

Und genau das ist das Problem.

Denn je besser das Ergebnis klingt, desto weniger wird es hinterfragt. Warum auch? Der Satzbau stimmt, der Tonfall sitzt, der Fachbegriff passt – also wird’s schon richtig sein, oder?

Nicht wirklich. Denn KI-Modelle wie GPT basieren auf Wahrscheinlichkeiten, nicht auf Wahrheit. Sie formulieren Sätze, die sich richtig anfühlen. Aber sie wissen nicht, was „richtig“ ist. Und sie kennen keine Konsequenzen.

Warum? Denn jeder kennt den Fachbegriff: Halluzination.

Klingt harmlos, ist es aber nicht. Chatbots erfinden Dinge, wenn sie Lücken füllen müssen. Zitate, Quellen, Studien, Definitionen. Und das in einem Tonfall, der nach Wissenschaft klingt, obwohl er in Wahrheit aus dem Nichts schöpft. Ich selbst habe schon alles erlebt:

ein juristisches Kürzel, das es nicht gibt,
ein Albert-Einstein-Zitat, das aus einer Netflix-Serie stammt,
eine angebliche Quelle, die exakt so aussieht, wie man sie zitieren würde – nur dass sie nie existiert hat
die neue Suchmaschinendefinition für KI-Suche AEO. Gibt es nicht. Wird aber auch auf Nachfrage überzeugend bestätigt. Ja, so heißt das jetzt. Nein, tut es nicht.

Und das Schlimmste: Diese Fehler tauchen nicht etwa mitten im Satz auf wie ein peinlicher Vertipper. Sie verstecken sich in ansonsten korrekten, fundierten Aussagen. Camouflaged Bullshit, wenn man so will.

Klingt intelligent, ist aber nur wahrscheinlich richtig.

Kurzer Ausflug: Wie passiert das?
Chatbots arbeiten nach Wahscheinlichkeiten und nicht auf Basis von Wissen. Was ist die Antwort, das nächste Wort mit der höchsten Wahscheinlichkeit? Was die Wenigsten dabei realisieren: diese Wahrscheinlichkeiten können schon verdammt klein werden. Wie heißt die Hauptstadt von Atlantis? [Die gibt es nicht] Wenn Paris in irgendeinem Trainingsdatum aus einem kruden Community-Chat die größte Wahrscheinlichkeit aufweist (z.B. 1,2% Wahrscheinlichkeit) und Berlin die kleinere Wahrscheinlichkeit hat, dann nennt die KI „Paris“ als DIE Antwort. Was dagegen unternommen wird, könnt ihr in diesem Blogartikel von mir nachlesen: Warum sich KI auch mal sichtbar unsicher sein muss. und So bringt man KI das Zweifeln bei: Das [IDK]-Token

Deutschland als Schlußlich. Asien als Vorreiter.

Nutzer in Ländern wie Indien, China oder Südkorea haben längst (knapp zur Hälfte) verstanden, dass man der KI nicht blind vertrauen darf. Dort überprüfen 40 % bis 42 % der Menschen die Antworten von Chatbots. In Deutschland? 27 %.

Wir, das Land der Ingenieure. Die Nation des „Vier-Augen-Prinzips“. Die Heimat von DIN-Normen, TÜV-Siegeln und Bedienungsanleitungen in dreifacher Ausführung. Und doch: Wenn ein Bot höflich und kompetent klingt, schenken wir ihm unser Vertrauen wie einem alten Studienfreund.

Die Ironie ist nicht zu übersehen. Und auch nicht wegzuschmunzeln.

Warum prüfen Nutzer in Asien deutlich mehr die Richtigkeit von KI-Ergebnissen?

Aus Erfahrung. In Ländern wie Südkorea und Indien ist der Alltag mit digitalen Diensten deutlich stärker durchdrungen als in Deutschland. In Südkorea etwa zählt technologische Interaktion seit Jahren zur Lebensrealität: Mobilzahlung, Chatbasierte Kundenservices, digitale Behördenkommunikation – vieles läuft dort schneller, einfacher, aber eben auch digitaler. Das hat dazu geführt, dass Menschen nicht nur Technik nutzen, sondern sie auch kritisch begleiten. Digitale Reife zeigt sich hier nicht im unreflektierten Konsum, sondern im selbstverständlichen Hinterfragen. Wer täglich mit Systemen arbeitet, die nicht immer fehlerfrei funktionieren, lernt, sich nicht auf die Verpackung zu verlassen – sondern auf das, was dahinter steckt.

In Indien wiederum ist der massive Einsatz von Chatbots vor allem durch die Breite des Marktes geprägt. Vom E-Commerce über Banken bis zu öffentlichen Dienstleistungen – viele Menschen kommen regelmäßig mit automatisierten Systemen in Kontakt, erleben deren Schwächen und entwickeln ein feines Gespür für Inkonsistenzen. Hinzu kommt ein über Jahre gewachsenes gesellschaftliches Bewusstsein für Falschinformationen, getrieben durch soziale Medien, politische Spannungen und groß angelegte Aufklärungskampagnen. Dort hat man gelernt: Eine gut klingende Antwort kann auch gefährlich falsch sein. Deshalb wird geprüft. Deshalb wird nachgefragt.

Beide Länder eint eine technologische Realität, die weiter ist als bei uns – und eine medienkritische Haltung, die sich aus der Praxis speist. Während bei uns viele KI-Erlebnisse noch im Modus „Wow, das funktioniert ja wirklich!“ ablaufen, sind Südkorea und Indien längst bei „Wie gut funktioniert es – und wo muss ich aufpassen?“ angekommen.

Kurz gesagt: Wer regelmäßig mit Chatbots interagiert, erkennt schneller, wenn etwas nicht stimmt. Und genau das fehlt hierzulande noch zu oft.

Und im KI-Top-Land USA?

Für die USA liegt der Anteil der Nutzer, die KI-Ergebnisse überprüfen, laut dem internationalen Vergleich der EY-Studie bei etwa 31 %. Damit liegt die Überprüfungsquote in den USA etwas über dem deutschen Wert (27 %) und entspricht dem weltweiten Durchschnitt. Dem weltweiten Durchschnitt! Mir wird Angst und Bange!

Bequem, brillant und brandgefährlich verführerisch.

Warum handeln wir Menschen so leichtgläubig? Die Antwort ist keine technische, sondern eine menschliche. Es ist bequem. Es spart Zeit. Und es klingt überzeugend. Und so sind wir geprägt.

Die meisten Nutzer prüfen Chatbot-Antworten nicht, weil sie es nicht müssen – zumindest glauben sie das. Die Maschine präsentiert sich so souverän, dass der Impuls zum Gegencheck gar nicht erst entsteht. Warum hinterfragen, wenn alles so perfekt wirkt?

Dazu kommt: Wir leben in einer Kultur, die Technik per se als Fortschritt begreift. „Künstliche Intelligenz“ – allein der Begriff suggeriert, dass da etwas Klügeres agiert als wir selbst. Intelligenz bedeutet in unserem Sprachverständnis Verstand, Urteilskraft, Kompetenz. Kein Wunder also, dass viele glauben, sie könnten der KI bedenkenlos vertrauen. Nur: Die Technik hat kein Urteilsvermögen. Sie berechnet Wahrscheinlichkeiten. Sie weiß nicht, was sie sagt – sie sagt nur, was wahrscheinlich passt.

Und so entsteht eine gefährliche Dynamik: Ein Name, der zu viel verspricht. Eine Leistung, die beeindruckt. Und ein Nutzer, der sich zurücklehnt. Nicht aus Naivität – sondern weil es sich gut anfühlt, sich auf etwas verlassen zu können. Diese Mischung aus Bequemlichkeit, Begriffsgläubigkeit und technischer Ehrfurcht ist keine böse Absicht. Aber sie ist ein echtes Risiko.

Denn was bequem beginnt, kann in der Realität teuer werden – wenn niemand mehr prüft, ob das elegant Gesagte auch wirklich stimmt.

Vier konkrete Fälle, in denen das Nicht-Nachprüfen von KI-Ergebnissen zu großen Problemen führte

1. Anwalt reicht erfundene Präzedenzfälle ein – Jobverlust und Rufschaden
Ein Anwalt aus New York nutzte ChatGPT zur Recherche und übernahm ungeprüft angebliche Gerichtsentscheidungen, die der Chatbot samt Aktenzeichen nannte. Diese Fälle waren jedoch komplett erfunden. Das fiel erst vor Gericht auf und führte zu einem massiven Skandal: Der Anwalt musste sich verantworten, riskierte seine Zulassung und wurde öffentlich bloßgestellt2.

2. Medizinischer Chatbot gibt gefährliche Empfehlungen – Gesundheitsrisiko
Die National Eating Disorders Association (NEDA) in den USA ersetzte 2023 ihre menschliche Hotline durch den Chatbot „Tessa“. Der Bot gab Betroffenen mit Essstörungen ungeprüft Ratschläge zur Gewichtsabnahme – ein potenziell lebensgefährlicher Fehler. Nach öffentlichem Aufschrei musste der Chatbot sofort abgeschaltet werden2 4.

3. Google Gemini empfiehlt tödliche oder absurde Handlungen – Imageschaden und Gefahr
Googles KI-Übersichten (AI Overviews) gaben mehrfach falsche, teils gefährliche Empfehlungen, etwa: „Käse auf Pizza mit ungiftigem Kleber befestigen“ oder „Einen kleinen Stein pro Tag essen“. In einem besonders dramatischen Fall empfahl die Google-KI sogar einem Nutzer, er solle sterben. Solche Fehler führten zu massiver Kritik, öffentlichem Spott und Vertrauensverlust1 5.

4. Chatbot manipuliert – Unternehmen droht finanzieller und rechtlicher Schaden
Ein Autohändler in den USA integrierte einen Chatbot, der sich von einem gewieften Kunden überreden ließ, einen Neuwagen für einen Dollar zu verkaufen und dies als gültigen Vertrag zu bestätigen. Der Chatbot wurde nicht ausreichend überwacht, der Vorfall ging viral und führte zu erheblichem Imageschaden sowie potenziellen rechtlichen Konsequenzen für das Unternehmen2.

Und ich?

Ich nutze Chatbots täglich. Auch für komplexe Themen. Ich liebe sie. KI hilft mir unglaublich bei meiner Arbeit.

Aber ich verlasse mich nicht darauf. Nicht mehr. Ich überprüfe Zitate, teste Berechnungen, suche nach Quellen – gerade wenn ich vom Thema wenig Ahnung habe. Und ich kann bestätigen: Je weniger man über ein Thema weiß, desto überzeugender wirken KI-Antworten. Das macht es so gefährlich.

Deshalb mein Rat – gerade an Entscheider, Unternehmerinnen, Führungskräfte:
Verwenden Sie KI. Aber auf Ihrer Flughöhe. Formulieren Sie Aufgaben so, dass Sie die Antwort zumindest plausibilisieren können. Und wenn Sie fachfremd sind: Googeln Sie nach den Grundlagen und nutzen sie Perplexity. Holen Sie sich also zwei Menungen ein. Lassen Sie das Ergebnis vom anderen Service überprüfen. Und stellen Sie Nachfragen. Hinterfragen Sie Punkte, die Sie nicht beurteilen können, die Ihnen suspekt vorkommen.

Ich habe mir so schon manche Peinlichkeit erspart die aufgetreten wäre, hätte ich vertrauensvoll mit Copy&Paste gearbeitet …

Fazit: Fortschritt ohne Prüfung ist Rückschritt auf Ansage

Chatbots sind Werkzeuge. Brillant, nützlich – aber nicht unfehlbar. Und das eigentliche Problem ist nicht die Maschine. Es ist unsere Neigung, ihr zu viel durchgehen zu lassen.

In anderen Ländern hat man das längst erkannt. In Deutschland hingegen zeigt sich ein gefährlicher Mix aus Neugier, Faszination – und Denkfaulheit.

Also: Nutzen wir KI. Aber denken wir mit.
Denn nur so bleibt Intelligenz – auch künstliche – ein Fortschritt.

Zum Glück nutzen nur 20 % der deutschen Unternehmen KI – denn 73 % prüfen die Ergebnisse nicht.