Warum sich KI auch mal sichtbar unsicher sein muss.

Künstliche Intelligenz weiß alles. Oder?

Stellen Sie sich vor, Sie sind auf einer Party. Ein smarter Bekannter, nennen wir ihn Jürgen, ist berüchtigt dafür, immer eine Antwort parat zu haben. Egal, ob Sie ihn nach der Entfernung zwischen der Erde und dem Mond oder nach der besten Pizzeria in der Stadt fragen – er antwortet sofort. Aber manchmal, wenn Sie es überprüfen, stellen Sie fest: Jürgen liegt daneben. Und das Problem? Er gibt nie zu, dass er es einfach nicht weiß.

Genau das ist das Dilemma großer Sprachmodelle wie ChatGPT: Sie sind brillante Gesprächspartner, liefern oft verblüffend gute Antworten – aber sie wissen nicht, wann sie nicht wissen. Das führt zu „Halluzinationen“ – also zu Antworten, die zwar überzeugend klingen, aber faktisch falsch sind.

Warum Unsicherheit eine Superkraft ist

Als KI-Trainer im Mittelstand-Digitalzentrum Berlin (MDZ Berlin) sehe ich täglich, wie leistungsfähig moderne Sprachmodelle sind – aber auch, wo ihre Grenzen liegen.

Der Aufgabenbereich Qualifizierung des MDZ Berlin, für den ich verantwortlich bin, ist beim Hasso-Plattner-Institut angesiedelt, genauer gesagt, dem Fachbereich „Artificial Intelligence and Intelligent Systems„.

Warum das hier von Belang ist? Im Lehrstuhl von Professor De Melo haben sich die Forscher Roi Cohen, Konstantin Dobler und Eden Biran genau dieser Herausforderung angenommen. KI muss glaubwürdiger werden und dafür in die Lage gebracht zu werden, auch mal „ich weiß es nicht“ zu sagen.

Ihre Idee: KI muss lernen, Unsicherheit zu kommunizieren, anstatt sich etwas aus den Fingern zu saugen.

Dafür haben sie eine elegante Lösung entwickelt: ein [IDK]-Token. Das steht für „I don’t know“ – also „Ich weiß es nicht“. Es ist, als würde unser Party-Bekannter Jürgen plötzlich sagen: „Gute Frage! Da bin ich mir nicht sicher.“

Das ändert alles. Ok, aber was eigentlich?

Wie das [IDK]-Token funktioniert

Die meisten Sprachmodelle geben immer eine Antwort – selbst wenn sie keine belastbare Grundlage für das haben, was sie in schönen, überzeugenden Worten antworten.

Woran liegt dieses Verhalten? LLMs sind reine Wahrscheinlichkeitszauberer. Bei allen Antworten wird in der Masse der verfügbaren Daten und Wörter dasjenige herausgesucht, dass nach Wahrscheinlichkeitsrechnung die höchste Wahrscheinlichkeit für Sinnhaftigkeit hat.

Da scheint es aber keine Mindestschwelle zu geben. Wenn die Maschiene nur Wahscheinlichkeiten von 30% für die höchste Sinnhaftigkeit der gleich erzeugten Antwort errechnet, dann ist das die jetzt beste Variante und wird ausgegeben. Überzeugend, wohl formuliert. Aber 30% Wahrscheinlichkeit für Sinnhaftigkeit. Hätten wir das gewusst, hätten wir diesen Teil nicht per „copy/paste“ in unsere Vorstandsvorlage kopiert. Richtig?

Aber wir sehen von außen nicht, wie hoch die Wahrscheinlichkeit der errechneten Sinnhaftigkeit ist. Sofern wir Ahnung vom Thema haben, erkennen wir das Problem in der Antwort. Haben wir keine Ahnung vom Theme, glauben wir einem LLM, wie Jürgen.

Das [IDK]-Token verändert dieses Verhalten. Es sorgt dafür, dass das Modell in Situationen, in denen die Unsicherheit hoch ist, bewusst sagen kann: „Ich weiß es nicht“.

Das ist revolutionär. Denn Unsicherheit ist in der realen Welt nichts Schlechtes – im Gegenteil. Ein Arzt, der eine unklare Diagnose nicht einfach erfindet, sondern auf weitere Untersuchungen verweist, ist vertrauenswürdig. Ein Pilot, der sich bei einer ungewöhnlichen Warnleuchte nicht sicher ist, aber Rücksprache mit der Technik nimmt, handelt verantwortungsbewusst.

Künstliche Intelligenz sollte genauso arbeiten. Das ist aber nicht ganz so einfach. Der „Fehler“ liegt im System. Und natürlich auch wieder bei uns…

Mitdenken hilft!

Die neuen Reasoning-Modelle helfen uns schon dabei, die Antwort auf ihre wirkliche Sinnhaftigkeit und Belastbarkeit zu überprüfen. Wir sehen ja im Detail die Gedankengänge, die Vermutungen und Hypothesen und das vielleicht wilde Spekulieren, was dahinter liegt. Zumindest, wenn wir hinsehen würden.

Wir könnten dann nachvollziehen, wie das Modell zu seiner Antwort gekommen ist – und Halluzinationen leichter entlarven.

Aber hier liegt die Krux: Wer nicht nachprüft, wer nicht mitdenkt, wird auch bei noch so transparenten Denkschritten nicht bemerken, dass die KI ins Leere argumentiert oder fröhlich mutig eine falsche Hypothese aufstellt.

Ein detaillierter Gedankengang eines LLMs bedeutet nicht automatisch, dass er richtig ist. Es braucht unser gesundes Misstrauen. Denn eine KI kann noch so ausführlich erklären, warum 2+2=5 ist – wenn wir es nicht hinterfragen, nehmen wir die Fehlinformation einfach hin.

Die Wahrheit ist: Mitdenken bleibt der beste Schutz vor Fehlinformation. Egal, ob wir mit den modernsten LLMs arbeiten oder auf unser eigenes Bauchgefühl hören – kritisches Prüfen ist und bleibt essenziell.

Aber zurück zum Nutzen der Idee der Kollegen:

Praktische Beispiele – Wo hilft das [IDK]-Token?

Faktencheck in der Wissenschaft
Ein Sprachmodell, das eine medizinische Studie analysiert, kann klarstellen, wenn die Datenlage unsicher ist, anstatt voreilig falsche Schlussfolgerungen zu ziehen.

Automatisierte Kundenbetreuung
Ein Chatbot, der ehrlich sagt „Ich bin mir nicht sicher, lassen Sie uns besser einen Experten fragen“, schafft mehr Vertrauen als einer, der überzeugt eine falsche Lösung vorschlägt.

Schulbildung & E-Learning
KI-basierte Tutoren könnten Schüler darauf hinweisen, wenn eine Antwort nicht eindeutig ist – und sie so ermutigen, weiter zu recherchieren.

Warum das so wichtig ist

In einer Zeit, in der KI immer mehr Entscheidungen beeinflusst, ist Vertrauen das wertvollste Kapital. Und Vertrauen entsteht nicht durch Perfektion, sondern durch Ehrlichkeit.

Mein persönliches Fazit: „Ich weiß es nicht“ sollte kein Makel sein – sondern ein Zeichen von Intelligenz. Genau das zeigt die Arbeit meiner Kollegen: Eine KI, die Unsicherheit anerkennt, ist nicht schwächer, sondern stärker. Sie ist nicht weniger wertvoll, sondern wertvoller.

Und vielleicht – ganz vielleicht – sollte auch mein Party-Bekannter Jürgen mal über sein [IDK]-Token nachdenken. 😉

Wer tiefer in das Thema einsteigen möchte, hier habe ich mich ausführlicher mit der konkreten Umsetzung beschäftigt LINK