Wenn KI-Halluzinationen in Studien und Berichten landen
Künstliche Intelligenz gehört mittlerweile zum Arbeitsalltag bei vielen Unternehmen. Moderne Sprachmodelle können viele unterschiedlichen Tätigkeiten stark beschleunigen. Doch leider funktionieren sie nicht immer fehlerfrei. Immer öfter findet man KI-generierte Fehler in Studien, Berichte und wissenschaftliche Veröffentlichungen.
Wenn die KI überzeugend falsch liegt
Das grundlegende Problem liegt in der Funktionsweise vieler Sprachmodelle. Diese verketten Wörter anhand von statistischen Wahrscheinlichkeiten und Sprachmuster. Wirklich überprüfen, ob die Aussage auch wahr ist, tut sie nicht. So könnte die Antwort durchaus logisch und korrekt wirken, aber in Wirklichkeit frei erfunden sein
Fehlerhafte Quellen werden zum wachsenden Problem
Immer mehr Inhalte im Internet sind selbst mit KI erstellt worden. Forschende des Imperial College London, der Stanford University und dem Internet Archive schätzen, dass bereits Mitte 2025 rund 35 Prozent der neu veröffentlichten Webseiten vollständig oder teilweise KI-generiert waren. Dadurch steigt das Risiko, dass unterschiedliche KIs gegenseitig die erfundenen Daten als Quellen benutzen und sich dadurch selbst kannibalisieren.
Beratungsunternehmen und Forschung besonders betroffen
Gerade Beratungsunternehmen setzen KI intensiv ein, um große Mengen an Informationen zu verarbeiten und Berichte schneller zu erstellen. Aber es ist weniger eine Zeitersparnis als eine Verschiebung der Aufgabe. Wenn weniger Zeit wird für die Berichterstellung gebraucht wird, muss dafür mehr Zeit für die Kontrolle der Ergebnisse eingeplant werden. Genau das wird jedoch häufig unterschätzt oder ausgelassen.
Wissenschaft kämpft mit gefälschten Zitaten
Nicht nur Unternehmen, sondern auch die Wissenschaft steht vor neuen Herausforderungen. Forschende der Cornell University und der University of California haben rund 2,5 Millionen wissenschaftliche Veröffentlichungen analysiert und haben ca. 150.000 von KI erzeugte, nicht existierende Quellenangaben gefunden.
Besonders problematisch ist dabei, dass erfundene Zitate oft auf den ersten Blick glaubwürdig wirken. Werden sie nicht überprüft, können sich Fehler über weitere Publikationen hinweg verbreiten.
KI braucht Kontrolle
Die aktuellen Beispiele zeigen deutlich: KI ist ein leistungsfähiges Werkzeug, ersetzt aber keine fachliche Prüfung. Wer Ergebnisse von Sprachmodellen nutzt, bleibt weiterhin für deren Richtigkeit verantwortlich.
Für Alle bedeutet das, klare Prozesse für den Umgang mit KI zu etablieren. Dazu gehören Schulungen, verbindliche Richtlinien und vor allem die konsequente Überprüfung von Quellen, Zahlen und Aussagen. Vor allem dann, wenn sie auf den ersten Blick besonders überzeugend erscheinen.