Die Hälfte der Deutschen verwendet mittlerweile ChatGPT & Co. als Google-Ersatz. Gleichzeitig arbeiten auch die klassischen Suchmaschinen immer mehr mit KI. Warum das ein Problem ist.
Viele Menschen nutzen inzwischen bei der Suche nach Informationen im Internet die Künstliche Intelligenz (KI) – vor allem Jüngere. Das zeigt eine aktuelle Umfrage vom Digitalverband Bitkom unter mehr als 1.000 Befragten. So verwendet die Hälfte zumindest manchmal einen KI-basierten Chatbot, fünf Prozent sogar ausschließlich.
45 Prozent der Antworten von Chatbots fehlerhaft
ChatGPT, Perplexity, Le Chat oder Claude: Immer mehr KI-Systeme, über die Userinnen und User nach Themen recherchieren können, tummeln sich mittlerweile auf dem Markt. Auch die Suchmaschinen Google und Microsofts Bing nutzen ihre Künstlichen Intelligenzen Gemini und Copilot bei der Anzeige von Treffern. Google führte kürzlich zudem in Deutschland seinen KI-Modus ein, durch den man quasi mit den Suchergebnissen chatten kann.
Statt zahlreiche Websites selbst zu durchforsten, erhalten die KI-Nutzerinnen und -nutzer schnell eine Zusammenfassung mit den vermeintlichen wichtigen Fakten. Das Problem: 42 Prozent von ihnen geben an, dass sie schon einmal falsche oder erfundene Informationen von der KI erhalten haben. Darauf weisen auch zahlreiche Studien hin. Laut einer Untersuchung der Europäischen Rundfunkunion (EBU) aus dem Oktober sollen 45 Prozent der Antworten von beliebten Chatbots „signifikante“ Fehler enthalten – bei Genauigkeit, Quellenangabe, Kontext oder Kennzeichnung von Tatsache und Meinung.
Systematisch hat der Zusammenschluss von 68 öffentlich-rechtlichen Sendern aus 56 Ländern die Zuverlässigkeit der KI-Tools geprüft. Schaut man rein auf die Korrektheit der Antworten, beinhaltet ChatGPT zu 51,5 Prozent, Copilot zu 45,4 Prozent, Gemini zu 50 Prozent und Perplexity zu 45,7 Prozent wesentliche Fehler oder Ungenauigkeiten.
So entstehen die Probleme
Entstehen können diese aus verschiedenen Gründen. KI-Antworten können bei aktuellen Themen schlicht veraltet sein. Die Chatbots sind häufig mit älteren Texten gefüttert und spucken bei weniger präzisen Anweisungen überholte Informationen aus. Außerdem übernehmen sie teilweise ungefiltert Falschinformationen aus dem Web oder ordnen Einschätzungen falschen Quellen zu.
Das Hauptproblem liegt im System selbst. Denn KI-Tools sind Sprachmodelle, die auf Basis von großen Textmengen berechnen, welche Wörter am wahrscheinlichsten zusammengehören. Dadurch kann es zu sogenannten Halluzinationen kommen: Die KI antwortet nicht korrekt oder ungenau, weil sie statistisch plausible Wortketten generiert. Sie weiß nicht, ob die resultierende Aussage wirklich wahr ist. Stattdessen ermittelt sie ihren Output über statistische Muster – es sind letztlich Sprachmodelle.
Viele Quellen selbst KI-basiert
Und das Ganze ist eine Teufelskreis: So verwendet die Google-KI zum Beispiel laut einer Analyse von Originality.ai häufig Quellen, die teilweise selbst von KI-Modellen erstellt wurden. Darüber berichtete kürzlich das Tech-Magazin t3n. Mithilfe einer auf die Erkennung von KI-generierten Texten spezialisierten Software sei auf Basis von 29.000 Suchanfragen herausgefunden worden, dass über zehn Prozent aller Quellen KI-generiert seien.
Auf diese greift übrigens auch Wikipedia immer mehr zu. Nach einer Studie der Princeton University enthielten im August des vergangenen Jahres bis zu fünf Prozent der neu erstellten englischsprachigen Wikipedia-Artikel KI-generierten Inhalt. Sie zeichneten sich danach typischerweise durch niedrigere Qualität, weniger Quellenangaben oder werblichen Charakter aus.
Aber immerhin: Alle KI-Tools haben sich der EBU-Erhebung zufolge im Vergleich zu früheren Daten verbessert. Außerdem wird die Technologie hinter den Chatbots laufend angepasst und trainiert; so stellte Google in der vergangenen Woche sein neues Modell Gemini 3 vor, das intelligenter und fortschrittlicher sein soll. Auch OpenAI veröffentlichte im November ein Update für GPT-5. Die Tech-Konzerne wissen also offenbar um die Probleme und stecken Milliarden in Lösungen.
Unterschiede zwischen KI und traditioneller Suchmaschine
Eines ist trotzdem sicher: Die Ergebnisse aus den Chats unterscheiden sich stark von den Trefferlisten bei einer klassischen Suche über Google oder Bing. Forscherinnen und Forscher der Ruhr-Universität Bochum und des Max-Planck-Instituts für Softwaresysteme verglichen jüngst die traditionelle Google-Suche mit vier generativen Suchmaschinen.
Das Ergebnis: KI wirft ein breiteres Netz aus und bezieht Informationen aus einer vielfältigeren Auswahl von Websites als herkömmliche Suchmaschinen. Die von ihr verwendeten Links gehörten aber oft nicht zu den Top-Suchergebnissen. Und nur weil KI mehr Quellen nutzt, bedeute das nicht, dass ihre Antworten umfassender seien, heißt es in dem im Oktober veröffentlichten Paper. Tatsächlich sei das oft nicht der Fall.
„Unterschiede bei der Auswahl der Quellen und der Nutzung des internen Wissens können subtil beeinflussen, welche Perspektiven und Fakten den Nutzern präsentiert werden, selbst wenn die Themenabdeckung insgesamt ähnlich erscheint“, so die Autorinnen und Autoren. Danach bekommen Nutzerinnen und Nutzer zwar eine zusammengefasste Antwort, verlieren jedoch die zuverlässigen Quellen und konsistenten Ergebnisse.
„Die erste Regel ist: nicht als Suchmaschine verwenden“
Aus diesem Grund weisen die Forscherinnen und Forscher auf die Notwendigkeit neuer Benchmarks und Standards hin, um die von KI gelieferten Antworten angemessen bewerten zu können. Und auch die EBU fordert eindeutige Vorgaben im Umgang mit den Chatbots: So sollte ihnen niemals blind vertraut und die Informationen immer noch einmal geprüft werden – etwa bei etablierten Medien.
Katharina Zweig, Professorin für Informatik an der Rheinland-Pfälzischen Technischen Universität Kaiserslautern-Landau, geht noch einen Schritt weiter: „Die erste Regel ist: nicht als Suchmaschine verwenden“, sagte sie in einem aktuellen FAZ-Interview. Sprachmodelle hätten erst einmal keine Wissensdatenbank zur Verfügung, sondern hängten Wörter aneinander. Für kreative Prozesse seien sie besser geeignet und man solle sie nur dort nutzen, „wo kein Schaden entsteht“.
Ohnehin ist sie sich nicht sicher, ob die KI als Suchmaschine überhaupt Standard werde. „Die ganze Geschichte ist so unfassbar teuer, irgendwann wird man einen Return of Investment sehen wollen. Für mich sind die Ergebnisse nicht gut genug, als dass ich dafür bezahlen wollte.“ Dauerhaft kostenlos könne ein derart teurer Service aufgrund der hohen Kosten durch Strom und Kühlwasser nicht bleiben.
