Die Suchmaschine von Google hat eine neue Ära eingeläutet. Seit Kurzem ist der auf Künstlicher Intelligenz basierende Suchmodus offiziell in Deutschland verfügbar. Der Modus liefert Antworten, die vollständig von einer KI generiert werden. Noch steht die Funktion nicht allen Nutzenden zur Verfügung, sondern wird schrittweise freigeschaltet.
Inhaltsverzeichnis:
- Aljoscha Burchardt warnt vor unklaren Quellen
- Neue Risiken durch sogenannte Halluzinationen
- Unterschiedliche Antworten bei gleichen Suchanfragen
- Fehlende Vorbereitung der Menschen auf KI-Systeme
- Medienbildung und freie Wahl als zentrale Forderungen
Aljoscha Burchardt warnt vor unklaren Quellen
Der KI-Forscher Aljoscha Burchardt vom Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) sieht sowohl Chancen als auch Risiken. Früher hatte Google bereits KI-generierte Informationen angezeigt, diese aber nur aus drei Webseitenabschnitten zusammengesetzt. Jetzt verarbeitet das System deutlich mehr Quellen und erstellt daraus eigenständige Antworten.
Das neue System kombiniert Inhalte aus zahlreichen Webseiten und fasst sie automatisch zusammen. Nutzerinnen und Nutzer erhalten dadurch Informationen schneller und in komprimierter Form. Laut Burchardt wirke die KI wie „eine Armee von Praktikanten, die sich in jedes Thema vertieft“. Das erleichtere die Informationssuche erheblich, erschwere aber gleichzeitig die Nachvollziehbarkeit der Quellen.
Die Schwierigkeit liege darin, den Ursprung der Daten zu erkennen. Eine direkte Verbindung zu den verwendeten Webseiten sei kaum überprüfbar. In vielen Fällen kann nicht mehr eindeutig festgestellt werden, ob die Antwort auf einer Quelle basiert oder von der KI ergänzt wurde.
Neue Risiken durch sogenannte Halluzinationen
Burchardt erklärt, dass die KI gelegentlich Informationen hinzufügt, die in keiner Quelle stehen. Dieser Vorgang wird in der Forschung als *Halluzination* bezeichnet. Der Experte hält den Begriff zwar für problematisch, erkennt jedoch an, dass die KI damit oft eigene Inhalte erfindet.
Solche künstlich erzeugten Ergänzungen seien besonders kritisch bei sensiblen Themen. Beispiele:
- Medizinische Diagnosen
- Juristische Texte
- Politische Aussagen
Schon eine kleine Ungenauigkeit kann die Bedeutung vollständig verändern, betont der Forscher. Während bei Rezepten oder allgemeinen Themen geringe Fehler keine großen Folgen haben, kann dies in anderen Bereichen zu erheblichen Missverständnissen führen.
Unterschiedliche Antworten bei gleichen Suchanfragen
Ein Test zeigt, wie flexibel das System formuliert. Auf die Frage „Was ist typisch fürs Saarland?“ lieferte der KI-Modus zwei Versionen:
- Saarland als Bundesland mit Nähe zu Frankreich, Industrie und deftiger Küche.
- Saarland als Region mit industrieller Vergangenheit, französischem Einfluss und Natur.
Beide Antworten sind richtig, aber unterschiedlich formuliert. Diese Variation zeigt, dass die KI Informationen zwar korrekt wiedergeben kann, aber keine einheitliche Ausdrucksweise verwendet. Für Nutzerinnen und Nutzer bleibt daher unklar, welche Formulierung auf welchen Quellen basiert.
Fehlende Vorbereitung der Menschen auf KI-Systeme
Der Forscher warnt, dass viele Menschen Künstlicher Intelligenz blind vertrauen. Die schnelle, bequeme Antwort ersetzt oft gründliche Recherche. Wenn das System gut funktioniert, nutzen es alle – selbst dann, wenn die Ergebnisse nicht überprüfbar sind.
Burchardt befürchtet, dass der Wunsch nach Bequemlichkeit den kritischen Umgang mit Informationen verdrängt. Die KI wird zum Standardwerkzeug, während der Mensch die Kontrolle über die Informationsprüfung verliert.
Medienbildung und freie Wahl als zentrale Forderungen
Für Burchardt ist Aufklärung entscheidend. Schulen, Universitäten und Medien sollten vermitteln, wie KI arbeitet und wo ihre Grenzen liegen. Nur so könne eine bewusste Nutzung entstehen.
Zudem betont er die Notwendigkeit der Freiwilligkeit. Der KI-Modus dürfe niemals verpflichtend werden. Wer klassische Suchergebnisse bevorzugt, müsse diese weiterhin erhalten können.
Abschließend fordert der Experte eine öffentliche Diskussion über den Wandel der Informationsverarbeitung. „Wir erleben einen tiefgreifenden Umbruch in der Kommunikation“, warnt Burchardt. Alles, was in den letzten 20 Jahren im Internet entstanden ist, müsse neu gedacht werden.
- Neuer Google-KI-Modus seit 2025 in Deutschland aktiv.
- Vollständig KI-generierte Antworten aus mehreren Quellen.
- Gefahr von fehlerhaften oder erfundenen Informationen.
- Burchardt fordert mehr Medienbildung und freiwillige Nutzung.
- Fehlende gesellschaftliche Debatte über KI bleibt ein Problem.
Quelle: SR, YouTube