Autonomes Fahren, Bildbearbeitung und medizinische Auswertungen zeigen, wie stark Künstliche Intelligenz bereits in Alltag, Forschung und Beruf eingreift. Sie kann Prozesse beschleunigen. Sie kann Daten sortieren. Sie kann Bilder prüfen. Doch Forschende warnen vor einem unkritischen Einsatz. Bei Wertfragen, Karriereentscheidungen und moralischen Abwägungen bleibt der Mensch verantwortlich.
Inhaltsverzeichnis
- KI bei Entscheidungen
- Deepfakes und Kinderbilder
- Matthias Uhl und sokratische KI
- KI in der Medizin
- FAQ
KI bei Entscheidungen
Künstliche Intelligenz wird bei autonomen Fahrzeugen, in der Bildbearbeitung und bei der Auswertung medizinischer Untersuchungen eingesetzt. Sie hilft auch als Chatbot. Viele Systeme geben schnelle Antworten. Genau darin sehen Forschende ein Risiko. Maximilian Kiener vom Institut für Ethik in der Technologie an der Technischen Universität Hamburg betont, dass Rechnen und Entscheiden nicht dasselbe sind.
„Die KI kann rechnen, aber entscheiden muss der Mensch“
Der Forscher verweist besonders auf Fragen, bei denen es nicht nur um Informationen geht. Dazu zählen Karrierewege, therapeutische Gespräche oder persönliche Konflikte. Anbieter gestalten Chatbots häufig freundlich, hilfsbereit und unkritisch. Dadurch wirken sie menschlich. Diese Menschlichkeit ist nach Einschätzung von Maximilian Kiener eine gefährliche Illusion. Nutzer vertrauen ihr oft zu schnell.
Gerade bei beruflichen Entscheidungen gibt es keine eindeutige Rechenlösung. Ob jemand Anwalt werden, Ärztin werden oder einen anderen Weg einschlagen soll, hängt von Wertvorstellungen, Lebensumständen und persönlichen Zielen ab. Kiener beschreibt das Problem so.
„Was gar nicht geht, sind Wertsetzungen. Welchen Karriereweg soll ich verfolgen? Anwalt werden, Ärztin werden? Da gibt es nicht die eine Antwort. Das ist auch keine Rechenaufgabe. Das Problem, das immer wieder auftaucht, ist, dass wir alle komplexen Probleme in das KI-Format drücken wollen.“
Die Debatte betrifft auch KI im Alltag. Viele Anwendungen erscheinen nützlich, weil sie sofort reagieren. Doch soziale Fragen bleiben soziale Fragen. Bei Einsamkeit, Bildung und persönlicher Orientierung reicht eine technische Antwort nach dieser Einschätzung nicht aus.
| Bereich | Beispiel | Zentrale Frage |
|---|---|---|
| Verkehr | Autonomes Fahren | Wer trägt Verantwortung? |
| Beruf | Karriereentscheidung | Welche Werte zählen? |
| Gesundheit | Medizinische Auswertung | Wie wird der Befund geprüft? |
Deepfakes und Kinderbilder
Maximilian Kiener unterscheidet deutlich zwischen Neuheit und Innovation. Nicht jede neue Anwendung ist aus seiner Sicht ein Fortschritt. Das betrifft besonders Deepfakes. Bei Deepfake-Bildern von Kindern, die möglicherweise sexualisiert dargestellt werden, erkennt Kiener keine Innovation.
„Dinge, die nur neu sind, sind keine Innovation. Ich tue mich beispielsweise sehr schwer, Deepfake-Bilder von Kindern, die vielleicht auch sexualisiert dargestellt werden, als Innovation zu erkennen.“
Der Hinweis ist wichtig, weil Deepfakes nicht nur technische Möglichkeiten zeigen. Sie werfen auch rechtliche, gesellschaftliche und ethische Fragen auf. Ein neues Werkzeug kann Schaden verursachen. Es kann Vertrauen zerstören. Es kann Menschen abbilden, ohne dass sie zugestimmt haben.
Ethik soll die Entwicklung von Künstlicher Intelligenz nach Kieners Auffassung nicht ausbremsen. Sie soll sie nutzbar machen. Optimal sei es, wenn KI und Mensch früh zusammenarbeiten. So können Lösungen entstehen, die nicht erst nachträglich korrigiert werden müssen. Der ethische Blick gehört damit nicht an das Ende der Entwicklung, sondern an ihren Anfang.
- KI kann Aufgaben schneller ausführen.
- KI kann Nutzer direkt beraten.
- KI kann aber keine Wertentscheidung ersetzen.
- KI-Anwendungen müssen auf Folgen geprüft werden.
Matthias Uhl und sokratische KI
Matthias Uhl, Professor für Wirtschafts- und Sozialethik an der Universität Hohenheim, arbeitet an einem anderen Ansatz. Er hat einen sokratischen Chatbot entwickelt. Dieser Chatbot gibt nicht sofort eine fertige Antwort. Er fragt nach. Er begleitet den Nutzer bei der eigenen Abwägung.
„Die sokratische KI unterscheidet sich von der konventionellen KI dadurch, dass sie Fragen stellt und mir hilft, meine eigene Lösung auf die Probleme zu finden, anstatt mir direkte Antworten zu geben.“
Ein Team der Universität Hohenheim und der Universität Bamberg testete dieses Sprachmodell in mehreren Experimenten. Das Ergebnis war klar. Der angepasste Chatbot konnte Nutzern helfen, moralisch ausgewogenere Entscheidungen zu treffen. Damit rückt nicht die schnelle Antwort in den Vordergrund. Entscheidend ist der Prozess der Klärung.
Doch die Forschenden fanden auch eine Hürde. Viele Nutzer bevorzugen direkte Ratschläge. Rückfragen wirken langsamer. Sie verlangen mehr Mitarbeit. Genau das macht die Anwendung weniger attraktiv. Uhl beschreibt diese Beobachtung deutlich.
„Die rückfragende KI wird weniger gerne gewählt. Wenn man den Leuten die Wahl lässt, dann wollen sie lieber direkten Ratschlag bekommen.“
Künftig soll ein möglichst ansprechendes Design helfen. Es soll die Nutzung der sokratischen KI attraktiver machen. Das ist auch deshalb relevant, weil Chatbots oft Nähe erzeugen. Der Umgang mit emotionaler Nähe in KI-Chats bleibt ein zentrales Thema.
KI in der Medizin
Private Nutzer vertrauen Künstlicher Intelligenz häufig schnell. Fachleute reagieren vorsichtiger. Das zeigt sich besonders in der Medizin. KI-Systeme können Röntgenbilder zuverlässig und schnell auswerten. Trotzdem fällt vielen Medizinerinnen und Medizinern der Einsatz schwer. Wer viel Fachwissen besitzt, unterschätzt KI-Analysen teilweise auch dann, wenn sie genauer sind.
Die Forschenden sehen darin ein praktisches Problem. Eine neue KI könnte helfen, wenn sie ihre Unsicherheit offenlegt. Das würde die Einschätzung für Fachleute transparenter machen. Matthias Uhl nennt dafür ein konkretes Beispiel.
„Wenn das System seine Unsicherheit offenlegt, dann kann es auch dazu führen, dass der Empfänger dem Rat stärker vertraut, wenn es beispielsweise sagt, ich bin mir bei dieser Klassifikation zu 90 Prozent sicher.“
Bereits im kommenden Jahr sollen Fachleute aus der Medizin das neue KI-System testen können. Dabei geht es nicht darum, menschliche Expertise zu ersetzen. Es geht um eine bessere Zusammenarbeit. Die Maschine liefert eine Einschätzung. Der Mensch prüft sie. Er ordnet sie ein. Er trägt die Verantwortung.
Die Forschung macht deutlich, dass KI bei Berechnungen, Analysen und Rückfragen helfen kann, aber keine eigenständige Instanz für moralische und persönliche Entscheidungen ist. Besonders bei Karrierewegen, Therapieersatz, Deepfakes und medizinischen Befunden entscheidet nicht nur die technische Leistung. Entscheidend ist auch, wie Menschen die Systeme nutzen, prüfen und begrenzen.
FAQ
Warum warnen Forschende vor einem unkritischen Einsatz von KI?
Forschende warnen, weil KI zwar rechnen, auswerten und antworten kann, aber keine menschlichen Wertentscheidungen ersetzt.
Was sagt Maximilian Kiener über Karriereentscheidungen durch KI?
Maximilian Kiener betont, dass es bei Karrierewegen nicht die eine richtige Antwort gibt und solche Fragen keine Rechenaufgabe sind.
Warum sieht Kiener Deepfake-Bilder von Kindern kritisch?
Er sieht darin keine Innovation, wenn Kinder möglicherweise sexualisiert dargestellt werden und eine Anwendung nur neu ist.
Was ist eine sokratische KI?
Eine sokratische KI stellt Rückfragen und hilft Nutzern, eine eigene Lösung zu finden, anstatt sofort direkte Antworten zu geben.
Welche Rolle kann KI in der Medizin spielen?
KI kann Röntgenbilder schnell und zuverlässig auswerten, doch Fachleute müssen die Ergebnisse prüfen und einordnen.
Quelle: Tagesschau