Der US-Konzern Anthropic spricht sich für eine weltweite Verlangsamung bei der Entwicklung sehr leistungsstarker KI-Systeme aus. Das Unternehmen aus San Francisco sieht dabei vor allem ein Problem. Eine Pause einzelner Firmen würde nicht reichen. Andere Anbieter könnten dann schneller weiterarbeiten. Deshalb verweist Anthropic auf eine gemeinsame Lösung, an der führende KI-Unternehmen aus mehreren Ländern beteiligt sein müssten. Nach Darstellung von Anthropic wäre eine weltweite Verlangsamung der Spitzenforschung im Bereich Künstlicher Intelligenz „wahrscheinlich sinnvoll“. Dafür müssten Regeln entstehen, die überprüfbar sind. Im Mittelpunkt stehen die USA und China, aber auch andere Staaten mit großen KI-Unternehmen. Der Vorschlag steht in einer Debatte, die sich um autonome Systeme, Superintelligenz, Cyberrisiken und mögliche Folgen für Arbeitsplätze dreht.
Inhaltsverzeichnis
Anthropic fordert Pause
Anthropic plädiert für eine weltweite Pause oder Verlangsamung bei der Entwicklung immer leistungsstärkerer Systeme Künstlicher Intelligenz. Der Konzern erklärt, die Welt solle die Möglichkeit haben, „die Entwicklung hochmoderner KI-Systeme zu verlangsamen oder vorübergehend auszusetzen“. Damit sollten gesellschaftliche Strukturen und Forschung zur Ausrichtung von KI mit dem technologischen Fortschritt Schritt halten können.
Eine wirksame Pause müsste nach Ansicht von Anthropic gleichzeitig von führenden KI-Konzernen in verschiedenen Ländern getragen werden. Besonders genannt werden die USA und China. Ein einzelnes Unternehmen könne nicht allein stoppen, weil Wettbewerber dann an ihm vorbeiziehen würden. Anthropic fordert deshalb überprüfbare Regeln.
- Die Pause soll weltweit abgestimmt werden.
- Führende KI-Unternehmen müssten gleichzeitig handeln.
- Regeln müssten kontrollierbar sein.
- Der technische Fortschritt soll mit gesellschaftlichen Strukturen abgeglichen werden.
Claude und Mythos
Anthropic ist vor allem für den Chatbot Claude bekannt. Er wird besonders von Unternehmen genutzt. Zusätzlich arbeitet der Konzern an einem Modell namens Mythos. Dieses System soll Lücken in Cybersicherheitssystemen erkennen. Neben den US-Behörden hofft auch die EU auf einen testweisen Zugriff, um mögliche Risiken zu prüfen.
Deutsche Verfassungsschützer und Sicherheitspolitiker warnen, dass Kriminelle oder staatliche Akteure Mythos für Cyberangriffe nutzen könnten. Zugleich steht Anthropic in einem Rechtsstreit mit dem US-Verteidigungsministerium. Dabei geht es um die uneingeschränkte militärische Nutzung der Technologie. Anthropic verweigert dem Pentagon diese Nutzung und erklärte, KI nicht zur „Massenüberwachung im Inland“ oder in vollautonomen Waffensystemen einsetzen lassen zu wollen.
Das Pentagon stufte Anthropic daraufhin als „Sicherheitsrisiko in der Lieferkette“ ein. Gegen diese Einstufung wehrt sich das Unternehmen juristisch. In dem Material werden außerdem Bildquellen und Agenturen wie Imago, NurPhoto, SOPA Images, Christian Ohde und Westend61 genannt.
Hinton, Yao und Song
Die Debatte über KI-Risiken wird auch von Forschern geprägt. Im Fachjournal „Science“ warnen Wissenschaftler vor dem Kontrollverlust über autonome KI-Systeme. Genannt werden Geoffrey Hinton, Andrew Yao und Dawn Song. Sie gehören zu den bekannten Stimmen der KI-Forschung.
Als mögliche Risiken werden Cyberattacken in großem Maßstab, gesellschaftliche Manipulation, allgegenwärtige Überwachung und sogar die „Auslöschung der Menschheit“ genannt. Besonders im Blick stehen autonome Systeme, die Computer selbstständig nutzen können, um vorgegebene Ziele zu erreichen. Die Fachleute verweisen darauf, dass auch Programme mit guten Vorgaben unerwartete Nebeneffekte erzeugen könnten.
KI wird dabei als Sammelbegriff für Maschinen und Programme beschrieben, die lernen, urteilen und Probleme lösen können. Computer werten dafür große Datenmengen aus. Algorithmen erkennen Muster in Bildern, Texten und gesprochener Sprache. Sie können Ereignisse vorhersagen und Entscheidungen vorbereiten. Emotionen in Gesichtern können solche Systeme inzwischen erkennen. Zu eigenen Emotionen, Mitgefühl und Kreativität sind sie laut Text aber noch nicht fähig.
Yudkowsky und Soares
Eliezer Yudkowsky und Nate Soares veröffentlichten ein Buch mit dem Titel „If anyone builds it, everyone dies“. In deutscher Übersetzung wird der Titel als „Wenn das jemand baut, sterben alle“ wiedergegeben. Die Autoren warnen darin vor einer Superintelligenz, die den Menschen bei fast allen geistigen Aufgaben übertreffen könnte.
Die Autoren sprechen von einer möglichen „Intelligenzexplosion“, falls KI-Systeme künftig ihre eigene Weiterentwicklung übernehmen. Einen genauen Zeitpunkt nennen sie nicht. Sie vertreten aber die Ansicht, dass die Entwicklung einer Superintelligenz noch verhindert werden könne. In dieselbe Debatte fällt auch ein Beitrag des amerikanischen KI-Unternehmers Matt Shumer auf X. Sein Satz „Something Big Is Happening“ wurde laut Text mehr als 80 Millionen Mal aufgerufen.
Shumer bezieht seine Warnung besonders auf Jobs am Bildschirm. Gemeint sind Tätigkeiten mit Lesen, Schreiben, Analysieren, Entscheiden und Kommunizieren über Tastaturen. Auch Dario Amodei, Chef von Anthropic, äußerte sich dazu. Er lehnt Weltuntergangsszenarien ab, hält aber schnelle Fortschritte für möglich. Nach seiner Einschätzung könnte es in ein bis zwei Jahren Systeme geben, die viele Nobelpreisgewinner übertreffen und bessere Nachfolgeversionen selbst programmieren.
Anthropic verbindet seine Forderung nach einer KI-Pause mit Sicherheitsfragen, internationaler Kontrolle und der Sorge vor schwer vorhersehbaren autonomen Systemen. Die Debatte umfasst Unternehmen, Behörden, Wissenschaftler und politische Akteure. Im Zentrum steht die Frage, ob die Entwicklung hochmoderner KI-Systeme zeitweise gebremst werden kann, bevor sie schneller voranschreitet als Forschung, Regulierung und gesellschaftliche Anpassung.
KI als letzte Erfindung der Menschheit
Das Video ordnet die Frage ein, welche Folgen eine immer leistungsfähigere Künstliche Intelligenz für Menschheit, Kontrolle und technologische Entwicklung haben könnte.
FAQ
Was fordert Anthropic bei Künstlicher Intelligenz?
Anthropic fordert eine weltweite Pause oder Verlangsamung bei der Entwicklung immer leistungsstärkerer KI-Systeme. Nach Ansicht des Konzerns müsste eine solche Maßnahme international abgestimmt werden.
Warum reicht eine Pause einzelner Unternehmen nicht aus?
Nach Darstellung von Anthropic könnten Konkurrenten weiterarbeiten und an einem pausierenden Unternehmen vorbeiziehen. Deshalb müssten führende KI-Konzerne in mehreren Ländern gleichzeitig handeln.
Welche Rolle spielen Claude und Mythos?
Claude ist der bekannte Chatbot von Anthropic, der vor allem von Unternehmen genutzt wird. Mythos ist ein KI-Modell, das Lücken in Cybersicherheitssystemen aufspüren soll.
Welche Risiken nennen Forscher bei KI-Systemen?
Genannt werden Cyberattacken in großem Maßstab, gesellschaftliche Manipulation, allgegenwärtige Überwachung und der mögliche Kontrollverlust über autonome KI-Systeme.
Wer wird in der Debatte über KI-Risiken genannt?
Im Text werden unter anderem Geoffrey Hinton, Andrew Yao, Dawn Song, Eliezer Yudkowsky, Nate Soares, Matt Shumer und Dario Amodei genannt.
Quelle: STUTTGARTER ZEITUNG