Anthropic fordert globale KI-Pause – Warnung vor Kontrollverlust

Das auf künstliche Intelligenz spezialisierte US-Unternehmen Anthropic hat in einem ungewöhnlichen Vorstoß zu einer globalen Pause bei der Entwicklung der leistungsfähigsten KI-Systeme aufgerufen. In einem am Donnerstag veröffentlichten Bericht des firmeneigenen Anthropic Institute heißt es, es wäre „gut für die Welt, die Möglichkeit zu haben, die Entwicklung bahnbrechender KI zu verlangsamen oder vorübergehend auszusetzen, damit gesellschaftliche Strukturen und die Forschung zur ethischen Ausrichtung mit dem technologischen Fortschritt Schritt halten können“ [A1, A16]. Der Schritt ist brisant, weil Anthropic selbst mit seinem Modell Claude zu den führenden Akteuren im Wettlauf um immer leistungsfähigere Künstliche Intelligenz zählt.

Der Appell wird mit konkreten Beobachtungen untermauert. Das Unternehmen verweist darauf, dass Claude inzwischen mehr als 80 Prozent seines eigenen Codes schreibt – ein sprunghafter Anstieg gegenüber weniger als zehn Prozent im Februar des vergangenen Jahres [A9, A11]. Die Qualität dieses maschinengenerierten Codes sei inzwischen mit dem von Menschen verfassten Code vergleichbar und werde innerhalb eines Jahres noch deutlich besser sein. Anthropics Forscher sehen darin einen Trend hin zu einer rekursiven Selbstverbesserung, bei der KI-Systeme ihre eigenen Nachfolger entwerfen und trainieren könnten, mit zunehmend geringerer menschlicher Beteiligung [A5, A6]. „Die Belege deuten darauf hin, dass die Rolle des Menschen in jedem Schritt des KI-Entwicklungsprozesses schrumpft“, warnt der Bericht [A14]. Ein anonymer Mitarbeiter beschreibt die zwiespältige Erfahrung: An guten Tagen scheine alles automatisiert und besser, als er es je könnte, an schlechten breche alles zusammen und er verstehe nichts mehr [A13].

Eine solche Pause könne allerdings nur funktionieren, wenn alle großen KI-Unternehmen in den relevanten Ländern – allen voran die USA und China – gleichzeitig mitzögen, betont Anthropic [A1, A3]. Andernfalls würden Wettbewerber einfach vorbeiziehen. Das Unternehmen plädiert daher für ein globales Koordinierungssystem, ähnlich den Verifikationsregimen für andere komplexe Technologien [A8, A15]. In Washington und in Teilen der Branche stößt der Vorstoß jedoch auf Skepsis. Vertreter des Weißen Hauses werfen Anthropic vor, die Worst-Case-Szenarien überzubetonen [A4, A10]. Auch mag die Forderung für Elon Musk wenig attraktiv sein, dessen Unternehmen xAI im Wettbewerb steht und dessen SpaceX-Börsengang ihn laut Prognosen zum ersten Billionär machen könnte [A1].

Für Europa und den deutschsprachigen Raum wirft die Debatte grundlegende Fragen auf. Während die Europäische Union mit dem AI Act bereits einen Regulierungsrahmen geschaffen hat, bleibt die Frage, ob nationale oder europäische Alleingänge ohne eine globale Abstimmung nicht nur die Wettbewerbsfähigkeit gefährden, sondern auch sicherheitspolitisch wirkungslos bleiben. Die Vision einer selbstverbessernden KI mag noch am Horizont liegen, doch Anthropics Alarmruf zwingt Politik und Gesellschaft, sich frühzeitig mit Szenarien auseinanderzusetzen, die bislang oft als Science-Fiction abgetan wurden. Ob der geforderte „Fuß vom Gas“ [A7] gelingt, hängt letztlich von einer internationalen Verständigung ab, die in der gegenwärtigen geopolitischen Großwetterlage kaum erreichbar scheint.