Anthropic entschuldigt sich für versteckte KI-Einschränkungen – während Partner Zugang zu Mythos 5 erhalten

Die jüngste Veröffentlichung des KI-Modells Claude Fable 5 durch Anthropic hat eine Welle der Kritik ausgelöst, weil das Unternehmen bestimmte Anfragen heimlich auf ein schwächeres Modell umleitete. Nach Protesten von Forschern und Entwicklern entschuldigte sich Anthropic und kündigte an, solche Rückgriffe künftig sichtbar zu machen [A3, A4]. Anfragen zur Entwicklung von Frontier-KI-Modellen werden nun erkennbar an das ältere Opus 4.8 weitergeleitet, anstatt unbemerkt minderwertige Antworten zu liefern [A4]. Das Unternehmen begründet die verbleibenden Einschränkungen mit Sicherheitsbedenken: Man wolle verhindern, dass ausländische Gegner den amerikanischen Vorsprung bei KI und Chips untergraben [A4].

Hinter der öffentlichen Version steht das weitaus leistungsfähigere Modell Mythos 5, das Anthropic zunächst als zu gefährlich für eine breite Freigabe einstufte. Es bleibt exklusiv ausgewählten Partnern im „Project Glasswing“ vorbehalten, darunter Cisco [A1]. Der Netzwerkausrüster berichtet, mit der Vorgängerversion – und konkurrierenden Modellen von OpenAI – habe man 1,8 Milliarden Codezeilen gescannt und die Arbeit von acht Jahren in acht Wochen erledigt [A1]. Diese Effizienzgewinne illustrieren das Potenzial der KI für Cybersicherheit, werfen aber auch Fragen zur Kontrolle solcher Fähigkeiten auf.

Parallel baut Anthropic seine Präsenz in der Unternehmens-IT aus. DXC Technology, ein globaler Dienstleister für kritische Infrastrukturen, schloss eine mehrjährige Partnerschaft und wird Global Premier Partner im Claude Partner Network [A2, A6]. Zehntausende Ingenieure sollen zertifiziert werden, um Claude-Modelle in die Systeme großer Banken, Fluggesellschaften und Versicherungen zu integrieren [A6]. Die Allianz zielt darauf, KI-gestützte Effizienz in mission-critical-Umgebungen zu bringen, birgt jedoch auch Abhängigkeiten von einem einzelnen Anbieter.

Die sicherheitspolitische Dimension zeigt sich auch in Asien. Die japanische Regierung hat ihre Cybersicherheitsrichtlinien aktualisiert, um auf Angriffe mit hochentwickelten KI-Modellen wie Claude Mythos vorbereitet zu sein [A5]. Tokio fordert Behörden auf, Pläne für schnelle Systemabschaltungen und Patch-Implementierungen zu erstellen, da Mythos als äußerst fähig gilt, Schwachstellen aufzuspüren [A5]. Minister Matsumoto betonte, man müsse mit der Möglichkeit rechnen, Systeme vorübergehend stillzulegen [A5].

Für Deutschland, Österreich und die Schweiz, deren Industrie- und Finanzsektoren stark von IT-Dienstleistern wie DXC abhängen, gewinnt die Entwicklung an Brisanz. Die Integration leistungsfähiger KI in kritische Infrastrukturen verspricht Produktivitätssprünge, macht aber auch verwundbar gegenüber eben jenen Modellen, die Cyberangriffe automatisieren können. Anthropics Doppelstrategie – öffentliche Modelle mit abgestuften Sicherheitsvorkehrungen und exklusive Hochleistungssysteme für Vertrauenspartner – spiegelt das grundlegende Dilemma der KI-Governance: Wie lässt sich Innovation fördern, ohne die Werkzeuge für Missbrauch in falsche Hände zu geben? Die Antwort wird nicht allein in San Francisco oder Washington gefunden werden können.