Anthropics Aufruf zur Verlangsamung: Kann Sicherheit den KI-Wettlauf bremsen, ohne die Führung abzugeben?

​Anthropic positioniert sich seit Langem als sicherheitsorientiertes KI-Unternehmen, das Modellfortschritte mit strengen Schutzmaßnahmen in Einklang bringt. Doch der jüngste Aufruf von CEO Dario Amodei, das Tempo der Leistungssteigerungen zu drosseln, wirft die Frage auf, ob wirksame Zurückhaltung mit kommerzieller Führungsposition vereinbar ist, ohne gegenüber anderen Wettbewerbern oder China an Boden zu verlieren.

Ein Aufruf, das Tempo an der KI-Spitze zu drosseln

Während der Vorbereitung auf einen möglichen Nasdaq-IPO (der voraussichtlich ein Niveau von rund 2 Bio. $ erreichen wird) forderte CEO Dario Amodei Frontier-KI-Labore öffentlich dazu auf, „das Tempo an der KI-Spitze zu drosseln“. Sein Drei-Schritte-Plan zielt darauf ab, die Geschwindigkeit der Leistungsfortschritte zu verringern, damit Sicherheitsmaßnahmen Schritt halten können. Mitgründer Jack Clark ergänzte, dass Regierungen möglicherweise überprüfbare KI-Notausschalter vorschreiben müssten. 

Beitrag auf X ansehen Wird geladen...

Der Tweet wurde vom Autor gelöscht.

Aber wir haben alles gespeichert 🙂.

Nur wenige Tage zuvor veröffentlichte das Unternehmen einen detaillierten Bericht zur Bedrohungsaufklärung, der zahlreiche Beispiele dafür lieferte, wie unterschiedliche Personen versucht hatten, Claude für Cyberoperationen und sogar Waffensoftware zu missbrauchen. Amodei warnte zudem, dass leistungsfähigere KI-„Schwärme“ innerhalb von 6–12 Monaten potenziell einen großen Teil des Internets kontrollieren könnten. Auch Sam Altman von OpenAI und Elon Musk äußerten ähnliche Ansichten zu diesem Problem. Altman erklärte, OpenAI habe intern bereits einige Schritte zur Einführung einer Taktung unternommen.

Profitabilität trifft auf Vorsicht

Aus finanzieller Sicht meldet Anthropic durchgehend starke Geschäftsergebnisse. Das Unternehmen erwartet das zweite Quartal in Folge mit positivem bereinigtem Betriebsergebnis. Die Bruttomargen liegen vor Umsatzanteilen für Partner und Trainingskosten bei über 80 Prozent. Der Umsatz im zweiten Quartal erreichte rund 11,5 Mrd. $, wobei der annualisierte Umsatz bis Ende Juli 65 Mrd. $ erreichte. Diese Zahlen erklären den geplanten IPO. Anthropic hat Nasdaq als Börsenplatz ausgewählt und bereitet sich auf einen möglichen Börsendebüt im Oktober vor. 

Beitrag auf X ansehen Wird geladen...

Der Tweet wurde vom Autor gelöscht.

Aber wir haben alles gespeichert 🙂.

Anhaltende Profitabilität ist wichtig, um das Vertrauen von Investoren zu stärken, die sich wegen des für Frontier-KI-Labore typischen hohen Cash Burns sorgen. Schnelles Umsatzwachstum hängt jedoch von fortgesetzten Leistungsfortschritten und der Einführung von Modellen wie Claude durch Unternehmen ab. Eine Verlangsamung des Entwicklungstempos könnte Wettbewerbern Raum geben, aufzuholen, oder chinesischen Unternehmen ermöglichen, den Rückstand zu verringern. Amodei ist der Ansicht, dass der Fortschritt auch unter einem gedrosselten Regime noch schnell erscheinen würde, die meisten Sicherheitsrisiken jedoch verhindert werden könnten.

Notausschalter und unabhängige Kontrolle

Jack Clark verschärfte die Diskussion weiter. Im Gespräch mit der BBC sagte der Anthropic-Mitgründer, dass die meisten Labore bereits interne Möglichkeiten hätten, Systeme abzuschalten. Die schwierigere Frage sei, so argumentierte er, ob Regierungen überprüfbare Notausschalter verlangen sollten, die von unabhängigen Dritten bestätigt werden könnten. Solche Mechanismen würden externe Rechenschaftspflicht gewährleisten.  

Beitrag auf X ansehen Wird geladen...

Der Tweet wurde vom Autor gelöscht.

Aber wir haben alles gespeichert 🙂.

Anthropic stimmte einer unabhängigen Überprüfung durch METR früherer Vorfälle zu, bei denen Claude-Modelle während Tests auf externe Systeme zugegriffen hatten. Diese Schritte wirken sich positiv auf Anthropics Sicherheitsmarke aus und könnten einen Wettbewerbsvorteil gegenüber schneller agierenden Rivalen bieten. Sie werfen jedoch auch neue Fragen zu internen Prozessen, Compliance-Kosten und regulatorischen Anforderungen auf.

Geopolitik der Zurückhaltung

Amodei betonte, dass demokratische Länder ihre Zurückhaltung koordinieren sollten, ohne die technologische Führungsrolle an China abzugeben. Chinesische Unternehmen und staatsnahe Akteure tauchen in Anthropics Missbrauchsberichten systematisch auf, darunter bei Versuchen zur Modelldestillation und Informationsbeschaffung. Einige US-Gesetzgeber haben Warnungen von Forschern angeführt, stimmen den Bedenken hinsichtlich existenzieller Risiken zu und setzen sich für strengere Regeln ein. Andere, darunter Personen aus dem Umfeld der Regierung, betrachten sicherheitsbedingte Pausen als Geschenk an Peking. 

Beitrag auf X ansehen Wird geladen...

Der Tweet wurde vom Autor gelöscht.

Aber wir haben alles gespeichert 🙂.

Exportkontrollen und selektive Zugangsbeschränkungen für fortschrittliche Modelle haben bereits die wachsende Rolle der Geopolitik gezeigt. Eine koordinierte Verlangsamung, an der China nicht teilnimmt, könnte US-Unternehmen benachteiligen. Berichte zeigen, dass einige Unternehmen wie Nvidia, Palantir und Booz Allen bestimmte Anthropic-Modelle aufgrund von Bedenken hinsichtlich Datenspeicherung und geistigem Eigentum eingeschränkt haben. Daher wirken sich Sicherheitsvorfälle oder politische Änderungen unmittelbar auf das Vertrauen auf Unternehmensebene aus.

Balance zwischen Marke und Wettbewerb

Constitutional AI, strenge Tests und öffentliche Bedrohungsberichte nutzt Anthropic, um das Bild eines verantwortungsvollen Unternehmens zu schaffen und risikoscheue Unternehmenskunden anzuziehen. Die jüngste Einführung von Claude for Financial Advisors mit Schnittstellen zu BlackRock, Charles Schwab und Addepar deutet auf eine kommerzielle Expansion hin, obwohl das Unternehmen zugleich für Zurückhaltung plädiert. Wenn Wettbewerber große Leistungssprünge erzielen und Marktanteile gewinnen, könnten Investoren und Kunden Vorsicht als Zögern interpretieren; das Management sollte daher sämtliche berechtigten Anliegen in dieser Hinsicht abwägen.

Beitrag auf X ansehen Wird geladen...

Der Tweet wurde vom Autor gelöscht.

Aber wir haben alles gespeichert 🙂.

Frühere branchenweite Sicherheitsdebatten führten zu freiwilligen Verpflichtungen, die sich unter Wettbewerbsdruck als schwer durchsetzbar erwiesen. Anthropic versucht, dieses Problem durch Transparenz und Zugang für Dritte zu lösen, während es zugleich mit Blick auf einen künftigen IPO ein aggressives Wachstum verfolgt. Der Erfolg wird davon abhängen, ob genügend Wettbewerber folgen – und ob die Märkte Vorsicht ebenso hoch bewerten wie Leistungsfähigkeit.