Anthropic warnt vor rekursiver KI-Selbstverbesserung: Claude schreibt 80 Prozent des eigenen Codes - Unternehmen fordert Option für globale Entwicklungspause
Was wirklich drin steht
Am 4. Juni 2026 veröffentlichte das Anthropic Institute einen Blogbeitrag mit dem Titel 'When AI builds itself', verfasst von Mitgründer Jack Clark und Forscherin Marina Favaro. Die zentrale Erkenntnis: Mehr als 80 Prozent des Codes, der in Anthropics Produktions-Codebasis eingefügt wird, stammt mittlerweile von Claude selbst. Vor dem Start von Claude Code im Februar 2025 lag dieser Anteil noch im niedrigen einstelligen Bereich. Ingenieure bei Anthropic führen im zweiten Quartal 2026 durchschnittlich achtmal so viel Code pro Tag zusammen wie noch 2024. Bei den anspruchsvollsten Programmieraufgaben liegt Claudes Erfolgsquote bei 76 Prozent - ein Anstieg um 50 Prozentpunkte in sechs Monaten. In Anthropics wiederkehrendem Code-Optimierungstest steigerte sich die Leistung von einer etwa dreifachen Beschleunigung (Opus 4, Mai 2025) auf etwa 52-fach (Mythos Preview, April 2026). Die Aufgaben-Horizonte - also die Komplexität der Aufgaben, die KI autonom bewältigen kann - verdoppeln sich laut Anthropic ungefähr alle vier Monate. Auf Basis dieser Daten formuliert Anthropic eine konkrete Forderung: 'Wir glauben, dass es gut für die Welt wäre, die Option zu haben, die Entwicklung von Frontier-KI zu verlangsamen oder vorübergehend zu pausieren, damit gesellschaftliche Strukturen und Alignment-Forschung mit dem Fortschritt der Technologie Schritt halten können.' Die Bedingung: Ein solcher Stopp müsse global koordiniert erfolgen, unter Beteiligung von US-amerikanischen und chinesischen Laboren, und von außen überprüfbar sein.
Unsere Einordnung
Diese Warnung verdient eine differenzierte Einordnung. Zunächst die Fakten: Dass 80 Prozent des eingefügten Codes von Claude stammt, klingt dramatisch, bedeutet aber nicht, dass die KI sich selbst unkontrolliert weiterentwickelt. Anthropic-Ingenieure prüfen, genehmigen und steuern diesen Prozess. Es handelt sich um KI-gestützte Softwareentwicklung, nicht um autonome Selbstreplikation. Die von Anthropic beschriebene rekursive Selbstverbesserung - ein KI-System, das vollständig autonom seinen eigenen Nachfolger entwirft - ist nach eigener Aussage des Unternehmens noch nicht erreicht. Allerdings nähert sich die Entwicklung diesem Punkt 'schneller, als die meisten Institutionen darauf vorbereitet sind'. Der Ruf nach einer globalen Entwicklungspause wirft berechtigte Fragen zum Timing auf: Anthropic reichte am 1. Juni 2026 - drei Tage vor der Veröffentlichung des Blogbeitrags - vertraulich einen IPO-Antrag bei der US-Börsenaufsicht SEC ein. Die letzte Finanzierungsrunde bewertete das Unternehmen mit 965 Milliarden Dollar. Eine Pause nach dem eigenen Börsengang, während Wettbewerber noch nicht so weit sind, wäre strategisch vorteilhaft. Zudem bleibt die Forderung ohne Beteiligung von OpenAI, Google DeepMind und xAI ein gut argumentierter Blogbeitrag, keine umsetzbare Politik. Die zugrunde liegenden Bedenken sind dennoch ernst zu nehmen: Wenn KI-Systeme tatsächlich immer komplexere Aufgaben immer schneller lösen, braucht die Gesellschaft Mechanismen, um Schritt zu halten.
Relevanz für Deutschland
Für Deutschland ist diese Debatte aus mehreren Gründen relevant. Erstens: Der EU AI Act, der am 2. August 2026 vollständig in Kraft tritt, adressiert bereits Transparenz- und Sicherheitspflichten für KI-Anbieter. Wenn Anthropic selbst warnt, dass die Entwicklung schneller voranschreitet als die Aufsicht, stärkt das die europäische Regulierungsphilosophie. Zweitens: Deutsche Unternehmen und Forschungseinrichtungen nutzen Claude und andere Frontier-Modelle zunehmend in ihren Arbeitsprozessen. Eine globale Entwicklungspause hätte direkte Auswirkungen auf die Verfügbarkeit neuer KI-Werkzeuge. Drittens: Die Frage, ob KI-Systeme sich selbst verbessern können, berührt grundlegende Ängste vieler Menschen. Die ehrliche Antwort ist: Noch nicht autonom, aber die Richtung ist klar erkennbar. Für Arbeitnehmer in Deutschland bedeutet das nicht, dass morgen eine Superintelligenz ihre Jobs übernimmt, sondern dass der Umgang mit immer leistungsfähigeren KI-Werkzeugen zur beruflichen Kernkompetenz wird. Viertens: Deutschland hat als Forschungsstandort ein Interesse daran, bei der Diskussion über globale KI-Governance eine aktive Rolle zu spielen - die Bundesregierung sollte die Anthropic-Initiative zum Anlass nehmen, sich für internationale Standards einzusetzen.
Faktencheck
Die Primärquelle ist der Blogbeitrag 'When AI builds itself' auf anthropic.com/institute, veröffentlicht am 4. Juni 2026, verfasst von Jack Clark und Marina Favaro. Die Kerndaten - 80 Prozent KI-generierter Code, achtfache Produktivitätssteigerung, 52-fache Code-Optimierung, Verdoppelung der Aufgaben-Horizonte alle vier Monate - werden übereinstimmend von Scientific American, SiliconANGLE, Fortune, Tom's Hardware, the-decoder.de und borncity.com berichtet. Das Zitat zur globalen Pause stammt wörtlich aus dem Blogbeitrag und wird von allen genannten Quellen wiedergegeben. Die Angaben zum IPO-Antrag (vertrauliche S-1-Einreichung am 1. Juni 2026 bei der SEC, Bewertung von 965 Milliarden Dollar nach einer 65-Milliarden-Dollar-Finanzierungsrunde) sind durch Fortune, CNN, TechCrunch und weitere Medien unabhängig bestätigt. Die zeitliche Nähe zwischen IPO-Antrag und Pause-Forderung wird in mehreren Analysen thematisiert.
Quelle
- • https://www.anthropic.com/institute/recursive-self-improvement
- • https://the-decoder.de/sich-selbst-verbessernde-ki-anthropic-zieht-globale-entwicklungspause-in-betracht/
- • https://www.scientificamerican.com/article/anthropic-warns-ai-may-soon-begin-recursive-self-improvement/
- • https://fortune.com/2026/06/01/anthropic-confidentially-files-ipo-965-billion-valuation/