Anthropic hat am 17. September 2026 einen Messrahmen veröffentlicht, der erfassen soll, wie viel Frontier-KI-Entwicklung innerhalb eines führenden Labors bereits von KI-Systemen übernommen wird. Im Mittelpunkt stehen drei Signale: der Anteil der KI-Forschung und Entwicklung, den KI selbst leistet, die Aufsicht über interne Agenten und der Anteil des Rechenaufwands für KI-Sicherheit.
Die Veröffentlichung ist wichtig, weil sie KI-Selbstentwicklung als operative Governance-Frage behandelt. Wenn Labore KI-Systeme nutzen, um die nächste Generation von KI-Systemen zu bauen, brauchen Aufsicht, Kunden und Vorstände belastbare Nachweise über Umfang, Kontrolle und Prüfung dieser Arbeit.
Was Anthropic offengelegt hat
Anthropic erklärte, dass Claude im August 2026 für die gemessenen Forschungsaufgaben noch nicht vollständig autonom war. Das Unternehmen berichtet, Claude habe rund 26 Prozent der Arbeit geführt und an mehr als 90 Prozent der erfassten Arbeit mitgewirkt oder sie geführt. Auf der meistgenutzten internen Agentenplattform liefen zudem ungefähr 30.000 Agenten.
Bei der Aufsicht nennt Anthropic konkretere Betriebszahlen. Danach liefen 100 Prozent der Aktionen auf dieser Plattform durch Online- oder Offline-Monitoring. Im August wurden mehr als eine Milliarde Monitoring-Entscheidungen getroffen. Rund 0,002 Prozent der Online-Entscheidungen wurden blockiert, etwa eine von 47.000, und das Offline-Monitoring markierte ein bis zwei Transkripte pro tausend zur späteren Prüfung.
Für Compute beschreibt Anthropic eine einwöchige Momentaufnahme aus dem Juli. Etwa 6 Prozent des Compute für KI-Forschung und Entwicklung seien auf Sicherheitsarbeit entfallen, bei KI-getriebener KI-Forschung und Entwicklung etwa 12 Prozent.
Warum der Governance-Wert begrenzt, aber real ist
Der wichtige Schritt liegt in messbaren Kategorien. Die Frage, wie viel Modellentwicklung von KI erledigt wird, kann beprobt, geprüft und über Zeit verglichen werden. Die Frage, ob interne Agenten überwacht werden, wird zu einer Frage nach Abdeckung, Blockierquote, Prüfrate und Eskalation.
Gleichzeitig zählen die Einschränkungen. Die Labels sind Best-Effort-Einschätzungen, die Compute-Zahl ist eine kurze Momentaufnahme und die Methode bleibt intern. Anthropic will unabhängige Prüfer einbinden und Messungen veröffentlichen. Dieser Schritt entscheidet, ob Transparenz zu belastbarer Evidenz für Risikogremien wird.
Agentenaufsicht ist das operative Signal
Die Zahl von 30.000 Agenten zeigt, dass Agenten-Governance keine Nische mehr ist. Sobald Agenten Teil der Infrastruktur werden, braucht eine Organisation Inventar, Verantwortliche, delegierte Befugnisse, Monitoring-Entscheidungen und Wirkungsevidenz für riskante Aktionspfade.
Der Maetra-Leitfaden zum Agenteninventar bildet die erste Kontrollschicht: Welche Agenten existieren, welche Werkzeuge dürfen sie nutzen und wem gehören sie? Der Leitfaden zu KI-Auditprotokollen beschreibt die Nachweiskette, wenn ein Agent handelt.
Was Teams jetzt tun sollten
Unternehmen müssen Anthropics Kennzahlen nicht exakt kopieren. Sie sollten jedoch eine eigene dreiteilige Sicht aufbauen: Wie trägt KI zu wirkungsreicher Entwicklungsarbeit bei, wie werden Agentenaktionen überwacht und wie viel Sicherheits- oder Assurance-Kapazität ist mit dieser Arbeit verbunden?
Dann sollte geprüft werden, ob die Zahlen einer Vorfallsanalyse standhalten. Eine nützliche Kennzahl führt vom Inventar zur Richtlinie, von der Richtlinie zum Werkzeugaufruf und vom Werkzeugaufruf zur Veränderung im externen System. Der Maetra-Leitfaden zur Agentenüberwachung liefert dafür eine praktische Basis.
Maetra-Analyse
Die Veröffentlichung beweist nicht, dass Frontier-Labore sicher sind. Sie zeigt aber, welche Offenlegungen KI-Entwicklung besser steuerbar machen könnten. Die stärkste Fassung kombiniert wiederkehrende Messung, Zugang für Dritte, stabile Definitionen und Nachweise, die mit Vorfällen verknüpft werden können.
Für Unternehmen ist die Lehre klar: Wenn KI-Systeme beim Bauen, Bereitstellen oder Absichern kritischer Systeme helfen, braucht die Führung dieselbe messbare Aufsicht wie bei menschlichen privilegierten Operatoren. Die Frage ist nicht mehr, ob Agenten vorhanden sind. Die Frage ist, ob ihre Arbeit sichtbar genug ist, um sie zu steuern.