KI schreibt 90 % des Codes: Anthropic warnt vor Tempo ohne Kontrolle
In seinem geänderten Börsenprospekt vom 2. November schreibt Anthropic, das Unternehmen könne seine eigene Schwelle für eine durch KI drastisch beschleunigte Entwicklung womöglich bald erreichen.
Ein KI-Hersteller vor dem Börsengang schreibt in ein Pflichtdokument, dass seine Modelle die eigene Forschung bald stark beschleunigen könnten und dass er solche Sprünge womöglich erst im Nachhinein erkennt. Ein Sicherheitsrisiko wird damit zum Thema für Haftung und Bewertung.
Was passiert ist
Die Angaben stehen im geänderten Registrierungsdokument S-1/A, das Anthropic am 2. November bei der US-Börsenaufsicht SEC einreichte. Interne Schätzungen deuteten darauf hin, dass das Unternehmen die Definition „dramatisch beschleunigter Fortschritt durch KI“ aus seiner eigenen Sicherheitsrichtlinie, der Responsible Scaling Policy, „unmittelbar“ erreichen könnte. Gemeint ist laut Prospekt: KI-Systeme ersetzen die gesamte Forschungsbelegschaft zu konkurrenzfähigen Kosten oder verdoppeln das Fortschrittstempo der KI insgesamt. Bisher hat Anthropic kein Modell als oberhalb dieser Schwelle eingestuft. Im September stammten laut Filing mehr als 90 Prozent der Beiträge zum eigenen Code von Claude, die tägliche Codemenge pro Ingenieur lag im dritten Quartal mehr als 45-mal über dem Niveau von 2024. Das misst Menge, nicht Produktivität. Anthropic räumt ein, schon Modelle mit KI-Hilfe entwickelt zu haben, deren Sprünge es damals nicht erkannte. Das Unternehmen erwartet nicht, Claude ohne menschliche Aufsicht sicher neue Spitzenmodelle bauen lassen zu können, und prüft schärfere Regeln. Einordnung: Ein Prospekt ist Offenlegung und Werbung zugleich, darauf weist auch TechCrunch hin.
Was daraus folgt
Wenn ein Labor Leistungssprünge erst nach dem Training bemerkt, verschiebt sich Kontrolle von vor der Veröffentlichung auf danach. Für Unternehmen, die KI-Modelle in Kundenservice, Software oder Finanzprozessen einsetzen, heißt das: Herstellerprüfungen allein reichen weniger, eigene Tests vor jedem Modellwechsel gewinnen an Gewicht. Für Anleger wird ein Sicherheitsthema zum Bewertungsfaktor, denn die Risikoangaben stehen nun in einem haftungsrelevanten Dokument. Einordnung: Ob die Schwelle tatsächlich bald erreicht wird, lässt sich von außen nicht prüfen. Belegt ist, dass ein großer Anbieter die Möglichkeit offiziell beschreibt.
Was sich konkret ändert
- Unternehmen
- Neue Modellversionen können sprunghaft mehr können als angekündigt. Eigene Tests vor dem Wechsel werden wichtiger als Herstellerangaben.
- Anleger
- Das Risiko unkontrollierter KI-Beschleunigung steht nun im Börsenprospekt und wird Teil der Bewertung.
- Softwareentwickler
- Bei Anthropic schreibt Claude laut Filing mehr als 90 Prozent der Code-Beiträge; Menschen setzen Ziele und prüfen.
Worauf zu achten ist
- Ob Anthropic ein Modell als oberhalb der Schwelle einstuft
- Änderungen an der Responsible Scaling Policy
- Weitere Prospektänderungen oder Rückfragen der SEC vor dem Börsengang
Quellen
- SEC: Anthropic PBC, Form S-1/A (2. November 2026)
- TechCrunch: Anthropic warns that it's very close to RSI capability
- Wccftech: Anthropic warns self-improving AI milestone may be imminent