Hinweisgebende Aussagen aus dem Umfeld des US-KI-Labors Anthropic haben am 9. und 10. September 2026 eine landesweite Diskussion über existenzielle Risiken fortgeschrittener Systeme neu belebt. In öffentlichen Stellungnahmen warnten aktuelle und frühere Beschäftigte, dass binnen eines Jahrzehnts eine nicht zu vernachlässigende Wahrscheinlichkeit für katastrophale KI-Folgen bestehe. Die Einlassungen erhielten umgehend politische Aufmerksamkeit in Washington und wurden von großen US-Medien aufgegriffen.
Evan Hubinger, Forschungsmitarbeiter bei Anthropic, bezifferte die Eintrittswahrscheinlichkeit schwerwiegender Fehlentwicklungen in persönlichen Einschätzungen mit über zehn Prozent. Der Forscher Jacob Coxon erklärte seinen Rückzug aus dem Unternehmen mit dem Hinweis auf unzureichende Sicherheitsmargen bei der Entwicklung immer leistungsfähigerer „Frontier-Modelle“. Medienberichte dokumentieren beide Aussagen; unabhängige Stellenprüfungen liegen zu den konkreten Wahrscheinlichkeitsannahmen nicht vor. Anthropic selbst äußerte sich in den vorliegenden Berichten nicht umfassend zu den individuellen Einschätzungen.
Die Äußerungen treffen auf eine bereits laufende politische Auseinandersetzung. Im Zentrum stehen Vorschläge für strengere Prüfpflichten vor der Freigabe besonders leistungsstarker Modelle, Melde- und Auditpflichten sowie Notfallmechanismen bis hin zu Abschaltvorgaben. Im Kongress werden Varianten solcher Aufsichtsregeln diskutiert. Das Weiße Haus verweist parallel auf internationale Abstimmungen, zuletzt im G20-Rahmen, und auf bestehende Kooperationsgespräche mit großen KI-Laboren über Standards für Tests und Sicherheitsprotokolle. Vertreter aus Industrie und Forschung warnen wiederum vor Überregulierung und verweisen auf die internationale Wettbewerbsdynamik.
Hintergrund ist die seit Jahren geführte Debatte über sogenannte Existenzrisiken durch Systeme, die in Fähigkeiten und Autonomie schnell zunehmen könnten. In den Vereinigten Staaten haben Sicherheitsbehörden, das Pentagon und zivilen Aufsichten nahe Institutionen wiederholt Prüf- und Berichtspflichten für besonders risikoreiche Entwicklungen eingefordert. Gleichzeitig investieren Unternehmen Milliarden in die nächste Modellgeneration; der Zielkonflikt zwischen Sicherheit und Innovationsdruck prägt die politische Lage.
Faktisch belegt sind die neuen öffentlichen Stellungnahmen und die Breite der politischen Reaktionen. Aussagen zu Eintrittswahrscheinlichkeiten und Zeitplänen sind als persönliche Einschätzungen zu werten. Ob und in welcher Form zusätzliche US-Regeln verabschiedet werden, ist offen. Klar ist jedoch: Die jüngste Eskalation der Warnungen aus dem Umfeld von Anthropic hat die Dringlichkeit der Regulierungsdebatte in Washington sichtbar erhöht.
Redakteur: Phillipe Schmidt-Araguin (Artikel mit KI-Unterstützung).