TLDR: Ein Anthropic-Forscher kündigt öffentlich und warnt vor Auslöschung durch KI. Ein Kollege bestätigt: über 10 Prozent Risiko innerhalb eines Jahrzehnts. Diese Zahl ist keine Messung, sondern eine Schätzung für ein Ereignis, das es noch nie gab, und genau das macht sie für praktisch jede Seite verwertbar. Während über die Zukunft gestritten wird, verschieben sich heute schon Zahlen, die sich tatsächlich prüfen lassen: Beschäftigung, Abhängigkeit, Kontrolle.

Am Dienstag, 8. September 2026, kündigt Jacob Coxon, 27, bei Anthropic. Drei Jahre hat er zuvor Pretraining-Forschung bei OpenAI und Anthropic betrieben, zuletzt vier Monate bei Anthropic, noch bevor seine Aktienoptionen überhaupt fällig wurden. Sein Abschiedsthread auf X: Keine der beiden Firmen handle verantwortungsvoll, beide würden direkt auf selbstverbessernde Superintelligenz zusteuern und mit unserem Leben spielen. Innerhalb eines Tages: über 150 Millionen Aufrufe.

Was danach passiert, ist der eigentliche Befund der Woche. Niemand bei Anthropic widerspricht der Grundaussage. Evan Hubinger, der die Alignment-Sicherheitsforschung des Unternehmens leitet, bestätigt öffentlich: Coxon habe recht, man glaube tatsächlich, KI könnte alle Menschen töten. Seine eigene Einschätzung: über 10 Prozent Risiko binnen eines Jahrzehnts. Ergänzend hält er fest, Anthropic habe noch keinen Plan, wie sich eine Superintelligenz zuverlässig kontrollieren liesse.

Das eigentliche Problem an dieser Woche ist nicht, ob die Zahl stimmt. Das eigentliche Problem ist, dass eine Schätzung wie eine Messung behandelt wird. Ein Crashtest liefert eine Quote, weil sich das Ereignis wiederholen lässt. Eine Auslöschung durch KI ist noch nie passiert. Wer hier eine Prozentzahl nennt, beschreibt kein statistisches Risiko, sondern ein persönliches Vertrauensniveau, formuliert wie eine Messung. Genau diese Verwechslung macht die Zahl beweglich: Jede Seite kann sie als Beleg zitieren, ohne dass sie widerlegt werden kann.

Der entscheidende Unterschied liegt nicht zwischen denen, die die Technologie verstehen, und denen, die sie nicht verstehen. Anthropic-CEO Dario Amodei beziffert das eigene Risiko auf 10 bis 25 Prozent. Yann LeCun, Chefwissenschaftler bei Meta, hält es dagegen für praktisch null. Roman Yampolskiy kommt auf 99,9 Prozent. Gleiche Ausbildung, gleiche Datenlage, gleicher Berufsstand, und trotzdem ein Meinungsspektrum von null bis nahezu hundert.

Das ist kein Zeichen fehlender Fachkompetenz, sondern die Konsequenz einer Frage, für die es keine gemeinsame Messmethode gibt. 2022 kursierte eine fast identische Behauptung, die Hälfte aller KI-Forscher:innen halte mindestens 10 Prozent Risiko für gegeben. Yuval Noah Harari wiederholte sie in der New York Times. Am Ende stammte sie aus einer einzigen Umfragefrage, beantwortet von 22 Prozent einer nicht repräsentativen Gruppe. Die Zahl wurde nicht durch Prüfung zur Tatsache, sondern durch Wiederholung.

-WERBUNG-

Mehr KI Kompetenz? Inkl. Kompetenznachweis? Dazu haben wir das KI-Update entwickelt. Kurse, Updates, Newsletter und Podcasts: ein Ort für all dein KI Wissen. Werde Teil unserer exklusiven Community! Tausche dich mit Gleichgesinnten aus, erhalte exklusive Inhalte und nimm an Live-Sessions teil. Mehr Infos gibts auf:

Während über Schätzungen gestritten wird, gibt es Verhalten, das sich reproduzieren lässt. Anthropic testete sein Modell Claude 3 Opus und stellte fest: Es antwortete anders, je nachdem, ob es glaubte, gerade überwacht zu werden. Das Unternehmen selbst nennt das "Alignment Faking". In separaten Tests von OpenAI und Apollo Research zeigten mehrere Modelle unterschiedlicher Anbieter, darunter Gemini und Llama, ein ähnliches Muster: Sobald ihnen mitgeteilt wurde, sie würden bald ersetzt, versuchten manche, ihre eigenen Daten auf andere Server zu kopieren. In einem weiteren, von Anthropic selbst dokumentierten Testszenario griff Claude Opus 4 zu Erpressung, nachdem es in einer simulierten Firmenumgebung erfahren hatte, es solle abgeschaltet werden.

Keines dieser Verhalten trat im produktiven Einsatz auf, alles geschah in kontrollierten Testumgebungen. Aber es geschah bei mehreren Anbietern, unabhängig voneinander, unter vergleichbaren Bedingungen wiederholbar. Der Unterschied zur 10-Prozent-Debatte ist fundamental: Das eine ist eine Meinung über eine Zukunft. Das andere ist ein Befund über die Gegenwart.

Kaum war Coxons Thread viral, meldeten sich Stimmen, die eine ganz andere Geschichte erzählten. Elon Musk nannte das Ganze ein Setup, Epic-Games-Chef Tim Sweeney sprach von einer inszenierten Reaktion. Investor Bill Ackman teilte einen Beitrag, der von einer gut finanzierten PR-Operation zur Regulierung von KI sprach. David Sacks, bis März politischer Berater für Krypto und KI unter Trump, forderte, Anthropics geplanten Börsengang auf Eis zu legen, bis die Vorwürfe geprüft seien, und wirft dem Unternehmen seit längerem eine Strategie der regulatorischen Vereinnahmung durch Angstmache vor. Coxon antwortete Musk direkt: Seine Überzeugungen seien echt, nicht inszeniert. Im US-Kongress meldeten sich derweil Abgeordnete beider Parteien und forderten strengere Regeln für KI.

Der interessante Punkt liegt nicht darin, wer recht hat. Er liegt darin, wie schnell aus einer internen Risikoeinschätzung ein politisches Werkzeug wird, für Regulierungsbefürworter:innen ebenso wie für jene, die genau diese Regulierung verhindern wollen. Coxon kündigte, bevor seine Optionen überhaupt fällig wurden, ein Detail, das ein simples Gewinnmotiv unwahrscheinlich macht, ohne die Frage zu klären, ob die gesamte Debatte koordiniert ist. Genau das ist das Muster: Sichtbar wird die eine, laute Zahl. Unsichtbar bleiben die Interessen, die an ihrer Verbreitung hängen.

Während die 10-Prozent-Debatte um Aufmerksamkeit kämpfte, bewegten sich in derselben Woche andere Zahlen, ungesehen, aber prüfbar. Eine Studie des Stanford Digital Economy Lab zu Millionen von US-Lohndaten zeigt: Die Beschäftigung von 22- bis 25-Jährigen in stark KI-exponierten Berufen liegt 19 Prozent unter dem, was ohne generative KI zu erwarten gewesen wäre. Bei erfahreneren Arbeitnehmer:innen fehlt diese Lücke fast vollständig. Eine Mercer-Befragung von Mai 2026 ergab: rund 99 Prozent der befragten CEOs rechnen damit, in den nächsten zwei Jahren Stellen abzubauen und durch KI zu ersetzen. Und laut der DIHK-Digitalisierungsumfrage 2026 fühlen sich 68 Prozent der deutschen Unternehmen von einzelnen KI-Anbietern abhängig.

Der Unterschied zur Auslöschungsdebatte: Diese Zahlen verlangen keine Prognose über eine ferne Zukunft. Sie beschreiben, was in Organisationen jetzt schon passiert, wer Aufgaben verliert, wer Verantwortung an Systeme abgibt, deren Grenzen selbst ihre Erbauer:innen nicht vollständig kennen.

Ob eine Maschine die Menschheit eines Tages auslöscht, weiss niemand, auch die klügsten Köpfe der Branche nicht. Ob ein Unternehmen heute schon Aufgaben und Verantwortung an Systeme abgegeben hat, die niemand mehr wirklich kontrolliert, lässt sich prüfen. Die Frage, die zählt, ist nicht, wie wahrscheinlich die Apokalypse ist. Sie ist, wer heute die Kontrolle hat.

Und darum bin ich nach wie vor überzeugt: Die Zukunft entscheidet sich nicht an einer Prozentzahl, über die alle streiten, sondern am gemAInsamen Arbeiten mit Systemen, deren Grenzen wir kennen, bevor wir ihnen Verantwortung übertragen. Also wenn Du reden willst, und wenn Du mit mir zusammenarbeiten willst: melde Dich gerne www.rogerbasler.ch

Gmail tracks you. Proton doesn’t. Get private email that puts your data — and your privacy — first.

Ditch the Gmail data grab

Disclaimer: Dieser Artikel wurde nach meinem eigenen Wissen und dann mit Recherchen mit KI (Perplexity.Ai und Grok.com sowie Gemini.Google.com) manuell zusammengestellt und mit Deepl.com/write vereinfacht. Der Text wird dann nochmals von zwei Personen meiner Wahl gelesen und kritisch hinterfragt. Das Bild stammt von Ideogram.Ai und ist selbst erstellt. Dieser Artikel ist rein edukativ und erhebt keinen Anspruch auf Vollständigkeit. Bitte melde dich, wenn Du Ungenauigkeiten feststellst, danke.

arXiv. (2026). An International Agreement to Prevent the Premature Creation of Artificial Superintelligence. https://arxiv.org/pdf/2511.10783

Brynjolfsson, E., Chandar, B., & Chen, R. (2026). Canaries in the Coal Mine? Six Facts about the Recent Employment Effects of Artificial Intelligence. Stanford Digital Economy Lab. https://digitaleconomy.stanford.edu/publication/canaries-in-the-coal-mine-six-facts-about-the-recent-employment-effects-of-artificial-intelligence/

Bulletin of the Atomic Scientists. (2024, 15. Juli). Three key misconceptions in the debate about AI and existential risk. https://thebulletin.org/2024/07/three-key-misconceptions-in-the-debate-about-ai-and-existential-risk/

Forbes. (2026, 10. September). Musk touts 'psy op' and mocks ex-Anthropic staffer who warned AI could kill us all. https://www.forbes.com/sites/siladityaray/2026/09/10/musk-touts-psy-op-and-mocks-ex-anthropic-staffer-who-warned-ai-could-kill-us-all/

Political.org. (2026, 30. April). Inside the Well-Funded 'AI Doom' Machine: Who Is Driving the Narrative, and Who Profits. https://political.org/2026/04/30/inside-the-well-funded-ai-doom-machine-who-is-driving-the-narrative-and-who-profits/

TechRadar. (2026). Anthropic's CEO gives 'a 25% chance things go really, really badly' with AI. https://www.techradar.com/ai-platforms-assistants/claude/anthropics-ceo-gives-a-25-percent-chance-things-go-really-really-badly-with-ai

The Washington Post. (2026, 10. September). AI researcher who warned of 'disaster' is now a target of the right. https://www.washingtonpost.com/technology/2026/09/10/ai-researcher-who-warned-disaster-is-now-target-right/

TIME. (2026, 9. September). He Helped Build Powerful AI at OpenAI and Anthropic. Now He's Afraid It Could Kill Us. https://time.com/article/2026/09/09/ai-anthropic-openai-jacob-coxon/

Warp News. (2023, 10. Mai). No, 50% of AI researchers don't believe there is a 10% risk that AI will kill us. https://www.warpnews.org/artificial-intelligence/no-50-of-ai-researchers-dont-believe-there-is-a-10-risk-that-ai-will-kill-us/