TLDR: ControlAI ist eine 2023 gegründete Kampagnenorganisation, die ein internationales Verbot von Superintelligenz fordert und dafür in den USA, Grossbritannien, Kanada und Deutschland Lobbyarbeit betreibt. Gründer Andrea Miotti ist Politikstratege. Die Finanzierung ist nur teilweise offengelegt, das angestrebte Budget liegt bei 50 Millionen US-Dollar pro Jahr. Was dahinter steckt und warum das wichtig werden könnte.
Die Regeln für KI entstehen nicht im Labor
Welche KI in zehn Jahren gebaut werden darf, entscheidet sich nicht in Forschungslabors. Es entscheidet sich in Parlamentsausschüssen, in Hintergrundgesprächen und in Gesetzesentwürfen. Wer dort präsent ist, prägt die Rahmenbedingungen, unter denen später auch Unternehmen KI einsetzen.
Die Debatte über KI-Regulierung wirkt oft wie ein Streit zwischen Technologiekonzernen und Behörden. Dazwischen hat sich eine dritte Kraft etabliert: Organisationen, die ein bestimmtes Zukunftsszenario in politische Forderungen übersetzen. Sie forschen nicht selbst an Modellen. Sie arbeiten an der Frage, welche Modelle es geben darf.
ControlAI ist ein besonders klares Beispiel dafür. Die Organisation verfolgt ein einziges Ziel und kommuniziert es ohne Umwege: Systeme, die Menschen in praktisch allen Bereichen übertreffen, sollen gar nicht erst entwickelt werden.
Wie aus einem Szenario eine Gesetzesvorlage wird
Der Mechanismus folgt einer einfachen Kette. Am Anfang steht eine Risikoannahme: Wenn eine KI deutlich mächtiger wird als Menschen und niemand ihre Kontrolle garantieren kann, droht im Extremfall das Aussterben der Menschheit. Daraus folgt eine Forderung: Entwicklungsverbot. Und weil ein nationales Verbot leicht durch Entwicklung in einem anderen Land umgangen würde, folgt der dritte Schritt: ein internationales Abkommen.
Diese Logik ist in sich geschlossen. Ihre Überzeugungskraft hängt aber vollständig an der ersten Annahme. Ob ein Kontrollverlust wahrscheinlich ist, wie schnell er eintreten könnte und ob ein Verbot die wirksamste Antwort wäre, ist wissenschaftlich offen. ControlAI behandelt diese Fragen als ausreichend geklärt, um politisch zu handeln.
Bemerkenswert ist die Abgrenzung. Die Organisation fordert kein Verbot generativer KI. Copiloten, Chatbots und spezialisierte Werkzeuge erkennt sie ausdrücklich als nützlich an. Im Visier stehen Superintelligenz und Formen rekursiver Selbstverbesserung, bei denen KI ihre eigene Weiterentwicklung zunehmend selbst übernimmt. Diese Präzision macht die Forderung politisch anschlussfähiger, als ein pauschales Nein es wäre.
-WERBUNG-
Mehr KI Kompetenz? Inkl. Kompetenznachweis? Dazu haben wir das KI-Update entwickelt. Kurse, Updates, Newsletter und Podcasts: ein Ort für all dein KI Wissen. Werde Teil unserer exklusiven Community! Tausche dich mit Gleichgesinnten aus, erhalte exklusive Inhalte und nimm an Live-Sessions teil. Mehr Infos gibts auf:
Wer dahinter steht
Gegründet hat ControlAI im Oktober 2023 Andrea Miotti, der die Organisation bis heute als CEO führt. Sein Werdegang verläuft durch Politik und internationale Beziehungen: Bachelor in Nottingham, Austauschjahr in Hongkong, Chinesisch in Taipeh, ein Doppelmaster in Public Policy an der London School of Economics und der Peking University.
Vor ControlAI leitete er Strategie und Governance beim KI-Sicherheitsunternehmen Conjecture. Aus demselben Umfeld stammen weitere Schlüsselfiguren: Gabriel Alfour, Mitgründer von Conjecture, half bei der Gründung und ist heute Berater. Connor Leahy leitet die US-Aktivitäten. Das zeigt ein gemeinsames berufliches Netzwerk, keine Finanzierung durch Conjecture.
Miottis Stärke liegt in der Übersetzung. Er verwandelt technische Risikoszenarien in parlamentarische Eingaben, Policy-Papiere und Medienauftritte. Das ist eine eigene Kompetenz. Sie ersetzt aber nicht den empirischen Nachweis, dass seine Prognosen zutreffen. Und nein, dieser Beitrag ist weder gesponsert noch politisch motiviert, aber ich finde es spannend, deine Aufmerksamkeit auf gewisse Dinge zu lenken die Dir sonst verborgen bleiben.
Das Geld und die Sichtbarkeit
Warum ist das also spannend? Nun, als Unterstützer öffentlich belegt ist Jaan Tallinn, Gründungsentwickler von Skype und früher Investor bei DeepMind. Ein Betrag oder sein Anteil am Budget ist nicht bekannt. Im deutschen Lobbyregister fehlen für die US-Einheit Angaben zu Finanzierungsquellen, Spenden und Lobbyaufwand, mit der Begründung, dass noch kein Geschäftsjahr abgeschlossen sei. Eine vollständige Geldgeberliste veröffentlicht die Organisation nicht.
Gleichzeitig wirbt ControlAI offen um Grossspenden. In einem Strategiepapier nennt sie ein Jahresbudget von rund 50 Millionen US-Dollar als Ziel und beschreibt Szenarien bis zu einer Milliarde für politische Einflussnahme, Werbung und Mobilisierung. Das sind Wunschzahlen, keine Einnahmen. Die Organisation räumt selbst ein, weniger Mittel zu haben, als sie benötigt.
Hier entsteht ein Spannungsfeld zwischen Forderung und Praxis. Eine Organisation, die mehr Aufsicht und Transparenz bei KI-Entwicklern verlangt, legt ihre eigene Finanzierung nur teilweise offen. Das macht ihre Argumente nicht falsch. Es verändert aber, wie man sie lesen sollte: als Interessenvertretung mit klarer Agenda, nicht als neutrale Prüfstelle und genau darum finde ich das wichtig. Und ja ich weiss, die Politik hinkt hinterher genau darum brauchen wir auch NGO wie zB AlgorithmWatch
Was das für Unternehmen bedeutet
Für den konkreten KI-Einsatz im Unternehmen ändert ControlAI kurzfristig wenig. Ob ein Copilot datenschutzkonform läuft oder ein Prozess zuverlässig automatisiert ist, beantwortet die Organisation nicht. Ihr Thema liegt eine Ebene darüber.
Langfristig wirkt sie trotzdem. Wer die Grenzen dessen definiert, was entwickelt werden darf, beeinflusst auch, welche Modelle in fünf Jahren verfügbar sind, wie Anbieter haften und welche Auflagen auf Anwender:innen durchschlagen. Regulierung entsteht selten aus neutraler Abwägung. Sie entsteht aus dem Zusammenspiel organisierter Interessen, und ControlAI ist eines davon, ebenso wie die Lobbyarbeit der Technologiekonzerne auf der Gegenseite.
Die nützlichste Fähigkeit in dieser Debatte ist deshalb eine unspektakuläre: Aussagen nach ihrer Absicht zu sortieren. Ein Interview erklärt eine Position. Ein Fundraising-Papier zeigt Ambitionen. Ein Registereintrag dokumentiert Pflichten. Keine dieser Quellen beweist für sich, wie gefährlich eine Technologie tatsächlich ist.
Wer über die Zukunft der KI streitet, streitet immer auch darüber, wessen Szenario als realistisch gilt. Das will wohl auch diese Initiative hier mit unter anderem Geoffrey Hinton, Yoshua Bengio und Steve Wozniak.
Am besten machst Du Dir selber ein Bild davon.
Denn ich bin nach wie vor überzeugt: Die Zukunft gehört nicht mehr dem Tippen und Klicken, sondern dem gemAInsamen arbeiten mit intelligenten Systemen. Also wenn Du reden willst, und wenn Du mit mir zusammenarbeiten willst: melde Dich gerne www.rogerbasler.ch
Disclaimer: Dieser Artikel wurde nach meinem eigenen Wissen und dann mit Recherchen mit KI (Perplexity.Ai und Grok.com sowie Gemini.Google.com) manuell zusammengestellt und mit Deepl.com/write vereinfacht. Der Text wird dann nochmals von zwei Personen meiner Wahl gelesen und kritisch hinterfragt. Das Bild stammt von Ideogram.Ai und ist selbst erstellt. Dieser Artikel ist rein edukativ und erhebt keinen Anspruch auf Vollständigkeit. Bitte melde dich, wenn Du Ungenauigkeiten feststellst, danke.
Quellen und weitere Informationen:
ControlAI. (n.d.). About us. https://controlai.org/about
ControlAI. (2025). Superintelligence. https://controlai.com/superintelligence
ControlAI. (2026, 20. April). Prevent ASI plan [Titel aus URL abgeleitet]. https://controlai.org/blog/prevent-asi-plan
Deutscher Bundestag. (2026). Lobbyregister: Eintrag R007795, CONTROL AI US INC. https://www.lobbyregister.bundestag.de/suche/R007795
E-International Relations. (2026, Juni). Interview – Andrea Miotti. https://www.e-ir.org/p/interview-andrea-miotti
Future of Life Institute. (2026, Februar). The case for a global ban on superintelligence with Andrea Miotti [Podcast]. https://podcast.futureoflife.org/the-case-for-a-global-ban-on-superintelligence-with-andrea-miotti/
heise online. (2026, 23. Oktober). KI-Update Deep-Dive: Warum ControlAI ein Verbot von Superintelligenz fordert. https://www.heise.de/news/KI-Update-Deep-Dive-Warum-ControlAI-ein-Verbot-von-Superintelligenz-fordert-11493868.html
Miotti, A. (n.d.). Andrea Miotti [LinkedIn-Profil]. https://www.linkedin.com/in/andrea-miotti
UK Parliament. (2025, Mai). Written evidence submitted by Andrea Miotti [Titel sinngemäss]. https://committees.parliament.uk/writtenevidence/148236/pdf/
WIRED. (2026, 9. September). UK lawmakers are scrambling in response to AI summer of chaos [Titel aus URL abgeleitet]. https://www.wired.com/story/uk-lawmakers-are-scrambling-in-response-to-ai-summer-of-chaos/
