TLDR: Wir stehen am Kottbusser Tor, Berlin, Spätsommer 2026. Die Polizei installiert dreissig Kameras, die Bewegungen in Echtzeit analysieren, ohne Vorwarnung an die Anwohner:innen. Ähnliche Systeme laufen in Mannheim seit 2018 und in Hamburg seit 2023. Noch ist das keine KI Gesichtserkennung, deshalb greift der EU AI Act gar nicht. Aber Baden-Württemberg plant, genau das als Nächstes einzuführen. Das ist die eigentliche Geschichte hinter 25 Jahren KI-Sicherheitspolitik: KI hat keine neue Sicherheit erfunden. Sie hat die Reichweite der alten Sicherheitslogik vervielfacht, oft in Bereichen, die noch kein Gesetz richtig erfasst.

Stell dir die Szene vor. Kottbusser Tor, Berlin, ein Sonntagmorgen im Spätsommer 2026. Ohne Vorankündigung montieren Arbeiter Kameras rund um den Platz, etwa dreissig Stück. Anwohner:innen und Ladenbesitzer:innen erfahren erst dabei, was passiert.

Die Kameras sind an eine Software des IT-Unternehmens Adesso angeschlossen, entwickelt gemeinsam mit dem Fraunhofer-Institut IOSB. Sie soll in Echtzeit erkennen, was Menschen tun. Ein Schlag wird erfasst. Ein Tritt auch. Aber auch Tanzen, oder eine Umarmung, damit das System lernt, harmlose von gefährlichen Bewegungen zu unterscheiden.

Die Betreiber nennen das privatsphäreschonend. Menschen werden dafür in bewegte Strichmännchen umgerechnet, nicht in Gesichter. Nur: Das gewöhnliche Videobild, auf dem Gesichter erkennbar sind, wird trotzdem aufgezeichnet, standardmässig einen Monat lang. Im Alarmfall sieht sich die Polizei das an.

Wichtig dabei: Das ist keine Gesichtserkennung. Das System identifiziert niemanden, es kategorisiert nur Bewegungsmuster. Genau deshalb greift der EU AI Act hier gar nicht. Sein Verbot gilt für biometrische Identifikation, nicht für Verhaltensanalyse. Das Gesetz schaut auf eine enge Ausnahme, während eine viel breitere Überwachungsinfrastruktur daneben wächst.

Kottbusser Tor ist kein Einzelfall. Es ist der vorläufig letzte Schritt einer Entwicklung, die seit 2018 läuft.

In Mannheim testet die Polizei dieselbe Art von Software schon seit sieben Jahren. Mittlerweile sind es 70 Kameras an fünf Standorten, rund um den Hauptbahnhof, den Marktplatz, den Paradeplatz. Ein Problem dabei klingt fast banal: Es gibt zu wenig echte Schlägereien in deutschen Innenstädten, aus denen die KI lernen könnte. Deshalb stellen Polizist:innen Szenen nach, fast zehntausend sollen es werden, gespielte Schläge und Tritte, damit die Software trainiert werden kann.

In Hamburg läuft der Test seit 2023, zuerst am Hansaplatz, seit Herbst 2025 auch am Hachmannplatz beim Hauptbahnhof. Ein Fall wird oft zitiert: Die KI meldete Tritte gegen den Kopf eines Menschen, die kein Passant gemeldet hatte. Genau solche Treffer machen eine Ausweitung politisch schwer zu stoppen. Wer will schon gegen ein System argumentieren, das einmal wirklich geholfen hat?

Und es bleibt nicht bei der Verhaltenserkennung. Der Koalitionsvertrag von Grünen und CDU in Baden-Württemberg sieht vor, in Mannheim zusätzlich biometrische Fernidentifikation einzuführen, also echte Gesichtserkennung obendrauf. Das wäre keine Grauzone mehr. Das wäre genau das, was der EU AI Act im öffentlichen Raum eigentlich verbietet, mit engen Ausnahmen. Der erste ernsthafte Testfall für das Gesetz kommt damit nicht aus einem Krisenszenario. Er kommt aus einer ganz gewöhnlichen Verwaltungsentscheidung: Die Kameras stehen schon, warum nicht auch Gesichter erkennen?

Zurück zum Anfang. Vor 25 Jahren war das Problem nicht zu wenig Daten. Der Untersuchungsbericht zu den Anschlägen sagt das ziemlich deutlich: Die Behörden hatten die Informationen. Sie haben sie nur nicht geteilt.

Der Bericht bringt das auf eine Formel: weg von "need to know", hin zu "need to share". Und er warnt schon damals: Technik ersetzt keine Strukturen und keine Verantwortung.

Danach entstanden neue Netzwerke, sogenannte Fusion Centers. Sie führen Informationen von Bund, Ländern und Gemeinden zusammen. Das amerikanische Rechnungsprüfungsamt GAO bestätigt: Der Informationsaustausch wurde besser. Ob dadurch auch mehr Anschläge verhindert wurden, konnte niemand sauber belegen.

Das ist der erste Punkt, den du dir merken solltest: Mehr Daten und schnellere Treffer sind noch kein Beweis für mehr Sicherheit. KI kam erst später dazu, als Werkzeug, das diese Datenberge durchsucht, verknüpft und priorisiert.

Fangen wir mit dem an, was funktioniert. KI vergleicht Gesichter und Fingerabdrücke schneller als jeder Mensch, das ist der klarste Fall. Sie erkennt Muster in riesigen Textmengen, findet extremistische Inhalte in Bildern und Videos, bevor sie sich verbreiten. Sie warnt vor Anomalien in kritischer Infrastruktur, also in Stromnetzen, Wasserwerken, Bahnsystemen, noch bevor ein Mensch den Zusammenhang sehen würde.

Der grösste Hebel liegt bei der Informationsfusion. Grosse, unterschiedliche Datenbestände lassen sich durchsuchen und verknüpfen, Hinweise werden schneller zusammengeführt. Das Problem: Korrelation beweist keine Absicht. Zwei Dinge, die zusammen auftauchen, sind noch lange kein Beweis für einen Plan.

Bei der Biometrie zeigt sich der Nutzen am deutlichsten. Die NIST-Tests zur Gesichtserkennung liefern sehr hohe Trefferquoten unter guten Bedingungen. Klingt gut. Aber bei Millionen Vergleichen reicht schon eine kleine Fehlerquote, um tausende falsche Treffer zu produzieren. Und die demografischen Unterschiede in der Erkennungsgenauigkeit sind real, nicht nur ein theoretisches Problem.

Bei der Online-Aufklärung geht es um Tempo. Propaganda und Rekrutierungsvideos verbreiten sich schnell, KI erkennt die Muster schneller als jedes menschliche Team. Die Kehrseite: Overblocking. Wer zu aggressiv filtert, erwischt auch legitime politische oder journalistische Inhalte.

Predictive Analytics schätzt Risiken aus vorhandenen Signalen, das hilft bei der Priorisierung knapper Ressourcen. Die UN warnt allerdings: Solche Systeme erzeugen manchmal genau die Muster, die man verhindern will, weil alte Verzerrungen einfach weitergeschrieben werden.

Überwachung heisst: beobachten. Kontrolle heisst: aus der Beobachtung folgen Konsequenzen. Zugang verweigert. Ermittlung eingeleitet. Sanktion verhängt.

KI macht aus dem einen automatisch das andere. Über fünf Mechanismen, die du dir einfach merken kannst:

Die UN-Sonderberichterstattung sagt dazu: Predictive Policing kann die Unschuldsvermutung aushebeln, ohne dass sich rechtlich etwas ändert. Aus Daten wird eine Prognose. Aus der Prognose wird ein Verdacht. Niemand muss eine konkrete Tat nachweisen.

Dazu kommt der Automation Bias. Menschen vertrauen einem KI-Treffer mehr, als er verdient. Bei Terrorabwehr ist das gefährlich, weil die Zahl echter Täter verschwindend klein ist. Ein technisch gutes System m

-WERBUNG-

Mehr KI Kompetenz? Inkl. Kompetenznachweis? Dazu haben wir das KI-Update entwickelt. Kurse, Updates, Newsletter und Podcasts: ein Ort für all dein KI Wissen. Werde Teil unserer exklusiven Community! Tausche dich mit Gleichgesinnten aus, erhalte exklusive Inhalte und nimm an Live-Sessions teil. Mehr Infos gibts auf:

Jede dieser Fähigkeiten hat zwei Gesichter, und der Unterschied liegt nie in der Technik selbst. Datensammlung soll verhindern, dass wichtige Hinweise in Silos verschwinden. Genau dieselbe Sammlung kann sich aber auf Unverdächtige ausweiten, einfach weil es technisch möglich ist.

Gesichtserkennung gleicht Identitäten und Tatortspuren schneller ab. Sie kann aber auch die anonyme Bewegung im öffentlichen Raum beenden, und zwar für alle, nicht nur für Verdächtige. Inhaltsanalyse erkennt Gewaltpropaganda schneller. Sie blockiert manchmal auch legitime politische, journalistische oder satirische Inhalte, einfach weil der Algorithmus den Kontext nicht versteht. Risikobewertung lenkt knappe Ressourcen auf plausible Gefahren. Sie verdächtigt aber auch Menschen aufgrund von Gruppenmerkmalen oder Vergangenheit, ohne dass diese je etwas getan haben.

Automatisierung verkürzt die Reaktionszeit und entlastet Fachpersonen. Gleichzeitig verteilt sich die Verantwortung hinter Modellen, Lieferanten und Geheimhaltung, bis am Ende niemand mehr klar dafür geradesteht. Und Datenweitergabe hilft Behörden, Zusammenhänge über Zuständigkeitsgrenzen hinweg zu erkennen. Der Preis: Die Zweckbindung erodiert, mehr Menschen bekommen Zugriff, die Missbrauchsfläche wächst.

Der gefährlichste Übergang: von der gezielten Ermittlung zur anlasslosen Analyse. Wenn alle beobachtet werden, um wenige Gefährder zu finden, wird aus der Ausnahme eine Dauereinrichtung. Und die verschwindet nach der Krise selten wieder. Sie sucht sich ein neues Aufgabengebiet.

Genau das ist mit den amerikanischen Fusion Centers passiert. Gedacht für Terrorabwehr. Genutzt für ganz normale Kriminalität. Das GAO bestätigt die Ausweitung, Bürgerrechtsorganisationen kritisieren die fehlende Kontrolle.

Gut belegt: Informationsaustausch und Gesichtserkennung sind seit 2001 deutlich besser geworden. Genauso gut belegt: die Fehlerquoten, die Unterschiede zwischen Bevölkerungsgruppen, die Risiken für Privatsphäre und Meinungsfreiheit.

Schlecht belegt: die Behauptung, flächendeckende KI-Überwachung verhindere Terror wirksamer als gezielte Ermittlung, menschliche Quellen und internationale Zusammenarbeit. Sogar die UN sagt: KI allein löst das Problem nicht. Es braucht Prävention an der Wurzel.

Die richtige Antwort ist deshalb nie ein einfaches Ja oder Nein zu "KI funktioniert". Es kommt auf den Kontext an, auf die Datenqualität, auf die menschliche Prüfung.

Und nochmals: Der EU AI Act verbietet Echtzeit-Gesichtserkennung im öffentlichen Raum für die Polizei, grundsätzlich. Es gibt Ausnahmen, etwa bei einer konkreten Terrorgefahr. Dafür braucht es eigentlich eine gerichtliche Bewilligung, eine zeitliche und örtliche Begrenzung, eine Folgenabschätzung. Seit dem 2. August 2026 gilt das Gesetz vollständig.

Nur: Ein Grossteil dessen, was in Berlin, Mannheim und Hamburg gerade passiert, fällt gar nicht unter dieses Verbot. Verhaltenserkennung ist keine biometrische Identifikation. Das Gesetz regelt die enge Ausnahme sehr genau und lässt die viel breitere Praxis daneben unberührt. Erst wenn Baden-Württemberg wie geplant echte Gesichtserkennung dazuschaltet, wird der EU AI Act überhaupt relevant. Dann zeigt sich, wie ernst die Ausnahmeregeln wirklich genommen werden.

Die Schweiz geht bislang einen vorsichtigeren Weg. Das Projekt AFIS2026 von fedpol will Tatortbilder nachträglich mit bereits gespeicherten Bildern abgleichen. Kein Echtzeit-Scan im öffentlichen Raum, dafür fehlt schlicht die gesetzliche Grundlage. Mögliche Treffer prüft immer noch ein Mensch. Die Einführung ist mittlerweile auf das erste Quartal 2027 verschoben.

Der EDÖB bleibt trotzdem wachsam. Er warnt: Breite Gesichtserkennung würde aus der Regel "du kannst dich anonym bewegen" die Ausnahme machen. Ein Pilotprojekt am Flughafen Zürich zur Gesichtserkennung bei der Bordkarten-Kontrolle hat er bereits beanstandet, mangels rechtlicher Grundlage.

Der Europäische Gerichtshof für Menschenrechte verlangt bei Kommunikationsüberwachung genau das: eine unabhängige Bewilligung am Anfang, klare Grenzen, eine unabhängige Kontrolle am Ende. Das gilt nicht nur für Geheimdienste. Das gilt für jedes System, das Menschen bewertet.

25 Jahre nach 9/11 ist die Frage nicht mehr Sicherheit oder Freiheit. Die Frage ist: gezielte Sicherheit oder bequeme Massenüberwachung.

KI ist das eine, wenn sie ein konkretes Problem löst, wenig Daten braucht und ein Mensch am Ende die Verantwortung trägt. Sie wird das andere, sobald "technisch möglich" als Rechtfertigung reicht und niemand mehr widersprechen kann.

Am Kottbusser Tor laufen die Kameras weiter. In Mannheim werden gerade Schlägereien nachgestellt, damit eine Software besser lernt. Und in Baden-Württemberg steht die nächste Ausbaustufe schon im Koalitionsvertrag. Das ist die eigentliche Lehre aus 25 Jahren: Nicht "sammelt alles". Sondern: versteht, was ihr sammelt, und sorgt dafür, dass es kontrolliert bleibt.

Und darum bin ich nach wie vor überzeugt: Die Zukunft gehört nicht mehr dem Tippen und Klicken, sondern dem gemAInsamen und kritischen arbeiten mit intelligenten Systemen. Genau deshalb müssen wir jetzt klären, wer diese Systeme kontrolliert, bevor sie uns kontrollieren. Also wenn Du reden willst, und wenn Du mit mir zusammenarbeiten willst: melde Dich gerne www.rogerbasler.ch

Disclaimer: Dieser Artikel wurde nach meinem eigenen Wissen und dann mit Recherchen mit KI (Perplexity.Ai und Grok.com sowie Gemini.Google.com) manuell zusammengestellt und mit Deepl.com/write vereinfacht. Der Text wird dann nochmals von zwei Personen meiner Wahl gelesen und kritisch hinterfragt. Das Bild stammt von Ideogram.Ai und ist selbst erstellt. Dieser Artikel ist rein edukativ und erhebt keinen Anspruch auf Vollständigkeit. Bitte melde dich, wenn Du Ungenauigkeiten feststellst, danke.

Brennan Center for Justice. (2022). DHS at 20: An agenda for reform - Ending fusion center abuses. https://www.brennancenter.org/media/10625/download/2022_12_DHS_FusionCenters.pdf

Commission on the Intelligence Capabilities of the United States Regarding Weapons of Mass Destruction. (2005). Report to the President. https://georgewbush-whitehouse.archives.gov/wmd/report.html

Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter. (2020). 27. Tätigkeitsbericht 2019/20. https://www.edoeb.admin.ch/dam/de/sd-web/PZPwpBsu-cET/27_Taetigkeitsbericht_2019-2020_DE.pdf

Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter. (2026). 33. Tätigkeitsbericht 2025/2026. https://www.edoeb.admin.ch/dam/de/sd-web/ZgZZm5CLxIFF/33_Tätigkeitsbericht%202025-2026%20DE_Web.pdf

European Court of Human Rights. (o. D.). Terrorism surveillance measures. https://ks.echr.coe.int/documents/d/echr-ks/surveillance-measures

European Commission. (o. D.). AI Act Service Desk - Article 5: Prohibited AI practices. https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-5

European Parliament. (2024). Artificial Intelligence Act: MEPs adopt landmark law. https://www.europarl.europa.eu/news/en/press-room/20240308IPR19015

Europol. (o. D.). AI and policing. https://www.europol.europa.eu/cms/sites/default/files/documents/AI-and-policing.pdf

fedpol. (o. D.). Projekt AFIS2026 mit einem Modul für den Gesichtsbildabgleich. https://www.fedpol.admin.ch/fedpol/de/home/sicherheit/personenidentifikation-neu/gesichtsbildabgleich/afis2026.html

fedpol / Staatssekretariat für Migration. (2026). FAQ - AFIS2026. https://www.sem.admin.ch/dam/fedpol/de/data/sicherheit/personenidentifikation/afis/faq-afis2026.pdf.download.pdf/faq-afis2026-d.pdf

Future of Privacy Forum. (2026). Red lines under the EU AI Act: Restricting real-time remote biometric identification systems for law enforcement purposes. https://fpf.org/blog/red-lines-under-the-eu-ai-act-restricting-real-time-remote-biometric-identification-systems-for-law-enforcement-purposes

National Commission on Terrorist Attacks Upon the United States. (2004). The 9/11 Commission Report. https://www.govinfo.gov/content/pkg/GPO-911REPORT/pdf/GPO-911REPORT.pdf

National Institute of Standards and Technology. (2021). Face Recognition Vendor Test (FRVT) Part 7: Identification for paperless travel and immigration (NIST IR 8381). https://nvlpubs.nist.gov/nistpubs/ir/2021/NIST.IR.8381.pdf

National Institute of Standards and Technology. (o. D.). Face recognition technology evaluation: Demographic effects. https://pages.nist.gov/frvt/html/frvt_demographics.html

netzpolitik.org. (2025). Verhaltensscanner im Mannheim: Hier wird die Überwachung getestet, die so viele Städte wollen. https://netzpolitik.org/2025/verhaltensscanner-im-mannheim-hier-wird-die-ueberwachung-getestet-die-so-viele-staedte-wollen/

netzpolitik.org. (2026). Verhaltensscanner in Berlin: Jetzt beginnt die automatisierte Überwachung. https://netzpolitik.org/2026/verhaltensscanner-in-berlin-jetzt-beginnt-die-automatisierte-ueberwachung/

netzpolitik.org. (2026). Verhaltensscanner in Berlin: Harte Kritik an der KI-Überwachung. https://netzpolitik.org/2026/verhaltensscanner-in-berlin-harte-kritik-an-der-ki-ueberwachung/

netzpolitik.org. (2026). Verhaltenserkennung in Mannheim: 10.000 Filme für ein Hallelujah. https://netzpolitik.org/2026/verhaltenserkennung-in-mannheim-10-000-filme-fuer-ein-hallelujah/

United Nations Office of Counter-Terrorism. (2026). Monitoring, evaluation and learning toolkit to support PCVE and AI practice. https://www.un.org/counterterrorism/sites/default/files/2026-02/PCVE_&_%20AI_Practice_Guide_2026_Web.pdf

UN Special Rapporteur on the Promotion and Protection of Human Rights while Countering Terrorism. (2025). Protecting human rights while countering terrorism through AI. https://www.ohchr.org/sites/default/files/documents/issues/terrorism/sr/un-sr-ct-ai-position-paper-dec-2025.pdf

U.S. Commission on Civil Rights. (2024). Civil rights implications of facial recognition technology. https://www.usccr.gov/files/2024-09/civil-rights-implications-of-frt_0.pdf

U.S. Government Accountability Office. (2008). Information sharing (GAO-08-637T). https://www.govinfo.gov/content/pkg/GAOREPORTS-GAO-08-637T/pdf/GAOREPORTS-GAO-08-637T.pdf

U.S. Government Accountability Office. (2010). Information sharing: Federal agencies are helping fusion centers build and sustain capabilities and protect privacy, but could better measure results (GAO-10-972). https://www.gao.gov/products/gao-10-972

U.S. Government Accountability Office. (2011). Information sharing: Progress made and challenges remaining in sharing terrorism-related information (GAO-12-144T). https://www.gao.gov/assets/a585712.html