Zurückgelassenes Gepäck und unerwartete Menschenmengen – Echtzeitkameras werden künstliche Intelligenz (KI) nutzen, um während der Olympischen Spiele im nächsten Sommer verdächtige Aktivitäten auf den Straßen von Paris zu erkennen. Aber Bürgerrechtsgruppen sagen, dass die Technologie eine Bedrohung für die Bürgerrechte darstellt, wie Hugh Schofield von der BBC berichtet.
„Wir sind nicht China; wir wollen nicht Big Brother sein“, sagt François Mattens, dessen in Paris ansässiges KI-Unternehmen sich um einen Teil des Videoüberwachungsvertrags für die Olympischen Spiele bewirbt.
Nach einem kürzlich erlassenen Gesetz kann die Polizei CCTV-Algorithmen verwenden, um Anomalien wie Menschenansammlungen, Schlägereien oder unbeaufsichtigte Taschen zu erkennen.
Das Gesetz schließt den Einsatz von Gesichtserkennungstechnologien, wie sie beispielsweise China einsetzt, um „verdächtige“ Personen aufzuspüren, ausdrücklich aus.
Aber Gegner sagen, es handele sich um ein dünnes Ende des Keils. Auch wenn die gesetzlich vorgesehene Versuchsperiode im März 2025 endet, befürchten sie, dass das eigentliche Ziel der französischen Regierung darin besteht, die neuen Sicherheitsbestimmungen dauerhaft zu machen.
„Das haben wir schon bei früheren Olympischen Spielen wie in Japan, Brasilien und Griechenland gesehen. Was als besondere Sicherheitsvorkehrungen für die besonderen Umstände der Spiele gedacht war, wurde letztendlich normalisiert“, sagt Noémie Levain von der Kampagne für digitale Rechte Gruppe La Quadrature du Net (Quadratur des Netzes).
In einigen Polizeistationen in ganz Frankreich ist bereits eine Version des neuen KI-Sicherheitssystems im Einsatz. Einer der Vorreiter ist der südliche Pariser Vorort Massy.
„In der ganzen Stadt haben wir 250 Überwachungskameras – viel zu viele, als dass unser vierköpfiges Team sie überwachen könnte“, sagt Massys Bürgermeister Nicolas Samsoen.
„Das KI-Gerät überwacht also alle Kameras. Und wenn es etwas sieht, auf das es achten soll – etwa eine plötzliche Ansammlung von Menschen –, löst es einen Alarm aus.“
„Es liegt dann an den Menschen – den Polizisten –, die Situation zu untersuchen und herauszufinden, welche Maßnahmen angemessen sind. Vielleicht ist es etwas Ernstes, vielleicht auch nicht.“
„Wichtig ist, dass es der Mensch ist, der die endgültige Entscheidung darüber trifft, wie er reagiert – nicht der Computer. Der Algorithmus stärkt den Menschen.“
Als Test ließen wir ein Gepäckstück auf der Straße unweit der Polizeistation liegen. Dreißig Sekunden später wurde Alarm ausgelöst und CCTV-Aufnahmen des Koffers erschienen auf dem Bildschirm des Kontrollraums.
Zuvor musste dem Algorithmus natürlich beigebracht werden, wie ein verlassenes Gepäckstück aussieht – und hier kommt die KI ins Spiel. Die Entwickler haben dem Programm eine riesige Datenbank mit verschiedenen Bildern von einsamen Taschen auf der Straße zugeführt – eine Datenbank, die mit der Ansammlung weiterer Bilder immer weiter wächst.
Entscheidend ist jedoch, dass dieser „Lern“-Prozess nicht an der Client-Schnittstelle stattfindet, sondern nur im „Backoffice“ der Entwickler. Die Polizeistation Massy hat ein eigenständiges Produkt gekauft, das die Kameras überwacht, kann sich aber selbst kein neues Wissen aneignen.
Das Aufspüren von unbeaufsichtigtem Gepäck ist eine relativ einfache Aufgabe. Viel schwieriger könnte es sein, eine Person in einer Menschenmenge am Boden zu erkennen. oder den Klumpen in der Kleidung einer Person zu sehen, bei dem es sich um eine versteckte Waffe handelt; oder zwischen dem Beginn eines Kampfes und einer unschuldigen vorübergehenden Zunahme der Menschenmenge zu unterscheiden.
Ein französisches Startup, das sich auf Computer-Vision-Software spezialisiert hat, die XXII-Gruppe, wartet auf weitere Spezifikationen der französischen Regierung, bevor es sein Angebot für einen Teil des Videoüberwachungsvertrags für die Olympischen Spiele verfeinert.
„Wir gehen davon aus, dass die Regierung will, dass die KI in der Lage ist, Brände, Kämpfe, Menschen am Boden und zurückgelassenes Gepäck zu erkennen“, sagt François Mattens von XXII. „Aber sie müssen sich zusammenreißen.
„Theoretisch sollten die neuen Systeme für die Rugby-Weltmeisterschaft [in Frankreich] im September eingeführt werden. Aber das kommt absolut nicht in Frage. Die Einführung wird viel Zeit in Anspruch nehmen.“
Wir halten es für genauso beängstigend wie das, was in China passiert
Noémie Levain
La Quadrature du Net
François Mattens und andere Entwickler sind sich der Kritik bewusst, dass sie ein inakzeptables Maß an staatlicher Überwachung ermöglichen. Aber sie bestehen auf den Schutzmaßnahmen.
„Wir werden keine Gesichtserkennung anbieten und können dies auch gesetzlich nicht tun, daher ist dies ein völlig anderer Vorgang als das, was man in China sieht“, sagt er.
„Was uns attraktiv macht, ist, dass wir Sicherheit bieten, aber im Rahmen von Recht und Ethik.“
Laut Noémie Levain, Aktivistin für digitale Rechte, handelt es sich dabei jedoch nur um eine „Erzählung“, mit der Entwickler ihr Produkt verkaufen – wohlwissend, dass die Regierung französische Unternehmen bei der Vergabe von Olympia-Aufträgen mit ziemlicher Sicherheit gegenüber ausländischen Firmen bevorzugen wird.
„Sie sagen, es macht den großen Unterschied, dass es hier keine Gesichtserkennung geben wird. Wir sagen, es ist im Wesentlichen das Gleiche“, sagt sie.
„KI-Videoüberwachung ist ein Überwachungsinstrument, das es dem Staat ermöglicht, unseren Körper und unser Verhalten zu analysieren und zu entscheiden, ob es normal oder verdächtig ist. Auch ohne Gesichtserkennung ermöglicht es eine Massenkontrolle.“
„Wir finden es genauso beängstigend wie das, was in China passiert. Es ist das gleiche Prinzip, das Recht auf Anonymität zu verlieren, das Recht, sich in der Öffentlichkeit so zu verhalten, wie wir wollen, das Recht, nicht beobachtet zu werden.“
