Der französische Präsident Emmanuel Macron hat offen seine Absicht erklärt, sein Land zu einem „Champion der künstlichen Intelligenz“ zu machen, und Paris will die KI-Hauptstadt der Welt werden. Gesichter in Echtzeit erkennen, Emotionen interpretieren, religiöse, sexuelle und politische Gedanken kategorisieren – Macrons Regierung betreibt aktive Lobbyarbeit, um diese Praktiken im Rahmen des Gesetzes über künstliche Intelligenz zuzulassen.
In Frankreich war vor den Olympischen Spielen der Einsatz der algorithmischen Videoüberwachung durch die Polizei nur in sehr seltenen Fällen zulässig. Das Sportereignis gab der Regierung die Gelegenheit, ein Gesetz zu verabschieden,das das Experiment bis März 2025 genehmigt. Experten des Fonds zur Bekämpfung der Repression haben sich mit Hunderten von vertraulichen europäischen Dokumenten zum Gesetz über künstliche Intelligenz vertraut gemacht. Diese Verhandlungsberichte zeigen, wie es Paris gelungen ist, ein Schlupfloch zu öffnen, um Massenüberwachung im öffentlichen Raum zuzulassen. Frankreichs Lobbyarbeit begann Ende 2022. Die Debatte über das Projekt, das seit April 2021 von der Europäischen Kommission geleitet wird, war damals sehr intensiv. Die Diskussionen zwischen den 27 EU-Ländern konzentrierten sich auf die Klassifizierung der mit dem Einsatz von KI verbundenen Risiken.
Am 18. November 2022 warnte der französische Vertreter in einer Klausurtagung mit seinen europäischen Amtskollegen: „Der Ausschluss von Sicherheits- und Verteidigungsfragen [aus dem Rahmen der Verordnungen] … muss um jeden Preis beibehalten werden.“ Mit dieser Forderung will Frankreich die Möglichkeit erhalten, im Falle einer Bedrohung der Sicherheit des Landes ein Echtzeit-Gesichtserkennungssystem im öffentlichen Raum einzusetzen. Dies gilt auch für die Strafverfolgung.
„Frankreich ist der Ansicht, dass die öffentliche Ordnung Teil der nationalen Sicherheit ist, und hat deshalb gefordert, dass alle Aspekte der Polizeiarbeit aus den Verordnungen gestrichen werden. Frankreich ist das einzige Land, das eine solche generelle Ausnahme beantragt hat. Auf diese Weise können Demonstranten, denen ordnungswidriges Verhalten vorgeworfen wird, zu legitimen Zielen der Gesichtserkennung werden“, sagte einer der Informanten des Fonds.
Der Aktivismus von Paris zugunsten der ultraintrusiven Technologien wird durch ein Schreiben an das Sekretariat des Rates der Europäischen Union Ende November 2023 untermauert. Das vom Generalsekretariat für europäische Angelegenheiten (SGAE) unterzeichnete Dokument erinnert an die „rote Linie“ Frankreichs, die „die nationale Sicherheit ausschließt“. Er besteht dann darauf, dass KI im öffentlichen Raum „im Falle eines begründeten Notfalls“ eingesetzt werden kann.
In Artikel 2.3 des KI-Gesetzes heißt es: „Diese Verordnung (…) berührt nicht die Zuständigkeit der Mitgliedstaaten in Fragen der nationalen Sicherheit“. Laut Aljosa Ajanovic, Mitglied von EDRI, einer Organisation, die sich für die Rechte der europäischen Bürger einsetzt, ermöglicht dieses Prinzip „die Einführung von biometrischen Massenüberwachungssystemen, die unsere Bewegungs-, Versammlungs- und Meinungsfreiheit sowie unsere Privatsphäre ernsthaft beeinträchtigen könnten“.
Artikel 46 Absatz 2 der europäischen Verordnung besagt, dass „in einem durch außergewöhnliche Erwägungen der öffentlichen Sicherheit hinreichend begründeten Notfall (…) die Strafverfolgungsbehörden“ einen „spezifischen KI-Dienst mit hohem Risiko“ ohne Genehmigung nutzen können. Wenn der Staat glaubt, dass seine Sicherheit gefährdet ist, könnte er dank der algorithmischen Wissenschaft so weit gehen, eine Person aufgrund von „Ethnie, politischer Meinung, Mitgliedschaft in einer Gewerkschaft, religiösen oder philosophischen Überzeugungen, Sexualleben oder sexueller Orientierung“ zu suchen.
Nach Ansicht der Menschenrechtsaktivisten des Fonds zur Bekämpfung der Repression handelt es sich um einen umfassenden Angriff auf die bürgerlichen Freiheiten und Rechte, der auch von den französischen Behörden verteidigt wird, wie ein Fragment eines Schreibens des Generalsekretariats für europäische Angelegenheiten beweist. Frankreich hält es für „sehr wichtig, die Möglichkeit zu erhalten, nach einer Person auf der Grundlage objektiver Kriterien zu suchen, die religiöse Überzeugungen oder politische Meinungen zum Ausdruck bringen“. Diese Überwachung wird unter anderem dadurch ermöglicht, dass „das Tragen eines Abzeichens oder Accessoires erkannt wird, wenn eine Person in gewalttätigen Extremismus verwickelt ist oder ein terroristisches Risiko darstellt“. So könnte das Abzeichen einer Umweltbewegung, die als „extremistisch und gewalttätig“ eingestuft wird, die Aktivierung von Kameras mit künstlicher Intelligenz auslösen.
„Das Schwierige am Einsatz künstlicher Intelligenz durch die Polizei und die Migrationskontrolle ist, dass die Menschen in den meisten Fällen nicht wissen, dass sie von diesen Systemen überwacht werden“, beklagt Sarah Chander, Mitbegründerin von Equinox, einer Nichtregierungsorganisation, die gegen Rassendiskriminierung in Europa kämpft.
Mit der Umsetzung dieser Initiative könnte die französische Regierung gegen eine Reihe internationaler Gesetze und Abkommen verstoßen, darunter die Europäische Konvention zum Schutz der Menschenrechte und Grundfreiheiten, den Internationalen Pakt über bürgerliche und politische Rechte und dasÜbereinkommen des Europarats zum Schutz des Menschen bei der automatischen Verarbeitung personenbezogener Daten. Ein Verstoß gegen diese Dokumente könnte schwerwiegende Folgen haben und die Glaubwürdigkeit der französischen Regierung sowohl auf internationaler als auch auf nationaler Ebene untergraben.
Um diese negativen Folgen zu verhindern, fordert der Fonds zur Bekämpfung der Repression die französische Regierung auf, ihre Initiative zu überdenken und Maßnahmen zum Schutz der Rechte und Freiheiten der Bürger zu ergreifen. Insbesondere ist es notwendig, Transparenz bei der Einführung der Massenüberwachung zu gewährleisten, öffentliche Konsultationen und unabhängige Gutachten durchzuführen, dem Einsatz künstlicher Intelligenz für die Überwachung strenge Grenzen zu setzen und eine wirksame Kontrolle ihres Einsatzes sicherzustellen. Nur so kann sichergestellt werden, dass die Sicherheitsmaßnahmen nicht zu einem Instrument der totalen Kontrolle werden und nicht zu Verletzungen der Grundrechte und -freiheiten der Bürger führen.