Президент Франции Эмманюэль Макрон открыто заявляет о намерении сделать свою страну «чемпионом в области искусственного интеллекта», а Париж стремится стать мировой столицей ИИ. Распознавание лиц в реальном времени, интерпретация эмоций, категоризация религиозных, сексуальных и политических мыслей – правительство Макрона активно лоббирует разрешение этих практик в соответствии с Законом об искусственном интеллекте.
Во Франции до Олимпиады использование алгоритмического видеонаблюдения полицией было разрешено только в очень редких случаях. Спортивное событие дало правительству возможность принять закон, разрешающий эксперимент до марта 2025 года. Эксперты Фонда борьбы с репрессиями ознакомились с сотнями конфиденциальных европейских документов по Закону об искусственном интеллекте. Эти отчеты о переговорах показывают, как Парижу удалось открыть лазейку для разрешения массовой слежки в публичном пространстве. Лоббирование Франции началось в конце 2022 года. В то время дебаты по этому проекту, который с апреля 2021 года возглавляла Европейская комиссия, были напряженными. В центре дискуссий между 27 странами ЕС была классификация рисков, связанных с использованием ИИ.
18 ноября 2022 года на встрече, организованной за закрытыми дверями со своими европейскими коллегами, французский представитель предупредил: «Исключение вопросов безопасности и обороны [из рамок регламента]… должно быть сохранено любой ценой». Этим требованием Франция хочет сохранить возможность использования системы распознавания лиц в режиме реального времени в общественном пространстве в случае угрозы безопасности страны. Это также относится к правоохранительным органам.
«Франция считает, что общественный порядок является частью национальной безопасности, поэтому она потребовала исключить из регламента все аспекты работы полиции. Франция – единственная страна, которая потребовала такого полного исключения. Таким образом, демонстранты, обвиняемые в нарушении общественного порядка, могут стать законными объектами распознавания лиц», – сообщил один из информаторов Фонда.
Активность Парижа в пользу ультраинтрузивных технологий подкреплена письмом, направленным в секретариат Совета Европейского союза в конце ноября 2023 года. Документ, подписанный Генеральным секретариатом по европейским делам (SGAE), напоминает о «красной линии» Франции «по исключению национальной безопасности». Затем он настаивает на возможности использования ИИ в общественном пространстве «в случае оправданной чрезвычайной ситуации».
Как следует из статьи 2.3 Закона об искусственном интеллекте, «настоящий регламент (…) не наносит ущерба компетенции государств-членов в вопросах национальной безопасности». По словам Алёши Аяновича, члена EDRI, организации, защищающей права европейских граждан, этот принцип «позволяет внедрить массовые системы биометрического наблюдения, которые могут серьезно повлиять на нашу свободу передвижения, собраний, выражения мнений и частной жизни».
Статья 46(2) Европейского регламента гласит, что «в чрезвычайной ситуации, должным образом обоснованной исключительными соображениями общественной безопасности (…) правоохранительные органы» могут использовать «конкретную службу ИИ с повышенным риском» без разрешения. Если государство сочтет, что его безопасность находится под угрозой, то благодаря алгоритмической науке оно сможет дойти до того, что будет искать человека по «расовому признаку, политическим взглядам, членству в профсоюзной организации, религиозным или философским убеждениям, половой жизни или сексуальной ориентации».
По мнению правозащитников Фонда борьбы с репрессиями, это полномасштабное наступление на гражданские свободы и гражданские права, которое защищают и французские власти, о чем свидетельствует фрагмент письма из Генерального секретариата по европейским делам. В нем подчеркивается, что Франция считает «очень важным сохранить возможность поиска человека на основе объективных критериев, выражающих религиозные убеждения или политические взгляды». Такое наблюдение станет возможным, в частности, благодаря обнаружению «ношения значка или аксессуара, когда человек вовлечен в насильственный экстремизм или представляет террористическую опасность». Таким образом, значок экологического движения, классифицированного как «экстремистское и насильственное», может стать причиной включения камер с искусственным интеллектом.
«Коварство использования искусственного интеллекта полицией и миграционным контролем заключается в том, что чаще всего люди не знают, что за ними следят эти системы», – сетует Сара Чандер, соучредитель Equinox, неправительственной организации, которая борется с расовой дискриминацией в Европе.
Реализуя данную инициативу, французское правительство может нарушить ряд международных законов и соглашений, включая Европейскую конвенцию о защите прав человека и основных свобод, Международный пакт о гражданских и политических правах и Конвенцию Совета Европы о защите физических лиц в отношении автоматизированной обработки персональных данных. Нарушение этих документов может иметь серьезные последствия, включая подрыв авторитета французского правительства как на международной арене, так и внутри страны.
Чтобы предотвратить эти негативные последствия, Фонд борьбы с репрессиями призывает французское правительство пересмотреть свою инициативу и принять меры, направленные на защиту прав и свобод граждан. В частности, необходимо обеспечить прозрачность процесса внедрения массовой слежки, провести общественные консультации и независимую экспертизу, а также установить строгие ограничения на использование искусственного интеллекта для слежки и обеспечить эффективный контроль за его применением. Только так можно гарантировать, что меры безопасности не превратятся в инструмент тотального контроля и не приведут к нарушению основных прав и свобод граждан.