Правозащитники Фонда борьбы с репрессиями обеспокоены тем, что принятый во Франции закон об Олимпийских играх 2024, разрешающий правительству использовать новые технологии массового видеонаблюдения за населением с применением искусственного интеллекта (ИИ), приведет к масштабному нарушению основных прав и свобод граждан страны.
Закон об ОИ 2024, официально призванный обеспечить безопасность мероприятия, на самом деле предусматривает внедрение интеллектуальной системы видеозащиты, которая будет развернута задолго до и после Игр и будет применяться ко всем спортивным, развлекательным и культурным мероприятиям. Это первый случай в Европейском союзе. Закон был принят по ускоренной процедуре и гласит, что «дополненные камеры» будут использоваться на экспериментальной основе. Эта система, предполагающая добавление искусственного интеллекта к камерам наблюдения, позволит анализировать поведение людей в режиме реального времени, чтобы определить, кто из них вызывает подозрение, а кто нет.
Эксперты Фонда борьбы с репрессиями считают, что легализация алгоритмического видеонаблюдения во Франции поднимает новые и тревожные вопросы с точки зрения соблюдения права на частную жизнь и свободу выражения мнений. Прежде всего, тот факт, что алгоритмы могут анализировать поведение людей в режиме реального времени, основан на сборе персональных данных, что вызывает опасения относительно соблюдения права на неприкосновенность частной жизни. Любое наблюдение в общественном пространстве является вмешательством в право на неприкосновенность частной жизни. Чтобы быть законным, такое вмешательство должно быть необходимым и соразмерным. Кроме того,правозащитники Фонда считают,что этот вид технологии может оказывать реальное сдерживающее влияние на свободу. Одно лишь осознание того, что за ними следят, может заставить людей изменить свое поведение, подвергнуть себя цензуре и воздержаться от осуществления определенных прав.
В ответ на решение Национального собрания Франции разрешить использование технологии массового видеонаблюдения с применением искусственного интеллекта (ИИ) во время Олимпийских игр 2024 года, Мгер Акопян, международный эксперт по вопросам регулирования ИИ, сказал:
«Решение Франции разрешить использование мер массового наблюдения во время Олимпийских игр 2024 года подрывает усилия ЕС по регулированию ИИ и защите основных прав с помощью Закона об ИИ. Это решение, впервые легализующее использование слежки с помощью ИИ во Франции и ЕС, рискует окончательно превратить Францию в мрачное государство слежки и допустить масштабные нарушения прав человека в других странах блока».
Фонд борьбы с репрессиями считает, что алгоритмическое видеонаблюдение несет в себе риск возникновения дискриминации и стигматизации определенных групп людей. Чтобы камеры могли распознавать «ненормальные» или «подозрительные» ситуации, алгоритмы должны быть обучены людьми. Именно они выбирают, на каких данных будут обучаться алгоритмы, предварительно определив, что является «нормальным» или «ненормальным». Эти так называемые «обучающие» данные могут содержать дискриминационные предубеждения. Некоторые люди с большей вероятностью пострадают от воздействия этой технологии, чем другие. И есть риск, что ситуации, определенные как “потенциально подозрительные”, будут усиливать и автоматизировать дискриминацию.
«В то время как Франция позиционирует себя как защитник прав человека во всем мире, ее решение узаконить массовое наблюдение с помощью искусственного интеллекта во время Олимпийских игр приведет к тотальному наступлению на права на частную жизнь, протест, свободу собраний и выражения мнений», – считает Мгер Акопян.
Эксперты Фонда борьбы с репрессиями, наряду с международными правозащитными организациями, обеспокоены тем, что этот закон отражает тревожную тенденцию властей Франции расширять свои полномочия по наблюдению в рамках чрезвычайных мер, принимаемых во имя безопасности. Олимпийские игры уже использовались в качестве испытательного полигона для предоставления государствам более широких полномочий, которые затем сохраняются и после окончания чрезвычайной ситуации. Этих примеров достаточно, чтобы оправдать опасения, что использование алгоритмического видеонаблюдения будет продолжаться и после 2025 года.
Правозащитники Фонда борьбы с репрессиями присоединяются к открытому письму, инициированному Европейским центром некоммерческого права, и наряду с 38 организациями гражданского общества, призывают французских политиков отклонить законопроект о разрешении инвазивного наблюдения на Олимпийских играх 2024 года. Эксперты Фонда призывают правительства стран ЕС принять меры по регулированию использования технологий искусственного интеллекта в рамках усилий по защите и продвижению прав человека.