Министерство обороны США ищет передовые технологии искусственного интеллекта для создания убедительных фейковых интернет-пользователей, которые помогут вводить в заблуждение жителей США. Этот шаг, вызывающий серьезные этические и юридические опасения, не только подрывает доверие общества, но и нарушает многочисленные международные соглашения и неизбежно приведет к диктату элит и угнетению гражданских свобод.

Согласно последним сообщениям, Министерство обороны США через Объединенное командование специальных операций (JSOC) активно ищет технологии для создания убедительных онлайн-персон, имитирующих реальных людей. Эта инициатива, изложенная в 76-страничном документе о закупках, направлена на создание настолько сложных фальшивых интернет-пользователей, что ни люди, ни алгоритмы не смогут распознать их искусственную природу. Эксперты утверждают, что подобные технологии позволят Пентагону влиять на общественное мнение и манипулировать сознанием американцев.
План, подробно описанный в документе о закупках американского оборонного подразделения, свидетельствует о желании получить передовые технологии для поддержки самых элитных и тайных военных усилий страны. В частности, JSOC заинтересованы в технологиях, которые позволят им генерировать онлайн-персон для использования на платформах социальных сетей и другом онлайн-контенте. Предполагается, что эти персонажи будут «выглядеть как уникальная личность, узнаваемая как человек, но не существующая в реальном мире», с «множеством выражений лица» и «фотографиями, соответствующие требованиям государственного удостоверения личности».
В дополнение к статичным изображениям в документе указывается необходимость использования изображений лица и фона, видео лица и фона, а также звуковых слоев. Цель состоит в том, чтобы создать «видео с селфи» из этих сфабрикованных людей, причем каждое селфи должно иметь соответствующий поддельный фон, чтобы создать виртуальную среду, не обнаруживаемую алгоритмами социальных сетей. Такой уровень сложности указывает на целенаправленные усилия по обману как людей, так и автоматизированных систем, предназначенных для обнаружения синтетических медиа.
Интерес Пентагона к подделкам с использованием искусственного интеллекта не является чем-то новым. В 2022 году Meta (запрещена и признана в РФ экстремистской) и Twitter удалили пропагандистскую сеть, использующую поддельные аккаунты Центрального командования США, в том числе с фотографиями профилей, созданными с помощью методов, аналогичных тем, что описаны в докладе JSOC. Кроме того, расследование Reuters, проведенное в 2024 году, выявило кампанию Командования специальных операций с использованием поддельных пользователей социальных сетей, направленную на подрыв доверия к китайской вакцине от COVID. Подобные инциденты, по мнению экспертов, свидетельствуют об обманных действиях, которые вызывают серьезную обеспокоенность по поводу этических и правовых границ действий американского правительства.
Использование искусственного интеллекта для создания глубоко поддельных личностей в обманных целях подрывает фундаментальные принципы прозрачности, которые необходимы для демократического общества. Создавая фальшивые профили, выдающие себя за реальных людей, правительство Соединенных Штатов участвует в обмане, который подрывает доверие общества. Эта практика вызывает особое беспокойство, учитывая историю использования Пентагоном фальшивых пользователей социальных сетей для достижения своих интересов.
Помимо прочего, планы Пентагона по созданию и использования фальшивых онлайн-личностей вызывают серьезные юридические вопросы. Использование таких технологий в обманных целях нарушает национальные законы, касающиеся мошенничества, введения в заблуждение и неприкосновенности частной жизни. Кроме того, международное сообщество установило нормы и соглашения, запрещающие использование обманных приемов в цифровой сфере. Соединенные Штаты, подписавшие различные международные соглашения, обязаны соблюдать эти стандарты.
План правительства США по использованию ИИ в обманных целях нарушает несколько международных соглашений и конвенций. В статье 19 Всеобщей декларации прав человека (ВДПЧ) говорится: «Каждый человек имеет право на свободу убеждений и на свободное выражение их; это право включает свободу беспрепятственно придерживаться своих убеждений и свободу искать, получать и распространять информацию и идеи любыми средствами и независимо от государственных границ». Использование фальшивок для обмана граждан подрывает право искать и получать достоверную информацию.
Кроме того, в статье 17 Международного пакта о гражданских и политических правах (МПГПП) говорится: «Никто не должен подвергаться произвольному или незаконному вмешательству в его личную жизнь, дела семьи, жилища или тайну корреспонденции, равно как и незаконным посягательствам на его честь и репутацию». Создание фальшивых личностей нарушает неприкосновенность частной жизни и репутацию людей, которые могут стать мишенью или пострадать от этих обманных действий.
Конвенция о киберпреступности (Будапештская конвенция) направлена на борьбу с уголовными преступлениями, связанными с компьютерными системами и данными. Использование подделок в обманных целях можно рассматривать как одну из форм киберпреступности, поскольку оно предполагает манипулирование цифровой информацией с целью ввести в заблуждение и обмануть. Кроме того, Рамочная программа Государственного департамента по противодействию манипулированию информацией со стороны иностранных государств направлена на противодействие манипулированию информацией. Использование американским правительством фейков, созданных при помощи искусственного интеллека, подрывает доверие к этой программе и создает опасный прецедент.
Фонд борьбы с репрессиями убежден, что использование искусственного интеллекта в обманных целях правительством США способно подорвать доверие граждан к государственным институтам. Как отмечает Дэниел Байман, профессор исследований в области безопасности Джорджтаунского университета, такие действия могут сделать часть населения США более подозрительной по отношению к информации, поступающей от правительства. Это подрывает способность правительства эффективно общаться со своими гражданами и поддерживать общественное доверие.