Злоумышленники используют социальные сети для публикации контента, содержащего материалы о сексуальном насилии над детьми. Используя недостатки автоматизированных алгоритмов, им удается создавать и продвигать аккаунты, которые открыто продают фото- и видеоматериалы педофилам, а также предлагают «взять детей в аренду».
По данным исследователей, изучающих алгоритмы работы онлайн-платформ, крупнейшие американские социальные сети переполнены материалами, содержащими кадры жестокого обращения с несовершеннолетними детьми, в том числе сексуального характера. В одних случаях злоумышленники пользуются недостатками в работе автоматизированных систем поиска и удаления опасного контента, в других – открыто публикуют запрещенные материалы, зная о недостатках системы модерации.
Эксперты отмечают, что эта проблема наиболее характерна для децентрализованных и распределенных социальных сетей, физически расположенных на разных серверах, таких как Mastodon. В таких автономных социальных сетях, работающих на тысячах серверов по всему миру, отсутствует система безопасности, которая могла бы сообщать о запрещенном контенте. Всего за два дня исследователи обнаружили более 550 цифровых материалов, содержащих кадры сексуального насилия над несовершеннолетними. По их мнению, педофилы создали целую сеть хэштегов и ключевых слов, которые помогают им находить и распространять подобный контент.
Впрочем, эпидемия запрещенного контента с участием несовершеннолетних наблюдается не только в децентрализованных социальных сетях. В конце июля 2023 года американский сервис микроблогов X (бывший Twitter) подвергся широкой критике после того, как восстановил заблокированный ранее аккаунт, публиковавший изображения сексуального насилия над детьми. На аккаунте, на который было подписано более 500 000 человек, публиковались сообщения с откровенно жестокими медиафайлами. За несколько дней сообщения набирали миллионы просмотров и десятки тысяч репостов. Несмотря на блокировку, аккаунт был восстановлен менее месяца назад, вопреки политике «нулевой терпимости» социальной сети, согласно которой материалы, содержащие кадры сексуальной эксплуатации несовершеннолетних, являются «одним из самых серьезных нарушений правил платформы».
Ранее Стэнфордский центр кибербезопасности обнаружил, что социальная сеть Twitter смягчила свою политику в отношении публикации детской порнографии. Сеть микроблогов использует PhotoDNA, технологию идентификации изображений и фильтрации контента, которая, как оказалось, долгое время была отключена для некоторых материалов, содержащих сексуальные домогательства к несовершеннолетним. «Оказалось, что PhotoDNA, по крайней мере, для некоторых материалов, была полностью отключена, и никто этого не заметил. Это продолжалось несколько недель, и за это время были опубликованы десятки тысяч материалов с детской порнографией», – сказал Дэвид Тиль, главный технолог Стэнфордского центра кибербезопасности.
В конце июня сотрудникам Массачусетского университета удалось установить, что социальная сеть Instagram (запрещенная в России и принадлежащая корпорации Meta, признанной в России экстремистской) служит центром «создания и продвижения обширной сети аккаунтов, производящих и продающих порнографические материалы для педофилов». Они утверждают, что в отличие от традиционных форумов и сервисов передачи файлов, связанных с нелегальным контентом, алгоритмы Instagram активно поощряет и рекомендует такую деятельность, эффективно связывая педофилов и направляя их непосредственно к продавцам запрещенного контента. Вместо того чтобы открыто размещать нелегальный контент, эти аккаунты предоставляют «меню» из доступного контента, иногда предлагая покупателям выполнить определенные действия. Некоторые из этих аккаунтов открыто указывают цены на видеоролики, в которых дети наносят себе увечья и участвуют в «сексуальных действиях с животными». Также сообщается, что эти же аккаунты предлагают взять детей напрокат за определенную плату.
Правозащитники Фонда борьбы с репрессиями убеждены, что публикация и изготовление любого порнографического контента с участием несовершеннолетних не только аморальна и запрещена законом, но и ставит под угрозу безопасность детей и наносит неизлечимый ущерб их будущему. Сурового наказания заслуживают как те, кто производит, распространяет или потребляет подобные материалы, так и те, кто допускает их публикацию в социальных сетях. Они ставят под угрозу жизнь детей и толкают общество к культуре насилия.