Расследование WSJ: алгоритмы Instagram продвигают педофилов и детскую порнографию
Алгоритмы Instagram активно продвигают сети педофилов, которые заказывают и продают контент с сексуальными надругательствами над детьми в популярном приложении для обмена изображениями Meta.
Совместное расследование The Wall Street Journal и ученых из Стэнфордского университета и Массачусетского университета в Амхерсте показало, в какой степени системы авторекомендаций Instagram «связывают педофилов и подталкивают их к продавцам контента».
Аккаунты, обнаруженные исследователями, рекламируются с использованием откровенных и откровенных хэштегов, таких как #pedowhore, #preteensex и #pedobait. Они предлагают «меню» контента, который пользователи могут приобрести или заказать, включая видео и изображения членовредительства и зоофилии. Когда исследователи создали тестовую учетную запись и просмотрели контент, распространяемый этими сетями, они сразу же получили рекомендации от алгоритмов Instagram для других учетных записей. Как сообщает WSJ: «Следования всего нескольким из этих рекомендаций было достаточно, чтобы заполнить тестовую учетную запись контентом, который сексуализирует детей». Печально известных рекомендаций «рекомендуется для вас» было достаточно, чтобы создать сеть с помощью Instagram.
В ответ на сообщение Meta заявила, что создает внутреннюю целевую группу для решения вопросов, поднятых в ходе расследования. «Эксплуатация детей — это ужасное преступление», — заявили в компании. «Мы постоянно изучаем способы активной защиты от такого поведения».
Meta указала, что только в январе она удалила 490 000 учетных записей, нарушающих ее политику безопасности детей, и что за последние два года она удалила 27 сетей педофилов, но эти же цифры являются показателями того, насколько полезна эта платформа для педофилов. Компания, которая также владеет Facebook и WhatsApp, заявила, что также заблокировала тысячи хэштегов, связанных с сексуализацией детей, и ограничила поиск пользователей по этим терминам.
Алекс Стамос, глава Стэнфордской интернет-обсерватории и бывший глава службы безопасности Meta, заявил WSJ, что компания может и должна сделать больше для решения этой проблемы. «Тот факт, что группа из трех ученых с ограниченным доступом смогла найти такую большую сеть, должен встревожить Мета», — сказал Стамос. «Я надеюсь, что компания реинвестирует в людей-следователей».
Помимо проблем с алгоритмами рекомендаций Instagram, расследование также показало, что методы модерации сайта часто игнорировали или отклоняли сообщения о материалах сексуального насилия над детьми.
WSJ сообщает о многочисленных инцидентах, когда пользователи сообщали о публикациях и аккаунтах с подозрительным содержанием (включая аккаунт, рекламирующий материалы о сексуальном насилии над детьми с заголовком «этот подросток готов принять вас, извращенцы») только для того, чтобы отчет был удален группой проверки Instagram или придет автоматическое сообщение: «Из-за большого количества получаемых нами отчетов наша команда не смогла просмотреть этот пост». Meta сообщила журналу, что не отреагировала на эти отчеты и пересматривает свои внутренние процессы.
В отчете также рассматривались другие платформы, но они оказались менее подходящими для роста таких сетей. По данным WSJ, следователи из Стэнфорда обнаружили «128 учетных записей, предлагающих материалы о сексуальном насилии над детьми в Твиттере, что составляет менее трети от тех, что были найдены в Instagram», несмотря на то, что в Твиттере гораздо меньше пользователей, и что такой контент «похоже, не распространяется». на ТикТок. В отчете говорится, что Snapchat не продвигает такие сети активно, поскольку в основном используется для прямого обмена сообщениями.
Дэвид Тиль, главный технолог Стэнфордской интернет-обсерватории, сообщил журналу, что Instagram не удается найти правильный баланс между рекомендательными системами, предназначенными для поощрения и подключения пользователей, и функциями безопасности, которые отсеивают и удаляют оскорбительный контент. Проблема, которая лежит в основе социальных сетей, таких как Instagram или Facebook, которые, среди прочего, пытаются ограничить взаимодействие, основанное на обмене обычным контентом: на самом деле проще поделиться компрометирующей фотографией, чем ссылкой. Пока не увижу, не поверю.
Благодаря нашему Telegram-каналу вы можете быть в курсе публикации новых статей из журнала «Экономические сценарии».
Статья WSJ «Расследование: алгоритмы Instagram продвигают педофилов и детскую порнографию» взята из Scenari Economici .
Это автоматический перевод публикации, опубликованной в журнале Scenari Economici по адресу https://scenarieconomici.it/inchiesta-wsj-gli-algoritmi-di-instagram-promuovono-i-pedolfili-e-la-pedopornografia/ в Thu, 08 Jun 2023 16:53:29 +0000.