Вторник, 21 мая, 2024

Вогон сегодня

Избранные новости из Галактики

Вогон сегодня
Криптовалюты

Meta запускает инструменты искусственного интеллекта для защиты несовершеннолетних от вымогательства

Вольфрамовый Куб

Недавно компанию «Мета» обвинили в нанесении вреда психическому здоровью подростков, и более 40 штатов подали на нее в суд, заявив, что она «нажилась на боли детей». Американские политики обвинили Мету в нарушении психологического благополучия молодых людей. В четверг Meta объявила, что разрабатывает инструменты на основе искусственного интеллекта для защиты детей от мошенничества с секс-вымогательством в Instagram.

Мошенничество с секс-вымогательством, проводимое бандами в Instagram, убеждает подростков делиться откровенными изображениями самих себя, а затем требовать денег или иным образом угрожать обнародовать изображения в Интернете.

Финансовое вымогательство и меры безопасности

Meta объявила, что тестирует инструменты на базе искусственного интеллекта для борьбы с финансовой ситуацией. Сообщается, что эти инструменты обеспечивают защиту от наготы, размывая изображения, которые их ИИ обнаруживает как содержащие наготу, когда они отправляются несовершеннолетним в сообщениях в Instagram. Капюсин Тюффье, руководитель отдела защиты детей в Meta France, рассказал агентству AFP, что это поможет защитить детей от воздействия нежелательного интимного контента и даст им выбор, хотят ли они видеть изображение или нет, как в случае, когда кто-то получает подобное сообщение. , поверх размытого изображения появится экран предупреждения.

Мета заявила, что они также дадут советы и рекомендации по безопасности всем, кто получает или отправляет такие сообщения, демонстрируя своевременную помощь. На экране появится сообщение, призывающее пользователя не чувствовать давления с целью реагировать на потенциальный обман, а также предоставит возможность заблокировать отправителя и сообщить об инциденте.

По официальной статистике, в 2022 году только в США жертвами мошенничеств с секс-вымогательством стали около 3000 молодых людей. В октябре более 40 штатов подали в суд на материнскую компанию Instagram, Meta, по делу, в котором утверждалось, что компания нажилась на детской боли. Компанию обвинили в разработке бизнес-модели, которая эксплуатирует молодых пользователей, проводя на ее платформе максимальное количество времени, несмотря на ущерб их психическому здоровью и благополучию.

Meta работает над решениями машинного обучения на устройствах

В начале нового года Meta объявила, что запустит стратегии по защите детей младше 18 лет, ограничив политику использования контента и усилив родительский контроль на своей платформе. Вчера компания Meta заявила, что ее последние инструменты основаны на их глубоко укоренившейся работе по защите несовершеннолетних от потенциальных негативных или вредных взаимодействий.

Мета сказала в своем посте:

«Мы тестируем новые функции, чтобы защитить молодых людей от сексуального вымогательства и использования интимных изображений, а также затруднить потенциальным мошенникам и преступникам поиск и взаимодействие с подростками».

Источник: Мета

Мета также добавила:

"Защита от наготы использует машинное обучение на устройстве, чтобы проанализировать, содержит ли изображение, отправленное в прямом сообщении в Instagram, наготу. Поскольку изображения анализируются на самом устройстве, защита от наготы будет работать в чатах со сквозным шифрованием, где Meta не будет работать. иметь доступ к этим изображениям, если только кто-то не решит сообщить нам о них».

Источник: Мета

Мета также призвала проверять потенциальные аккаунты, публикующие нежелательный контент, и применять к ним строгие ограничения при общении с несовершеннолетними пользователями. Хотя мы знаем, что Meta неоднократно обвинялась в нарушении конфиденциальности данных своих пользователей , эти меры, похоже, действуют в правильном направлении. Но компания также пояснила, что у нее не будет доступа к неприемлемым изображениям, если о них не сообщат пользователи.