Apple удаляет из App Store приложения, пропагандирующие наготу без согласия
В прошлом месяце технологический гигант Apple Inc. сделал смелый шаг, удалив три приложения из своего App Store. Эти приложения даже воспользовались инструментами машинного обучения, доступными в ИИ, и попытались создать изображения без согласия человека. Решение последовало за опасениями, что приложения использовали вводящую в заблуждение рекламу в таких местах, как Instagram и порно! Веб-сайты.
Случаи введения в заблуждение в рекламе
Любой, кто нажимает на это объявление, попадает в Apple App Store, а само приложение описывается как «генератор произведений искусства», но без каких-либо упоминаний о том, может ли оно генерировать обнаженную натуру. Это давний пробел в магазинах мобильных приложений, впервые выявленный в 2022 году.
Обвиняемые в этом деянии приложения утверждали, что с помощью алгоритмов на основе искусственного интеллекта раздевали людей на фотографиях, что приводило к неверному предположению о наготе, даже если у них не было разрешения или знаний субъектов. Подобные действия не только нарушают неприкосновенность частной жизни, но также являются потенциальными источниками эксплуатации, преследования и шантажа.
Несколько похожих версий этой рекламы с участием других женщин, созданных искусственным интеллектом, были показаны в Facebook, Instagram, Facebook Messenger и рекламной сети внутри приложений Meta в период с 10 по 20 апреля.
Узнав об этих мошеннических приложениях, Apple первой удалила их из App Store. Хотя они утверждали, что они невиновны, их истинные мотивы были раскрыты приложениями, что вынудило Apple удалить приложения и соблюдать стандарты сообщества. Это ясно демонстрирует непоколебимую приверженность Apple созданию безопасного, гендерно-нейтрального цифрового пространства для всех.
Постоянные вызовы и ответственность
Хотя контрмеры, принятые Apple, заслуживают уважения, этот инцидент в конечном итоге вызывает некоторые сомнения в методах проверки приложений и мониторинга рекламы. Тот факт, что эти приложения долгое время оставались незамеченными в App Store, лишь подчеркивает необходимость большего внимания и активных мер по выявлению и устранению мошеннических приложений.
Более того, разработчики применяли хитрые методы для продвижения своих незаконных функций на сайтах для взрослых, что гарантировало, что Apple и Google не обнаружат их. Эти случаи иллюстрируют проблемы, с которыми технологические компании сталкиваются при надзоре за своими платформами и обеспечении соблюдения правил сообщества.
В связи с предстоящим раскрытием Apple некоторых проектов, связанных с искусственным интеллектом, на Всемирной конференции разработчиков (WWDC) 2023 года будет весьма интригующе увидеть шаги, которые компания инициирует в отношении этих приложений. Важной частью ответственного внедрения технологий Apple является поддержание хорошего имиджа этического поведения и разумного управления технологиями, что имеет решающее значение в свете растущего использования Apple искусственного интеллекта в своих продуктах.
Удаление этих приложений станет примером этической проблемы при разработке и использовании искусственного интеллекта. Вторая проблема, связанная с развитием возможностей ИИ, — это конфиденциальность пользователей. Кроме того, вам необходимо спрашивать разрешение у пользователей и обеспечивать их безопасность. Блокируя такие приложения, Apple подчеркивает этичное поведение в своем сообществе.
Источник: 404