OpenAI рассматривает потенциальное нарушение закона при обсуждении партнерства с Worldcoin

OpenAI, компания, создавшая популярную языковую модель ChatGPT, сталкивается с проблемами с точки зрения соблюдения законодательства и точности данных. Эта проблема побудила NOYB — Европейский центр цифровых прав, некоммерческую организацию, базирующуюся в Вене, Австрия, подать жалобу на OpenAI в Австрийское управление по защите данных (DPA).

Действительно, сбор данных OpenAI вызвал обеспокоенность среди регулирующих органов и защитников конфиденциальности. Этот шаг NOYB потенциально может спровоцировать более широкий разговор об этическом использовании данных в технологиях.

Проблемы с данными OpenAI подчеркивают этические проблемы искусственного интеллекта

Суть жалобы заключается в недавних признаниях OpenAI относительно ограничений ChatGPT в управлении данными. По данным OpenAI, модель ИИ не способна проверять точность генерируемой ею информации о людях. Он также не может раскрыть происхождение своих записей данных.

На фоне растущего ажиотажа вокруг искусственного интеллекта, вызванного запуском ChatGPT в ноябре 2022 года, широкое распространение этого инструмента выявило критические уязвимости. ChatGPT работает, прогнозируя вероятные ответы на предложения пользователей без встроенного механизма, обеспечивающего фактическую точность.

Это привело к случаям, когда ИИ «галлюцинирует» данные, фабрикуя ответы, которые могут вводить в заблуждение или быть совершенно ложными. Хотя такие неточности могут не иметь значения в некоторых контекстах, они создают значительные риски при использовании персональных данных.

Подробнее: Как создать собственного чат-бота с искусственным интеллектом, используя API ChatGPT.

Общий регламент по защите данных Европейского Союза (GDPR) требует точности персональных данных и предоставляет людям право на доступ и исправление неверной информации о себе. Текущие возможности OpenAI не соответствуют этим юридическим требованиям, что вызывает споры об этических последствиях использования искусственного интеллекта при обработке конфиденциальных данных .

Маартье де Грааф, юрист Noyb по защите данных, подчеркивает серьезность ситуации.

«Очевидно, что компании в настоящее время не могут заставить чат-ботов, таких как ChatGPT, соответствовать европейскому законодательству при обработке персональных данных. Если система не может давать точные и прозрачные результаты, ее нельзя использовать для сбора данных о людях. Технологии должны соответствовать требованиям законодательства, а не наоборот», — объясняет де Грааф.

Проблемы выходят за рамки технических препятствий и распространяются на более широкие нормативные проблемы. С момента своего создания инструменты генеративного искусственного интеллекта, включая ChatGPT, находились под пристальным вниманием европейских органов по надзору за конфиденциальностью.

Например, Управление по защите данных Италии в начале 2023 года наложило ограничения на обработку данных ChatGPT, сославшись на неточности.

За этим последовали скоординированные усилия Европейского совета по защите данных по оценке и снижению рисков, связанных с такими платформами искусственного интеллекта.

Особого внимания заслуживает время возникновения этих юридических проблем. В то же время OpenAI обсуждала возможность создания стратегического альянса с Worldcoin , проектом, соучредителем которого является Сэм Альтман, который также возглавляет OpenAI.

Подробнее: 11 лучших расширений ChatGPT Chrome, которые стоит попробовать в 2024 году

Однако потенциальное сотрудничество OpenAI с Worldcoin может привести к возникновению дополнительных правовых и этических дилемм. Подход Worldcoin к использованию биометрических данных пересекается с проблемами OpenAI в обеспечении конфиденциальности и точности данных .

Кроме того, Worldcoin столкнулся с пристальным вниманием со стороны юридических органов по всему миру, включая Кению, Испанию и Аргентину, в связи со сбором данных. Таким образом, эта синергия может проложить путь к инновационному технологическому использованию или создать прецедент для более масштабного регулирования.

Пост OpenAI рассматривает возможные нарушения закона во время обсуждения партнерства Worldcoin впервые появился на BeInCrypto .