ChatGPT по-прежнему распространяет ложь, заявляет регулятор данных ЕС
Согласно новому отчету службы по надзору за конфиденциальностью ЕС, ChatGPT, вирусный чат-бот OpenAI, по-прежнему не соответствует стандартам точности данных Европейского Союза.
Читайте также: Европейский закон об искусственном интеллекте получил окончательное одобрение со штрафами до 38 миллионов долларов
Отчет Совета по защите данных Европейского Союза (EDPB) не является юридическим документом. Тем не менее, это послужит основой для выработки общего подхода к регулированию ChatGPT в 27 государствах-членах ЕС.
ChatGPT не соответствует стандартам данных
Национальные наблюдательные органы сформировали «оперативную группу ChatGPT» в прошлом году в связи с продолжающимися в нескольких европейских странах делами против модели искусственного интеллекта. Оперативная группа находится под эгидой EDPB.
В отчете , опубликованном 24 мая, рабочая группа заявила:
«Хотя меры, принятые для соблюдения принципа прозрачности, полезны для предотвращения неправильного толкования результатов ChatGPT, их недостаточно для соблюдения принципа точности данных».
Известно, что большие языковые модели, или LLM, «галлюцинируют» — эта технология предназначена для того, чтобы чат-боты с искусственным интеллектом изрыгали ложь, часто с уверенностью.
Чат-боты, такие как ChatGPT или Google Gemini, работают на LLM. В соответствии со строгим Европейским общим регламентом защиты данных (GDPR) пользователи могут подать в суд за то, что их представили в ложном свете или лишили возможности исправить неточную информацию о себе.
Согласно отчету целевой группы: «Из-за вероятностного характера системы (ИИ) текущий подход к обучению приводит к модели, которая может даже давать предвзятые или сфабрикованные результаты».
«Результаты, предоставленные ChatGPT, скорее всего, будут считаться конечными пользователями фактически точными, включая информацию, касающуюся отдельных лиц, независимо от их фактической точности», — добавил он.
ЕС удваивает соблюдение требований
OpenAI ранее ссылалась на техническую сложность из-за своей неспособности исправить дезинформацию, но надзорный орган Европейского Союза удваивает усилия.
«В частности, техническая невозможность не может служить оправданием несоблюдения этих требований», — отметили в целевой группе.
В недавно открытом деле австрийский общественный деятель подает в суд на ChatGPT за то, что он не исправил дату своего рождения. В OpenAI заявили, что это технически неосуществимо, но новый отчет усилит давление на модель ИИ.
Юрист по защите данных, участвующий в этом деле, Маартье де Грааф, заявил, что компании в настоящее время не могут заставить чат-ботов с искусственным интеллектом соблюдать законодательство ЕС при обработке данных людей.
«Если система не может давать точные и прозрачные результаты, ее нельзя использовать для сбора данных о людях. Технологии должны соответствовать требованиям законодательства, а не наоборот», — сказал де Грааф.
Проблемы безопасности нависли над OpenAI
Эксперты говорят, что ChatGPT потребуют амбициозных изменений, чтобы избежать противоречия GDPR , который регулирует защиту данных в Европейском Союзе.
Правила также представляют собой рабочую модель для законов о данных в Аргентине, Бразилии, Чили, Японии, Кении, Маврикии, Южной Африке, Южной Корее, Турции и Великобритании.
Читайте также: OpenAI удаляет запись ChatGPT после скандала со Скарлетт Йоханссон
Между тем, приверженность OpenAI обеспечению безопасности пользователей была поставлена под сомнение.
Компания пострадала от серии громких увольнений, в том числе соучредителя Ильи Суцкевера, Гретхен Крюгер, Яна Лейке и еще полдюжины других, выступавших за изменение культуры.
Ранее на этой неделе OpenAI объявила, что прекращает поддержку голоса ChatGPT «Sky» из-за опасений, что он напоминает голос актрисы Скарлетт Йоханссон из фильма «Она», посвященного искусственному интеллекту.
Криптополитический репортаж Джеффри Гого