«Галлюцинации» ChatGPT стали предметом жалобы на конфиденциальность в ЕС

Правозащитная группа NOYB пожаловалась в австрийский надзорный орган на OpenAI за предоставление неверной информации чат-ботом ChatGPT, что может нарушать правила конфиденциальности ЕС. Об этом пишет Reuters.

Заявитель, чьи интересы представляет NOYB, спросил ChatGPT о своем дне рождения. Однако чат-бот несколько раз выдал ложные сведения вместо того, чтобы сообщить об отсутствии необходимой информации.

После обращения заявителя OpenAI якобы отказалась исправить или удалить неточности. Компания заявила о невозможности внесения корректировок, а также не раскрыла информацию об обработке данных, их источниках и получателях.

NOYB требует провести расследование на предмет нарушения OpenAI норм GDPR. Группа призвала к усилению мер, направленных на гарантирование точности обработки персональных данных в рамках работы больших языковых моделей.

Юристка NOYB Маартье де Грааф подчеркнула, что компании пока не могут заставить чат-ботов вроде ChatGPT соблюдать законодательство ЕС при работе с информацией о физлицах.

«Если система не может выдавать точные и прозрачные результаты, ее нельзя использовать для получения данных о частных лицах. Технология должна следовать требованиям закона, а не наоборот», — считает она.

В прошлом OpenAI признавала склонность ChatGPT давать правдоподобные, но неправильные ответы, что известно как «галлюцинации» языковых моделей. Компания считает проблему сложной для решения.

Напомним, в сентябре 2023 года Управление по защите персональных данных Польши начало проверку ChatGPT после жалобы.