ООН обеспокоилась ролью дипфейков в разжигании ненависти

Созданные искусственным интеллектом дипфейки угрожают целостности информации и приводят к разжиганию ненависти в обществе. Об этом говорится в отчете ООН.

The proliferation of hate & lies in the digital space is causing grave global harm.

This clear & present global threat demands clear & coordinated global action.

– @antonioguterres launching his new report on information integrity on digital platforms. https://t.co/atXRvwOwXv pic.twitter.com/i5MjAkWSNy

— United Nations (@UN) June 12, 2023

По мнению организации, технологии искусственного интеллекта обладают «невообразимым потенциалом для решения глобальных проблем». Однако она обеспокоена рисками, которые несут генераторы изображений и видео, особенно в зонах конфликтов.

ООН отметила, что использование языка ненависти часто является «предвестником ужасных преступлений» и массового насилия. В отчете авторы сослались на Конвенцию 1948 года, запрещающую любое прямое или публичное подстрекательство, которое может привести к геноциду.

Глобальная организация подчеркнула необходимость ответственного использования ИИ.

«Все заинтересованные стороны должны принять срочные и незамедлительные меры для обеспечения безопасного, надежного, ответственного, этического и соответствующего правам человека использования искусственного интеллекта и устранить последствия последних достижений в этой области для распространения дезинформации и разжигания ненависти», — заявила ООН.

Она также призвала владельцев цифровых платформ инвестировать в системы модерации контента, которые используют как человеческий, так и искусственный интеллект, и сделать отчетность о контенте прозрачной.

Генеральный секретарь ООН Антониу Гутерриш выразил надежду, что в рамках предстоящего в 2024 году саммита международное сообщество сможет договориться о сотрудничестве по решению этой проблемы.

Напомним, в январе исследователи из OpenAI предупредили о растущей угрозе использования языковых моделей для распространения дезинформации.

В свою очередь американские ученые призвали к противодействию дипфейкам, созданным «вражескими государствами». 

Весной группа европейских законодателей сообщила о планах разработать проект правил для контроля за развитием ИИ-систем.