ООН обеспокоилась ролью дипфейков в разжигании ненависти

Созданные искусственным интеллектом дипфейки угрожают целостности информации и приводят к разжиганию ненависти в обществе. Об этом говорится в отчете ООН.

По мнению организации, технологии искусственного интеллекта обладают «невообразимым потенциалом для решения глобальных проблем». Однако она обеспокоена рисками, которые несут генераторы изображений и видео, особенно в зонах конфликтов.

ООН отметила, что использование языка ненависти часто является «предвестником ужасных преступлений» и массового насилия. В отчете авторы сослались на Конвенцию 1948 года, запрещающую любое прямое или публичное подстрекательство, которое может привести к геноциду.

Глобальная организация подчеркнула необходимость ответственного использования ИИ.

«Все заинтересованные стороны должны принять срочные и незамедлительные меры для обеспечения безопасного, надежного, ответственного, этического и соответствующего правам человека использования искусственного интеллекта и устранить последствия последних достижений в этой области для распространения дезинформации и разжигания ненависти», — заявила ООН.

Она также призвала владельцев цифровых платформ инвестировать в системы модерации контента, которые используют как человеческий, так и искусственный интеллект, и сделать отчетность о контенте прозрачной.

Генеральный секретарь ООН Антониу Гутерриш выразил надежду, что в рамках предстоящего в 2024 году саммита международное сообщество сможет договориться о сотрудничестве по решению этой проблемы.

Напомним, в январе исследователи из OpenAI предупредили о растущей угрозе использования языковых моделей для распространения дезинформации.

В свою очередь американские ученые призвали к противодействию дипфейкам, созданным «вражескими государствами». 

Весной группа европейских законодателей сообщила о планах разработать проект правил для контроля за развитием ИИ-систем.