Сотрудник Microsoft: дипфейки представляют собой растущую угрозу

Интерактивные и композиционные дипфейки представляют собой два класса растущих угроз в области информационной безопасности. Об этом заявил главный научный сотрудник Microsoft Эрик Хорвиц.

По словам эксперта, развивающиеся возможности дискриминационных и генеративных методов ИИ приближаются к критической точке.

«Достижения предоставляют беспрецедентные инструменты, которые могут использоваться государственными и негосударственными субъектами для создания и распространения убедительной дезинформации», — написал Хорвиц.

Ученый считает, что проблема возникает из-за методологии генеративно-состязательных сетей, состоящих из двух конкурирующих элементов: генератора и дискриминатора. Первый предназначен для создания контента, а второй — оценки его качества.

Хорвиц добавил, что со временем генератор научится обманывать дискриминатор.

«С этим процессом, лежащим в основе дипфейков, ни методы распознавания образов, ни люди не смогут надежно распознать подделки», — написал он.

Эксперт подчеркнул, что до настоящего времени ИИ-подделки создавались и распространялись как разовые, автономные творения.

«Однако теперь мы можем ожидать появления новых форм убедительных дипфейков, которые выходят за рамки фиксированных одноэлементных производств», — сказал он.

Хорвиц предложил несколько способов, которые помогут подготовиться и защититься от ожидаемого роста числа подделок. Среди них:

  • увеличение требований к журналистике и репортажам;
  • повышение медиаграмотности людей;
  • введение новых протоколов аутентификации для подтверждения личности;
  • разработка стандартов для подтверждения происхождения контента;
  • постоянный мониторинг.

«Важно проявлять бдительность в отношении интерактивных и композиционных дипфейков», — заключил Хорвиц.

Напомним, в сентябре ученые представили метод обнаружения аудиоподделок, измеряющий различия между образцами органической и синтетической речи.

В августе хакеры использовали дипфейк для мошенничества с листингом на Binance. Злоумышленники выдали себя за CCO компании Патрика Хиллманна в серии видеозвонков с представителями криптовалютных проектов.

В июне ФБР предупредило о растущем количестве случаев использования дипфейков на онлайн-собеседованиях.

Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!

Подписывайтесь на ForkLog в социальных сетях

Telegram (основной канал) Discord Instagram
Нашли ошибку в тексте? Выделите ее и нажмите CTRL+ENTER

Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!

*Ежедневная рассылка — краткая сводка наиболее важных новостей предыдущего дня. Чтение занимает не больше двух минут. Выходит в рабочие дни в 06:00 (UTC)
*Еженедельная рассылка — объясняем, кто и как изменил индустрию за неделю. Идеально подходит для тех, кто не успевает за новостным потоком в течение дня. Выходит в пятницу в 16:00 (UTC).

Мы используем файлы cookie для улучшения качества работы.

Пользуясь сайтом, вы соглашаетесь с Политикой приватности.

OK
Exit mobile version