Исследователи обнаружили более 1000 профилей-дипфейков в LinkedIn

Исследователи из Стэнфорда Рене ДиРеста и Джош Гольдштейн обнаружили более 1000 фейковых аккаунтов в LinkedIn c фотографиями профиля, сгенерированными искусственным интеллектом.

Meet Keenan Ramsey. Her LinkedIn profile says she sells software for RingCentral & has a business degree from NYU. She likes CNN, Amazon, & Melinda French Gates. Her pitches come punctuated with emojis.https://t.co/TyoBp2qxIP pic.twitter.com/LLfIvph17N

— Shannon Bond (@shannonpareil) March 27, 2022

По словам ДиРесты, она получила сообщение от человека по имени Киану Рэмси, которое выглядело как обычная реклама программного обеспечения. Однако при детальном изучении выяснилось, что Рэмси — вымышленная личность.

Изображение профиля выглядело как стандартный портретный снимок. Однако фотография содержала ряд маркеров, указывающих на созданную сервисом вроде This Person Does Not Exist подделку. ДиРеста обратила внимание на выравнивание глаз, отсутствие одной серьги и размытые волосы на заднем плане.

«Это не история о ложных сведениях или дезинформации, а скорее пересечение довольно обыденного варианта использования технологии ИИ в бизнесе и, как следствие, вопросов этики и ожиданий», — сказала исследователь.

Специалисты из некоммерческой организации NPR изучили заявления ДиРестры и Гольдштейна. По их словам, более 70 компаний оказались связаны с поддельными профилями. Несколько организаций сообщили, что наняли сторонних маркетологов и их удивил факт использования поддельных профилей. Они также отрицают санкционирование подобных кампаний.

По данным NRP, поддельные профили часто используются компаниями для презентации программного обеспечения новым клиентам. Если потенциальный клиент отвечает — его перенаправляют к реальному человеку. С помощью этой техники компании могут значительно расширить свое присутствие без увеличения численности персонала, добавили эксперты.

Напомним, в сентябре 2021 года ученые рассказали, как отличить поддельные фото от реальных.

В ноябре исследователи создали алгоритм, упрощающий создание дипфейков.

Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!