Аферисты «вооружились» ИИ для имитации голосов родственников своих жертв

Мошенники стали чаще применять технологии имитации голоса на базе искусственного интеллекта для шантажа родственников жертв. Об этом пишет Washington Post.

По данным Федеральной торговой комиссии США (FTC), в 2022 году вымогательство с участием самозванцев стало вторым по распространенности в стране. За указанный период власти получили более 36 000 сообщений о том, что людей обманули мошенники, выдающие себя за друзей и членов семьи.

Согласно отчету FTC, свыше 5100 инцидентов произошли по телефону и причинили более $11 млн убытков.

Достижения в области искусственного интеллекта предоставили мошенникам новые инструменты воспроизведения голоса. Множество дешевых онлайн-сервисов на базе ИИ могут преобразовать короткий аудиофайл в копию голоса, позволяя мошеннику заставить его «произносить» любой текст.

Эксперты заявили, что регуляторы, правоохранители и суды плохо оснащены средствами предотвращения подобного вида мошенничества. Также большинство жертв не имеет зацепок, позволяющих идентифицировать преступника.

Полиции, в свою очередь, сложно отследить звонки аферистов, а у судов мало юридических прецедентов для привлечения компаний, создающих подобные ИИ-инструменты.

«Это ужасно. Это своего рода идеальный шторм… [со] всеми ингредиентами, необходимыми для создания хаоса», — сказал профессор цифровой криминалистики Калифорнийского университета в Беркли Хани Фарид.

По словам эксперта, искусственный интеллект может анализировать уникальные характеристики голоса, включая возраст, пол и акцент. Также современные технологии способны найти похожую речь в больших базах данных и закономерности.

Затем ИИ-инструменты воссоздают высоту тона, тембр и отдельные звуки голоса человека, чтобы создать похожий общий эффект. По словам Фарида, для этого требуется короткий образец аудио, взятый из социальных сетей и других публичных площадок в интернете:

«Год назад вам нужно было много аудио, чтобы клонировать голос человека. […] Теперь достаточно 30 секунд».

Помощник директора отдела маркетинга FTC Уилл Максон заявил, что отслеживание голосовых мошенников может быть «особенно трудным». Они могут использовать телефон, находящийся в любой точке мира. Это затрудняет даже определение юрисдикции в отношении конкретного лица.

Максон призвал соблюдать бдительность. По его словам, в случае получения звонка о том, что близкий человек попал в беду и нуждается в деньгах, необходимо перепроверить информацию.

Напомним, в марте журналист Джозеф Кокс «обманул» голосовой идентификатор банка с помощью бесплатного ИИ-сервиса для синтеза речи.

В январе стартап ElevenLabs обвинили в распространении расистских аудиодипфейков. Из-за растущего числа злоупотреблений компании пришлось приостановить работу сервиса.