PornHub задействовал ИИ для отвлечения пользователей от незаконного контента

Британский порносайт PornHub запустил тестирование автоматизированного инструмента, который «отговаривает» пользователей от поиска материалов о жестоком обращении с детьми (CSAM). Об этом пишет Wired.

С марта 2022 года каждый раз при вводе запроса со словами или фразами, связанными с незаконным контентом, на платформе запускается специальный чат-бот. Он прерывает попытку поиска CSAM-материалов и предлагает пользователям получить помощь в связи с их поведением в интернете. В течение первых 30 дней тестирования инструмент активировался 173 904 раза.

По словам исполнительного директора организации по надзору за интернетом Internet Watch Foundation (IWF) Сьюзи Харгривз, нужно попытаться предотвратить появление этой проблемы.

«Необходимо, чтобы люди не искали материалы о сексуальном насилии над детьми, а останавливались и проверяли свое поведение», — заявила она.

Чат-бот разработали специалисты организации по борьбе с жестоким обращением с несовершеннолетними Lucy Faithfull Foundation и IWF. Они научили систему искать любой из 28 000 терминов, связанных с незаконным контентом, и миллионы их комбинаций.

При активации инструмент задаст пользователям ряд вопросов и уведомит их о том, что запрашиваемая информация может быть незаконной. Также чат-бот предложит «конфиденциальную и непредвзятую» поддержку. Щелкнувшие на подсказку «помощь» получат подробные сведения о работе Lucy Faithfull Foundation, номер телефона организации и адрес ее электронной почты.

«Цель состоит в том, чтобы отвлечь человека или разрушить его желание искать CSAM-материалы, и сделать это всего за несколько кликов», — объяснил главный технический директор IWF Дэн Секстон.

По словам главы организации Stop It Now Дональда Финдлейтера, использование чат-бота прямолинейное и, возможно, более увлекательное. После мартовского тестирования инструмента на сайт службы поддержки перешли 158 человек. Он отметил, что хотя это число «скромное», люди сделали важный шаг.

Представители организаций заявили, что PornHub «сам вызвался» участвовать в проекте и ему не платят за тестирование системы. Ожидается, что испытания чат-бота на британском порносайте продлятся еще год, прежде чем его оценят другие исследователи.

«Инструмент IWF — еще один уровень защиты, информирующий пользователей об отсутствии незаконного контента на платформе, и отсылающий их к Stop It Now для изменения поведения», — сообщил представитель PornHub.

Напомним, в июне власти Австралии попросили граждан поделиться своими детскими снимками, чтобы научить ИИ выявлять жестокое обращение на фотографиях.

В июле правительство Великобритании поддержало идею сканирования смартфонов пользователей на наличие CSAM-материалов.

В августе 2021 года Apple задействовала ИИ для проверки фотографий на iPhone на предмет жестокого обращения с детьми.

Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!