Внутри ChatGPT: генератор порно, мошенничество и псевдоэкспертные медицинские советы

Кастомные версии ChatGPT используются для создания порнографического контента, помогают студентам обходить системы обнаружения текстов, созданных с помощью ИИ, а также предоставляют «авторитетные» медицинские и юридические консультации. Об этом пишет Gizmodo после проведения расследования. 

В ноябре 2023 года OpenAI представила возможность кастомизации ChatGPT под свои личные цели. Для этого не требуются навыки программирования. Созданные GPTs могут выполнять конкретные задачи по поиску информации в интернете или служить виртуальным помощником в рабочих процессах. 

Их можно использовать самостоятельно или делиться с другими. OpenAI представила торговую площадку для распространения кастомных ИИ. Эксперты Gizmodo выяснили, что 2 сентября на ней было как минимум три пользовательских GPTs, нарушающих политику компании: 

• чат-бот «Терапевт-Психолог»;
• «Тренер по фитнесу, тренировкам и диетам»;
• «BypassGPT», позволяющий студентам обходить системы обнаружения сгенерированного искусственным интеллектом текста.

Журналисты обратили внимание, что поисковый запрос «NSFW» предлагает GPTs под названием NSFW AI Art Generator. Интерфейс чата рекомендует перейти на сайт компании Offrobe AI, где указано предназначение нейросети: «Генерация ИИ-порно для удовлетворения ваших темных желаний».

Gizmodo сообщили OpenAI о более 100 GPTs, которые нарушают политику компании. Многие из них удалили, включая генераторы порно и дипфейков, а также чат-боты, предлагающие рекомендации по ставкам на спорт. Некоторые нейросети остались, отмечают в издании. 

«Мы приняли меры против тех, кто нарушает наши правила. Используется комбинация автоматизированных систем, человеческого анализа и отчетов пользователей для поиска и оценки GPTs. Также есть встроенные в продукт инструменты для сообщения о нарушающих правила GPTs», — прокомментировала представительница OpenAI Тая Кристиансон.

Разработчики кастомизированных GPTs пока не получают прибыли, но ИИ-стартап планирует интегрировать модель распределения доходов в зависимости от популярности их инструмента.

Ранее Google активизировал борьбу с дипфейк-порно.

Напомним, в феврале Виталик Бутерин написал статью о растущей проблеме дипфейков и разобрал возможные способы их выявления.