Отчет: после запуска ChatGPT число фишинговых атак выросло на 1265%

С момента запуска чат-бота ChatGPT количество электронных писем с фишингом подскочило на 1265%. Такие расчеты привели аналитики SlashNext, пишет Decrypt.

«Из наших исследований мы знаем, что субъекты угроз используют инструменты вроде ChatGPT для написания сложных, целенаправленных, компрометирующих бизнес-писем и других фишинговых сообщений», — указал CEO фирмы Патрик Харр.

Специалист заявил, что потенциальные жертвы «должны перейти в наступление» и «бороться с ИИ с помощью ИИ».

«Компании должны внедрять искусственный интеллект непосредственно в программы безопасности для постоянного мониторинга всех каналов обмена сообщениями для устранения угроз. Мы используем технологию в наборах инструментов для обнаружения […] и прогнозирования», — пояснил эксперт.

Харр с оптимизмом смотрит на способность искусственного интеллекта ловить мошеннических ИИ. Однако специалист признает, что потребуется нечто большее, чем просто сообщить ChatGPT о киберугрозах.

«Поверх этого у вас должен быть эквивалент частного приложения с большой языковой моделью», — подчеркнул он.

Напомним, стартап Anthropic, разрабатывающий большие языковые модели, представил «конституции» для ответственного создания ИИ-алгоритмов. 

Ранее отчет Gartner показал, что 66% риск-менеджеров считают генеративный искусственный интеллект угрозой для организаций.

Аналитики выделили три сегмента, которые нужно держать под контролем с точки зрения управления корпоративными рисками: интеллектуальная собственность, конфиденциальность данных и кибербезопасность.