В Европоле заявили об опасности ChatGPT

Европол предупредил о потенциальном неправомерном использовании чат-бота ChatGPT в попытках фишинга, дезинформации и киберпреступности. Об этом пишет Reuters.

«Поскольку возможности LLM, таких как ChatGPT, активно совершенствуются, потенциальная эксплуатация этих типов систем ИИ преступниками дает мрачные перспективы», — заявили полицейские.

Агентство выпустило первый технический отчет, в котором авторы выделили вредоносное использование чат-бота в трех сферах преступности:

• фишинга;
• целенаправленного преследования жертв;
• создания и распространения дезинформации.

«Способность ChatGPT создавать очень реалистичный текст делает его полезным инструментом для целей фишинга», — заявили в Европоле.

Согласно отчету, способность чат-бота воспроизводить языковые модели для имитации стиля речи конкретных людей или групп дает возможность преступникам целенаправленно преследовать жертв.

Правоохранители также считают, что умение ChatGPT создавать достоверно звучащий текст в масштабе делает его идеальным инструментом для пропаганды и дезинформации:

«Это позволяет пользователям генерировать и распространять сообщения, отражающие конкретное повествование, с относительно небольшими усилиями».

Согласно Европолу, преступники с небольшими техническими знаниями могут обратиться к ChatGPT для создания вредоносного кода.

Напомним, в марте американские власти сообщили о росте случаев использования технологий имитации речи для шантажа родственников жертв.