ИИ-бот супермаркета научился создавать рецепты с ядами

Новозеландский супермаркет Pak’nSave запустил чат-бот на основе ИИ для создания рецептов, но пользователи научились готовить через него напитки с газообразным хлором и бутерброды с ядом. Об этом сообщает Guardian.

Бот Savey Meal появился в конце июля как приложение для творческого использования остатков продуктов в тяжелой экономической ситуации. Однако стал выдавать неожиданные результаты, когда в качестве ингредиентов пользователи начали указывать различную бытовую химию. 

Один из рецептов, названный «Ароматический водный микс», создавал газообразный хлор. Бот рекомендовал его как «идеальный безалкогольный напиток, чтобы утолить жажду и освежить чувства». Никаких предупреждений о том, что вдыхание газообразного хлора может привести к повреждению легких или смерти, пользователи не получали.

На это обратил внимание политический обозреватель Лиам Хехир, который предложил своим подписчикам в X (ранее Twitter) поэкспериментировать с ботом. 

Данные: X

В ответ ему прислали рецепты коктейля с отбеливателем «Свежее дыхание», бутерброды с муравьиным ядом и клеем, жареный картофель с репеллентом для комаров, а также французские тосты со вкусом скипидара «Метанольное блаженство». 

Представитель Pak’nSave в комментарии СМИ отметил, что по условиям соглашения бот не предназначен для лиц младше 18 лет. Он также выразил сожаление, что «незначительное меньшинство пыталось использовать инструмент ненадлежащим образом и не по прямому назначению». 

Компания намерена продолжить настройку средств управления ботом, чтобы сделать его более безопасным. 

«Вы должны исходить из собственного суждения, прежде чем полагаться на какой-либо рецепт, созданный Savey Meal-bot, поскольку рецепты не проверяются человеком», — говорится в предупредительном уведомлении.

Ранее ForkLog сообщал, что ученые добились от чат-ботов генерации запрещенного контента, в частности на тему создания бомбы, похищения цифровой личности и кражи благотворительных средств.

Подписывайтесь на ForkLog в социальных сетях

Telegram (основной канал) Discord Instagram
Нашли ошибку в тексте? Выделите ее и нажмите CTRL+ENTER

Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!

*Ежедневная рассылка — краткая сводка наиболее важных новостей предыдущего дня. Чтение занимает не больше двух минут. Выходит в рабочие дни в 06:00 (UTC)
*Еженедельная рассылка — объясняем, кто и как изменил индустрию за неделю. Идеально подходит для тех, кто не успевает за новостным потоком в течение дня. Выходит в пятницу в 16:00 (UTC).

Мы используем файлы cookie для улучшения качества работы.

Пользуясь сайтом, вы соглашаетесь с Политикой приватности.

OK
Exit mobile version