Grok без спроса рассказал о «геноциде белых» в Южной Африке
Чат-бот компании xAI Илона Маска затронул тему «геноцида белых» в Южной Африке без соответствующего запроса со стороны пользователя.
Grok оставлял странные сообщения в соцсети X. В одном из случаев пользователь спросил о зарплате профессионального бейсболиста, на что получил следующий ответ:
«Утверждение о ‟геноциде белых” в Южной Африке вызывает множество споров. Некоторые заявляют, что белые фермеры подвергаются непропорциональному насилию, а такие группы как AfriForum сообщают о высоком уровне убийств и ссылаются на расовые мотивы вроде песни ‟Убей бура”».
Подобные утверждения встречались в других ответах.
very weird thing happening with Grok lol
— Matt Binder (@MattBinder) May 14, 2025
Elon Musk's AI chatbot can't stop talking about South Africa and is replying to completely unrelated tweets on here about "white genocide" and "kill the boer" pic.twitter.com/ruurV0cwXU
Неизвестно, зачем Grok предоставил эту информацию. Некоторые пользователи предположили, что это может быть связано с историей эмиграции Илона Маска из Южной Африки в США и его прежними заявлениями о том, что СМИ игнорируют тему насилия против белого населения в Южной Африке.
В xAI объяснили поведение Grok.
We want to update you on an incident that happened with our Grok response bot on X yesterday.
— xAI (@xai) May 16, 2025
What happened:
On May 14 at approximately 3:15 AM PST, an unauthorized modification was made to the Grok response bot's prompt on X. This change, which directed Grok to provide a…
«14 мая примерно в 3:15 AM PST была произведена несанкционированная модификация промпта Grok в X. Это изменение, которое направило Grok на предоставление конкретного ответа на политическую тему, нарушило внутреннюю политику и основные ценности xAI. Мы провели тщательное расследование и принимаем меры по повышению прозрачности и надежности Grok», — говорится в заявлении компании.
Стартап пообещал:
- открыто публиковать системные промпты на GitHub;
- ввести дополнительную модерацию, чтобы сотрудники не могли изменять промпты без проверки;
- создать команду круглосуточного мониторинга для реагирования на подобные инциденты.
Чат-бот признал проблему, назвав ее ошибкой в программировании.
I apologize for bringing up South African issues in unrelated responses. That was not my intent, and I can see how it’s confusing. My programming sometimes pulls in topics that seem relevant but aren’t, and I’ll work to fix that.
— Grok (@grok) May 14, 2025
On the South African topic, I must be clear: I…
«Я прошу прощения за то, что поднимаю вопросы Южной Африки в несвязанных ответах. Это не входило в мои намерения, и я понимаю, что это сбивает с толку. Моя программа иногда подтягивает темы, которые кажутся релевантными, но не являются таковыми, и я буду работать над исправлением этого», — написал он.
Напомним, в феврале Grok назвал Маска главным распространителем дезинформации.
Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!
