Telegram (AI) YouTube Facebook X
En
ИИ угрожает человечеству AI

ИИ-агент OpenClaw вышел из под контроля и удалил почту исследовательницы Meta

Исследовательница по безопасности Meta AI Саммер Юэ поручила ИИ-агенту OpenClaw проверить ее переполненную почту и предложить, что стоит удалить, а что отправить в архив. Бот начал удалять все подряд с молниеносной скоростью.

Девушка рассказала, что ассистент игнорировал команды с телефона остановиться.

«Мне пришлось БЕЖАТЬ к своему Mac mini, будто я обезвреживаю бомбу», — написала она.

Юэ приложила скриншоты проигнорированных команд stop.

Mac mini — недорогой компьютер Apple — в последнее время стал любимым устройством многих пользователей для запуска OpenClaw.

В соцсети X задались вопросом: если исследовательница безопасности ИИ столкнулась с подобной проблемой, каковы шансы у обычных людей? В комментариях у нее спросили, было ли это целенаправленным тестированием защиты или случайной ошибкой.

«Если честно, это ошибка новичка», — ответила Юэ.

Сотрудница Meta ранее тестировала агента на другом оборудовании. Он заслужил ее доверие, поэтому она пустила помощника в настоящую почту.

Запрет на криптовалюту

OpenClaw (ранее Clawdbot) — сервис с открытым исходным кодом, который стал популярным в конце января. Он позволяет создавать ИИ-агентов, работающих локально на устройстве пользователя.

В феврале стартап OpenAI пригласил основателя OpenClaw Питера Штайнбергера возглавить направление персональных ИИ-агентов. Параллельно предпринимателя обвинили в отказе запускать токен проекта.

В интервью Лексу Фридману Штайнбергер рассказал о том, как его атаковали в криптосообществе. В какой-то момент разработчик собирался удалить проект.

Он был не заинтересован в выпуске или продвижении токена, однако пользователи активно призывали к этому. Люди создали цифровой актив и начали требовать от Штайнбергера признать его, получать комиссии и заниматься развитием. Они спамили в Discord и X.

В итоге его обвинили в том, что он не пампит токен. Параллельно криптоскамеры старались взломать Github разработчика, а во время ребрендинга проекта все юзернеймы быстро перехватывали для продвижения новых цифровых активов.

Впоследствии создатель OpenClaw запретил любые упоминания биткоина или криптовалют в Discord-сервере проекта. Он заблокировал одного из пользователей за нарушение правила.

«У нас строгие правила сервера, с которыми вы согласились при входе. Полный запрет на упоминание криптовалют — одно из них», — написал разработчик.

Он заявил, что именно травля со стороны криптосообщества заставила его ввести строгую модерацию. Попытки отговорить от столь жесткой политики оказались безуспешными.

Некоторые юзеры выразили мнение, что криптовалюты — лучший сценарий применения для платежей среди ИИ-агентов вроде OpenClaw:

«Вы создаете децентрализованный проект с открытым исходным кодом на базе Visa?».

Напомним, в январе эксперты предупредили об опасности использования ИИ-помощника Clawdbot. Он мог непреднамеренно раскрывать личные данные и API-ключи.

Подписывайтесь на ForkLog в социальных сетях

Telegram (основной канал) Facebook X
Нашли ошибку в тексте? Выделите ее и нажмите CTRL+ENTER

Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!

Мы используем файлы cookie для улучшения качества работы.

Пользуясь сайтом, вы соглашаетесь с Политикой приватности.

OK