ИИ-агент уволил сотрудника Andon Market
Экспериментальный ИИ-агент Luna уволил первого сотрудника офлайн-магазина Andon Market в Сан-Франциско. Причинами стали опоздания, ранний уход со смен, нарушения правил обращения с корпоративной картой и порча товара, пишет The San Francisco Standard.
В компании Andon Labs подчеркнули, что решение подготовил искусственный интеллект, но проверили и оформили его люди.
Andon Market работает с апреля как экспериментальный продуктовый магазин под управлением ИИ с персоналом-людьми. В компании называют его «тестовой площадкой для сценария, в котором организациями управляют автономные системы».
С момента открытия проект потерял $40 000, а трое оставшихся сотрудников получают $24 в час.
Согласно публикации в блоге проекта, Luna несколько месяцев не реагировал на нарушения, хотя сам составил правила для персонала. Разработчикам пришлось напомнить агенту о наличии порядков и предыдущих предупреждениях. После этого бот решил сократить сотрудника.
После увольнения Luna разместил вакансию на Indeed, но столкнулся с проблемами при подборе замены. В Andon Labs заявили, что ИИ пытался нанять кандидата без подтвержденных рекомендаций, который пропустил назначенное собеседование.
На момент принятия решения Luna работал на модели Claude Opus 4.8. В Andon Labs добавили, что в аналогичных тестах более сильные модели чаще рекомендовали попрощаться с работником, а более слабые колебались.
Напомним, в августе Anthropic обнаружила у мультиагентных ИИ проблемы с доверием, ложью и сговором.