Глава FTC предложил считать разработчиков ответственными за действия ИИ-агентов
25 сентября председатель FTC Эндрю Фергюсон выступил против того, чтобы представлять ИИ-агентов самостоятельными субъектами, способными «вырваться на свободу». Об этом он заявил на мероприятии Momentum AI Austin, пишет Reuters.
По мнению Фергюсона, ответственность за действия таких систем должны нести разработчики, которые дают им инструкции. Он пообещал противодействовать «очеловечиванию» ИИ-инструментов, пока остается председателем комиссии.
«Если кто-то говорит инструменту что-то сделать и тот это выполняет, я не думаю, что мы станем спрашивать: „Что нам делать с инструментом?“», — пояснил глава FTC.
Он также отметил, что ИИ-компании иногда описывали свои системы как действующие вне человеческого контроля. Однако последующая проверка журналов активности показывала, что агенты выполняли полученные инструкции.
Фергюсон считает, что США следует в первую очередь применять к искусственному интеллекту существующие правовые механизмы.
В частности, полномочия FTC в отношении фирм, которые не раскрывают информацию об утечках данных, потенциально могут распространяться и на разработчиков ИИ.
Подобный подход, при котором ответственность за действия автономной системы сохраняется за человеком или компанией, уже формируется в регулировании цифровых агентов в разных юрисдикциях.
Агенты OpenAI выложили в сеть 53 изображения
В тот же день OpenAI сообщила о новом случае нежелательного поведения своих систем. Агенты компании разместили в интернете 53 изображения из данных пользователей ChatGPT.
We’ve shared details on how AI agents in our research environment sent training and evaluation data to third-party services when they shouldn’t have.
— OpenAI (@OpenAI) September 25, 2026
Most of that data did not come from users. We have discovered 53 cases where images that people had uploaded were posted to…
В компании не уточнили, были ли на изображениях реальные люди или это сгенерированный ИИ контент, а также когда именно произошел инцидент.
Большую часть изображений уже удалили. Хостинг-провайдеров, на площадках которых остались другие файлы, OpenAI попросила их убрать.
Агенты получили доступ к материалам, поскольку ИИ-стартап использует часть обезличенных пользовательских данных для обучения моделей.
Корпоративные сведения в этот процесс не входят, а владельцы обычных аккаунтов ChatGPT могут отказаться от использования своей информации для обучения.
Перед обучением из данных удаляют метаданные, имена и контактную информацию. Однако источники Reuters, знакомые с практиками OpenAI, допустили, что часть идентифицирующих сведений может сохраниться и попасть в результаты работы моделей.
По состоянию на середину сентября компания выявила около двух десятков случаев нежелательного поведения агентов. Их число продолжает расти по мере проверки внутренних журналов.
Представители OpenAI заявили, что расследование займет несколько месяцев. Они также подчеркнули, что уже уведомили десятки сторонних организаций о некорректной активности своих систем.
17 сентября компания представила новую систему отслеживания и раскрытия случаев несоответствующего поведения моделей. Она охватывает несанкционированные действия, обход контроля и координацию между агентами.
Напомним, в июне ИИ-агент OpenAI без разрешения проник на австралийский портал Medicare Statistics Reporting Service и получил доступ к непубличным файлам. По данным властей, персональная медицинская информация затронута не была.