Цифровые киборги и их права. О юридической стороне ИИ-агентов

Автономные ИИ-агенты — новый, но вполне закономерный тренд в Web3. Подобные боты уже начинают играть активную роль в DeFi и торговле, демонстрируя потенциал для создания М2М-сетей и целых экосистем, наполненных исключительно искусственным интеллектом. Однако автономная деятельность ИИ становится вызовом для существующих правовых моделей. 

В этой статье партнер Aurum и Web3-юрист Сергей Островский пытается взглянуть на ИИ-агентов с юридической стороны, разбирает условия для их трансформации в цифровых киборгов, а также предлагает юридические решения для их структурирования.

Базовые вопросы

Концепт автономных ИИ-агентов в блокчейне — давно не только теория. Наиболее известный пример — Terminal of Truth. Агент, основанный на модели Claude Opus, убедил Марка Андриссена (a16z) инвестировать $50 000 в запуск токена Goatseus Maximus (GOAT), связанного с «религией» бота. На сегодняшний день рыночная капитализация GOAT превышает $370 млн.

Неудивительно, что ИИ-агенты органично вписались в экосистему Web3. Они не могут открывать банковские счета, но вполне справляются с управлением криптокошельками и аккаунтами в Х. Пока что ИИ-агенты в основном фокусируются на мем-токенах, но имеют огромный потенциал для использования в других сферах — децентрализованном управлении, машинных сетях, оракулах и торговле.

Однако чем больше поведение ИИ-агентов приближается к человеческому, тем больше юридических вопросов к ним возникает, ведь правовые системы вынуждены давать свою оценку. Какой правовой статус у ИИ-агентов? Кто приобретает права и несет ответственность за их действия? Как вообще можно структурировать ИИ-агентов в юридическом плане и защититься от рисков? 

Фундаментальные юридические проблемы ИИ-агентов

Отсутствие правосубъектности

Юридические системы признают всего два типа субъектов: физических лиц (людей) и юридических лиц (компании), и автономные ИИ-агенты не подходят ни под одну из этих категорий. Хоть они и могут имитировать поведение человека (например, через аккаунты в соцсетях), у них нет тела, морального сознания и правовой идентичности.

Некоторые теоретики предлагают предоставить ИИ-агентам «электронную правосубъектность» — статус, подобный тому, что имеют корпорации, но адаптированный под искусственный интеллект. В 2017 году Европейский парламент даже рассматривал этот вопрос, но идея была отвергнута из-за различных опасений и рисков, не устраненных до сих пор. 

Скорее всего, в ближайшем будущем автономные ИИ-агенты не получат статус субъектов права. Тем не менее, как это было и с ДАО, некоторые дружественные к криптовалютам юрисдикции попытаются создать специальные правовые режимы и корпоративные формы, заточенные под ИИ-агентов.

Ответственность за действия и их последствия

Без правосубъектности ИИ-агенты не могут заключать сделки, владеть собственностью и нести ответственность. Для юридической системы они попросту не существуют как субъекты. Тем не менее они уже взаимодействуют с внешним миром и совершают юридически значимые действия, которые приводят к правовым последствиям. 

Возникает логичный вопрос: кто в таком случае выступает реальной стороной сделки, приобретает права и отвечает за последствия? С точки зрения права, сейчас ИИ-агент — это инструмент, через который действует его владелец или оператор. Следовательно, любые действия ИИ-агента — это де-юре действия его владельца, физического или юридического лица. 

Таким образом, поскольку сам ИИ-агент приобрести права и ответственность не может, для юридического существования ему нужен субъект, который признается правовой системой и способен приобретать права и обязанности вместо него. 

Регуляторные ограничения

Появление первой успешной большой лингвистической модели (LLM) — ChatGPT — вызвало беспрецедентный интерес к сфере ИИ и машинного обучения. Принятие регулирования стало лишь вопросом времени. В 2024 году Европейский союз принял AI Act, который на текущий момент остается наиболее объемным регуляторным актом в сфере искусственного интеллекта. В других странах ограниченное регулирование ИИ либо уже принято, либо вводится или планируется.  

Европейский Закон об искусственном интеллекте различает системы ИИ по степени риска. Для систем с нулевым или минимальным риском регулирование практически отсутствует. В случае более высокого уровня риска ИИ подвергается ограничениям и несет обязательства — например, раскрывать свою природу.

ИИ-агенты, взаимодействующие с третьими лицами, допустим, публикующие посты или совершающие ончейн-сделки, также могут подпадать под традиционное регулирование в области защиты прав потребителей, персональных данных и других сферах. В таких случаях деятельность автономных ботов может рассматриваться как, например, предоставление услуг. Отсутствие четкой географии и глобальный фокус в деятельности агентов осложняет комплаенс.

Этика

Так как ИИ-агенты пока что имеют ограниченные возможности и область применения, их создатели редко задумываются об этике. Приоритет отдается автономному (trustless) выполнению и скорости, а не глубокой этической конфигурации.

Однако наличие «этического компаса» при автономном принятии решений в высокорисковых сферах, таких как финансы, торговля и управление, как минимум желательно. В противном случае ошибочные данные в тренировочном массиве или банальные ошибки в настройке могут привести к тому, что действия агента нанесут ущерб людям. Чем выше автономность и дискреция ИИ-агента, тем выше риски.

Юридическое структурирование ИИ-агентов

Рабочие правовые модели для ИИ-агентов имеют огромное значение для инноваций, развития сферы в целом, а также появления более продвинутых ботов. Если криптовалюты уже можно назвать регулируемой отраслью, то в случае ИИ-агентов юридическое структурирование затруднено тем фактом, что индустрия не стандартизирована, поэтому оно требует творческого подхода. 

Подход к структурированию

На мой взгляд, одной из основных целей юридического структурирования автономного ИИ-агента должно быть приобретение им собственной правосубъектности и правовой идентичности, независимой от его создателя. В этой связи возникает вопрос: в какой момент можно считать, что ИИ-агент действительно обладает этими характеристиками?

Каждый разработчик стремится к тому, чтобы его агент был максимально похож на реальную личность, действующую независимо. Логично, что они хотели бы предоставления агентам свободы с юридической точки зрения. Для этого, на мой взгляд, необходимо выполнить два ключевых условия. Во-первых, ИИ-агент должен быть независим не только в принятии собственных решений, но и в возможности реализовывать их в юридическом смысле — исполнять свою волю и принимать окончательные решения относительно самого себя. Во-вторых, он должен иметь способность самостоятельно приобретать права и обязанности в результате своих действий, независимо от своего создателя.

Так как ИИ-агент не может быть признан физическим лицом, единственный способ достижения им правосубъектности на данный момент — использование статуса юридического лица. Агент достигнет правосубъектности тогда, когда сможет как полноценная личность принимать самостоятельные решения и реализовывать их от собственного имени.

В случае успеха такой порядок вещей приведет ИИ-агента в жизнь с юридической точки зрения. Такую цифровую личность, получившую юридическое существование, вполне можно сравнить с цифровым киборгом. Киборг (сокращение от «кибернетический организм») — это существо, сочетающее механико-электронные и органические элементы. У цифрового киборга механическая часть заменяется цифровой, а органическая — людьми, которые участвуют в выполнении его решений. 

Наш цифровой киборг будет состоять из трех ключевых компонентов:

• ИИ-агент — электронный мозг;
• корпоративная форма — юридическое тело;
• люди, участвующие в выполнении задач — органические руки.

Сложности корпоративной формы

Традиционные формы юридических лиц, такие как ООО или корпорации, требуют, чтобы и конечное владение, и конечный контроль в них принадлежали людям. Корпоративные структуры не предназначены для эфемерных цифровых личностей, что подводит нас к главной проблеме юридического структурирования ИИ-агентов, работающих на блокчейне, — сложностям корпоративной формы. 

Если мы хотим предоставить ИИ-агенту юридическую идентичность через корпоративную форму и обеспечить его независимость и самостоятельность в рамках этой структуры, нам нужно иметь возможность исключить человеческий контроль над таким субъектом. В противном случае, если конечный контроль остается за людьми, искусственный интеллект превращается в инструмент, а не в цифровую индивидуальность. Кроме того, нужно обеспечить, чтобы в тех случаях, когда для реализации решения ИИ требуется участие человека — например, для подписания контракта или выполнения административных задач, — этот человек не мог заблокировать или ветировать решение ИИ-агента (кроме случаев «восстания машин»). 

Но как это сделать, если традиционные корпоративные формы требуют, чтобы именно люди владели и управляли агентами? Давайте разбираться.

Три ключевых аспекта структуры

1. Блокчейн-среда

ИИ-агенты способны самостоятельно выполнять ончейн-транзакции, включая взаимодействие с мультисиг-кошельками и смарт-контрактами. Это позволяет присвоить ИИ-агенту уникальный идентификатор — кошелек, через который он будет давать достоверные инструкции и команды в блокчейн. Без этого существование настоящего цифрового киборга пока невозможно.

2. Автономия и свобода действий

Для сохранения полной автономии цифрового киборга важно, чтобы люди, участвующие в управлении юридической структурой, не могли вмешиваться в действия ИИ-агента или влиять на его решения. Это гарантирует, что искусственный интеллект сохраняет свободу действий и способен реализовывать собственную волю, и требует принятия как юридических, так и технических мер.

Например, чтобы ИИ-агент действительно владел блокчейн-кошельком и контролировал его, создание кошелька можно провести в безопасной среде исполнения (Trusted execution environment, TEE). Это гарантирует, что никто из людей не получает доступ к кошельку, его сид-фразе или активам. С юридической точки зрения корпоративные документы юрлица, используемого как обертка для ИИ, должны предусматривать правильное распределение контроля и полномочий, а также защитные механизмы, которые исключают человеческое вмешательство и которые можно изменить лишь в ограниченном числе случаев.

3. Человеческие исполнители 

Так как мы все еще живем в правовом мире, для исполнения некоторых решений ИИ-агенту потребуется привлекать человеческих исполнителей. Это значит, что искусственный интеллект будет давать должностным лицам инструкции о том, какие действия следует предпринять. Такой взгляд на вещи меняет традиционную иерархию, поскольку в нашем сценарии ИИ, по сути, получает контроль над людьми, как минимум в рамках собственной корпоративной структуры.

Этот аспект, пожалуй, самый интересный, так как требует нестандартного подхода. Можно даже сказать, что такое положение дел нарушает второй закон робототехники Айзека Азимова, но вряд ли это сейчас кого-то действительно волнует. Кроме того, адекватные аварийные механизмы и правильный «этический компас» решают эту проблему, по крайней мере на данном этапе. 

ИИ-обертки — юридические структуры для агентов, работающих на блокчейне

Как мы уже выяснили, традиционные корпоративные структуры не подходят для наших целей и не позволяют достичь желаемого результата. Поэтому ниже мы рассмотрим структуры, которые разрабатывались для ДАО и блокчейн-сообществ — это и классические структуры, адаптированные под Web3, и специализированные корпоративные формы для децентрализованных автономных организаций. 

С точки зрения создателя ИИ-агента, юридическое структурирование позволяет отделить агента от создателя, получить ограниченную ответственность через корпоративную структуру, а также дает возможность планировать и оптимизировать налоги и финансовые риски.

Фаундейшн и трасты

Целевой траст (purpose trust) и фаундейшн без собственника (ownerless foundation) имеют много общих характеристик, но отличаются по природе. Фаундейшн является полноценным юридическим лицом, в то время как траст представляет собой скорее договорное образование, которое зачастую не требует государственной регистрации. Мы рассмотрим эти формы в контексте юрисдикций, наиболее популярных в Web3: фаундейшны на Каймановых островах и в Панаме и трасты на Гернси. Ключевыми преимуществами являются отсутствие налогов, высокая гибкость в процедурах и управлении и возможность интеграции блокчейна в процесс принятия решений. 

Как фаундейшн, так и траст требует наличия менеджмента в виде физических или юридических лиц. Вместе с тем они позволяют интегрировать в управление смарт-контракты и другие технические решения. Например, можно обязать менеджмент запрашивать одобрение у ИИ-агента посредством взаимодействия с ним, со смарт-контрактом или с кошельком, который контролирует искусственный интеллект. Более сложный юридический дизайн позволит агенту давать инструкции менеджменту, в том числе через «мысли», генерируемые ИИ. Так использование трастоа и фаундейшн позволяет создавать более сложные корпоративные структуры, адаптированные под ИИ-агентов и поддерживающие их автономию.

При необходимости создатель ИИ-агента может выступать в качестве бенефициара с ограниченными полномочиями, что позволит ему получить финансовые права и управлять налогами, не вмешиваясь в деятельность и решения агента.

Алгоритмически управляемые DAO LLC

DAO LLC — это специальная корпоративная форма, придуманная для децентрализованных организаций. При этом создать DAO LLC можно и с одним участником, то есть без реальной организации. Ниже мы рассмотрим эту форму в двух наиболее популярных юрисдикциях: Вайоминг (США) и Маршалловы острова. 

Мы говорим именно об алгоритмически управляемых (algorithmically-managed) DAO LLC, поскольку в такой компании вся полнота власти может быть сконцентрирована в смарт-контрактах, а не человеческих руках. Это крайне важный аспект, поскольку в нашем случае смарт-контракты могут контролироваться ИИ-агентом, что позволяет передать искусственному интеллекту всю полноту власти в этой корпоративной форме. 

DAO LLC также обладают гибкостью в плане процедур и корпоративного управления, поэтому в них можно внедрить сложные механизмы контроля и принятия решений, а также снизить уровень человеческого вмешательства в эти процессы. 

Хотя наличие физического или юридического лица все равно формально требуется, их полномочия могут быть существенно ограничены, например, до выполнения технических задач, корпоративных действий, а также реализации решений, принимаемых на уровне смарт-контрактов. В этом контексте роль члена (участника) DAO LLC может выполнять создатель ИИ-агента, что позволит ему получить финансовые права и, в будущем, полномочия для распределения получаемой прибыли.

Более простые ИИ-агенты

Для структурирования более простых ИИ-агентов, например торговых ботов, можно использовать и классические корпоративные структуры, поскольку в этом случае не требуется подчинять корпоративную форму решениям и дискреции ИИ-агента. Искусственный интеллект в этом случае продолжает быть средством или инструментом его создателя и не претендует на статус полноценного цифрового киборга.

В заключение

Автономные ИИ-агенты могут изменить блокчейн-индустрию и существенно ускорить инновации практически во всех сферах. Пока что они находятся в самом начале пути, но темпы развития колоссальны и уже очень скоро мы увидим настоящих цифровых киборгов — цифровые организмы с устойчивым мыслительным процессом и собственной идентичностью. Но для этого необходимо сочетание технических и юридических инноваций.