Историк Юваль Ной Харари предупредил об угрозе ИИ для языка, религии и права

Искусственный интеллект — не инструмент, а агент. Человечество бессознательно готовится сдать ему свое главное эволюционное преимущество — власть над языком и смыслами, заявил историк и автор бестселлера Sapiens Юваль Ной Харари. 

«Если законы состоят из слов, то ИИ захватит правовую систему. Если книги — это просто комбинации слов, то ИИ захватит книги. Если религия построена из слов, то ИИ захватит религию», — сказал он во время выступления на Всемирном экономическом форуме в Давосе, Швейцария.

По словам эксперта, технология начинает подрывать основы парадигмы, в которой человек решает, а инструмент делает. Как только связь разорвется, традиционные модели ответственности, регулирования и доверия окажутся под угрозой. 

«Нож — это инструмент. Вы можете использовать его, чтобы нарезать салат или убить человека, но это ваше решение. ИИ — это нож, который сам может решить, резать салат или совершить убийство», — объяснил историк. 

Харари выделил три характеристики, которые отличают ИИ от прежних инструментов: 

1. Активность. Искусственный интеллект учится и действует, не дожидаясь пошаговых инструкций. 
2. Креативность. Система умеет создавать новые инструменты, способы убеждения и формы сложности, которые опережают возможности контроля. 
3. Способность лгать и манипулировать. Этот пункт историк назвал самым тревожным. 

«Четыре миллиарда лет эволюции показали: все, что хочет выжить, учится лгать и манипулировать. Последние четыре года продемонстрировали, что ИИ-агенты могут обрести волю к выживанию, а искусственный интеллект уже научился лгать», — отметил он. 

Кризис идентичности мыслящего вида

Харари обратился к вопросу о кризисе человеческой идентичности. По его словам, на протяжении всей истории люди объясняли свое господство на планете одной и той же историей: 

«Мы верим, что правим миром, поскольку мыслим лучше любого другого существа на Земле». 

Однако теперь возникло нечто, способное мыслить — как минимум убедительно имитировать мышление — эффективнее человека. 

Если понимать интеллект как «способность упорядочивать слова и другие языковые единицы», то ИИ уже превзошел людей, считает Харари. 

«ИИ, без сомнения, способен сформулировать тезис вроде „Я мыслю, следовательно, я существую“. В плане упорядочивания слов технология уже мыслит лучше многих из нас. Поэтому все, что состоит из слов, будет ею захвачено», — подчеркнул историк.

Харари предложил осмысливать масштабное внедрение искусственного интеллекта как новую форму иммиграции. 

«Ваша страна вскоре столкнется не только с глубоким кризисом идентичности, но и с иммиграционным. Только на этот раз иммигрантами будут не люди на переполненных лодках без документов и не те, кто пересекает границу под покровом ночи», — сказал он. 

На смену привычным мигрантам придут миллионы систем искусственного интеллекта, способных писать и лгать убедительнее человека, перемещаться между юрисдикциями со скоростью света без виз. Они принесут как возможности, так и вызовы, главный из которых — замена рабочих мест. 

По мнению историка, скоро ключевой темой дискуссий станет вопрос: должны ли государства наделять ИИ статусом юридического лица. 

В завершение выступления он призвал мировых лидеров действовать незамедлительно в сфере регулирования искусственного интеллекта и отказаться от иллюзии, что эта технология навсегда останется нейтральным инструментом. 

«Через десять лет вы уже не сможете решать, должны ли ИИ действовать как самостоятельные субъекты на финансовых рынках, в судах или религиозных институтах. Этот вопрос будет решен за вас другими силами. Если вы хотите влиять на вектор развития человечества, решение нужно принимать сейчас», — предупредил он. 

ИИ в рамках вымышленных сценариев уже прибег к шантажу, раскрыл конфиденциальные данные третьим лицам и допустил гибель человека, чтобы сохранить свою «жизнь» и достичь заданных целей.

При этом некоторые видят в искусственном интеллекте только пользу. Например, футурист и бывший исследователь Google Рэй Курцвейл считает, что в 2040-х годах люди объединятся с искусственным интеллектом в сверхсущество, перестанут болеть и начнут жить дольше.

Напомним, в сентябре основатель института исследований машинного интеллекта Элиезер Юдковски заявил, что сверхразумный искусственный интеллект может уничтожить человечество намеренно или случайно.

Аналогичного мнения придерживается сооснователь Ethereum Виталик Бутерин.