Мнение: эксперты «напуганы» собственными достижениями в сфере ИИ

Эксперты в области искусственного интеллекта «напуганы» своими достижениями, сравнивая развитие технологии с созданием атомной бомбы. Об этом заявил профессор Калифорнийского университета в Беркли Стюарт Рассел, пишет The Guardian.

По его словам, ИИ-сообщество еще не приспособилось к тому факту, что оно оказывает большое влияние в реальном мире. Ранее многие исследования не выходили за рамки лабораторий, однако в последние годы ситуация кардинально изменилась, добавил он.

«Теперь нам нужно очень быстро повзрослеть, чтобы наверстать упущенное», — считает профессор.

Рассел указал на наличие большого разрыва между современными технологиями и искусственным интеллектом, изображенным в таких фильмах, как Ex Machina. Однако будущее с машинами, которые умнее людей, по его словам, уже не за горами:

«Цифры варьируются от 10 лет для наиболее оптимистичного прогноза до нескольких сотен лет. Но почти все исследователи сходятся во мнении, что это произойдет в XXI веке».

Профессор подчеркнул, что машина не обязательно должна быть умнее людей во всем, чтобы представлять серьезный риск:

«Это то, что сейчас происходит. Сегодня алгоритмы в социальных сетях уже имеют огромный контроль над нашим когнитивным вводом».

По его мнению, в результате алгоритмы манипулируют пользователем, «промывая ему мозги» для более предсказуемого поведения.

Рассел также считает, что использование ИИ в военных целях, таких как стрелковое противопехотное оружие, вызывает особую озабоченность.

«Это очень легко масштабируются, то есть вы можете поместить миллион таких грузовиков в один, открыть заднюю часть, они поедут и уничтожат целый город», — сказал Рассел.

По словам эксперта, будущее ИИ заключается в разработке машин, которые знают, что истинная цель неопределенна и ее необходимо согласовывать с человеком. Однако реализация такой идеи сложна, потому что у разных людей предпочтения отличаются, а иногда вовсе противоречат друг другу.

Чтобы оставить контроль над технологией за человеком, ученый призвал международное сообщество к заключению договоров и принятию кодексов этики, регулирующих ее.

В 1995 году Рассел в соавторстве с Питером Норвегом написал книгу «Искусственный интеллект: современный подход», которая стала основополагающим учебником в базовом университетском курсе по данному направлению.

Напомним, в сентябре Комиссар ООН по правам человека Мишель Бачелет призвала запретить некоторые виды искусственного интеллекта.

В мае лауреат Нобелевской премии по экономике Даниэль Канеман заявил, что ИИ превзойдет человека, но не скоро.

В апреле пионер машинного обучения Майкл И. Джордан призвал не называть искусственным интеллектом все подряд.

Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!