Мнение: эксперты «напуганы» собственными достижениями в сфере ИИ
Эксперты в области искусственного интеллекта «напуганы» своими достижениями, сравнивая развитие технологии с созданием атомной бомбы. Об этом заявил профессор Калифорнийского университета в Беркли Стюарт Рассел, пишет The Guardian.
По его словам, ИИ-сообщество еще не приспособилось к тому факту, что оно оказывает большое влияние в реальном мире. Ранее многие исследования не выходили за рамки лабораторий, однако в последние годы ситуация кардинально изменилась, добавил он.
«Теперь нам нужно очень быстро повзрослеть, чтобы наверстать упущенное», — считает профессор.
Рассел указал на наличие большого разрыва между современными технологиями и искусственным интеллектом, изображенным в таких фильмах, как Ex Machina. Однако будущее с машинами, которые умнее людей, по его словам, уже не за горами:
«Цифры варьируются от 10 лет для наиболее оптимистичного прогноза до нескольких сотен лет. Но почти все исследователи сходятся во мнении, что это произойдет в XXI веке».
Профессор подчеркнул, что машина не обязательно должна быть умнее людей во всем, чтобы представлять серьезный риск:
«Это то, что сейчас происходит. Сегодня алгоритмы в социальных сетях уже имеют огромный контроль над нашим когнитивным вводом».
По его мнению, в результате алгоритмы манипулируют пользователем, «промывая ему мозги» для более предсказуемого поведения.
Рассел также считает, что использование ИИ в военных целях, таких как стрелковое противопехотное оружие, вызывает особую озабоченность.
«Это очень легко масштабируются, то есть вы можете поместить миллион таких грузовиков в один, открыть заднюю часть, они поедут и уничтожат целый город», — сказал Рассел.
По словам эксперта, будущее ИИ заключается в разработке машин, которые знают, что истинная цель неопределенна и ее необходимо согласовывать с человеком. Однако реализация такой идеи сложна, потому что у разных людей предпочтения отличаются, а иногда вовсе противоречат друг другу.
Чтобы оставить контроль над технологией за человеком, ученый призвал международное сообщество к заключению договоров и принятию кодексов этики, регулирующих ее.
В 1995 году Рассел в соавторстве с Питером Норвегом написал книгу «Искусственный интеллект: современный подход», которая стала основополагающим учебником в базовом университетском курсе по данному направлению.
Напомним, в сентябре Комиссар ООН по правам человека Мишель Бачелет призвала запретить некоторые виды искусственного интеллекта.
В мае лауреат Нобелевской премии по экономике Даниэль Канеман заявил, что ИИ превзойдет человека, но не скоро.
В апреле пионер машинного обучения Майкл И. Джордан призвал не называть искусственным интеллектом все подряд.
Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!