От автономного оружия до этических кодексов: как развивался искусственный интеллект в 2021 году

2021 год бросил миру вызовов не меньше предыдущего. Пандемия все еще бушует, целые отрасли остаются на удаленке или локдаунах, а технологический сектор страдает от дефицита полупроводников.

Однако кризис — это новые возможности. В этом материале редакция ForkLog AI расскажет о том, как продвинулась в уходящем году сфера ИИ и машинного обучения, и что нас ждет впереди. 

Технологическая гонка США и Китая

США и Китай не первый год ведут борьбу за первенство в области технологий, но пока ни одна из них не может по-настоящему считаться лидером.

В 2019 году Минфин США с подачи президента Дональда Трампа наложил санкции на Huawei и другие китайские компании, выведя конфликт на совершенно новый уровень. Более того, американцы надавили на западных партнеров, чтобы те отказались от использования технологий телеком-гиганта.

В марте 2021 года правительство Китая представило пятилетний план развития передовых технологий, в том числе искусственного интеллекта. Власти заявили, что будут увеличивать расходы на исследования и разработки более чем на 7% ежегодно до конца 2025 года.

При Джо Байдене политика в отношение КНР не изменилась. Новый глава Белого Дома продолжил давить на китайские компании с помощью санкций, а также создавать новые альянсы с явно антипекинским подтекстом.

12 июля Министерство торговли США ввело санкции против 14 китайских технологических компаний за нарушения прав человека в отношении уйгурского меньшинства в Синьцзяне. Американским предприятиям запретили вести с ними бизнес без специальной лицензии. В частности, поводом для новых ограничений стала публикация в BBC, в которой программист-инженер рассказал о тестировании на уйгурах системы распознавания эмоций в полицейских участках.

Спустя четыре месяца министерство ввело еще два пакета санкций. Первый касается около десятка китайских производителей технологий в области квантовых вычислений и искусственного интеллекта. Во второй «черный список» попали технологические фирмы, стартапы и производители электроники, в том числе разработчики дронов DJI.

10 декабря Минфин США наложил новые санкции на китайский ИИ-стартап SenseTime, заблокировав продажу акций американским инвесторам. Изначально компания планировала привлечь около $767 млн, однако из-за ограничений она приостановила выход на биржу и вернула деньги инвесторам.

Другими непрямыми методами противоборства стали правительственные инициативы и стратегии, направленные на развитие технологической отрасли стран. Со стороны Китая — вышеупомянутый пятилетний план развития экономики, а также поэтапная реализация документов, принятых с 2015 года.

Соединенные Штаты за один год предприняли сразу несколько мер. Комиссия по национальной безопасности в области искусственного интеллекта опубликовала отчет с рекомендациями для президента Байдена, Конгресса, руководителей бизнеса и правительства о сохранении технологического доминирования США. Документ состоит из 756 страниц и советует федеральному правительству увеличить финансирование отрасли до $40 млрд на ближайшие пять лет, создать коалицию с союзниками и продолжить разрабатывать автономное оружие.

В США создали комитет высокого уровня для консультирования президента и других агентств по вопросам искусственного интеллекта.

С призывами увеличить роль ИИ в обороне выступали и в Пентагоне. Глава Объединенного центра искусственного интеллекта Минобороны США генерал-лейтенант Майкл Гроен заявил, что вооруженные силы страны должны расширить использование искусственного интеллекта, чтобы не проиграть конкурентам, в первую очередь Китаю.

Однако некоторые чиновники считают, что гонка уже проиграна. Бывший директор Пентагона по программному обеспечению Николас Чейллен сделал резонансное заявление, которое в Минобороны поспешили опровергнуть. По его словам, Китай уже выиграл битву за искусственный интеллект и движется к мировому господству благодаря своим технологическим достижениям, а через 15–20 лет у Соединенных Штатов и вовсе не останется конкурентных преимуществ.

Но несмотря на публичное противостояние, США и Китай все еще зависят сильно друг от друга. КНР не может обойтись без западных технологий, в то время как Соединенные Штаты и партнеры не могут игнорировать огромный рынок сбыта своих товаров и услуг. Эта связка является практически непреодолимым препятствием на пути к планам экономической независимости.

Автономное оружие

Мы являемся свидетелями новой гонки вооружения, на этот раз усиленного искусственным интеллектом. Автономное оружие уже разрабатывается многими странами, такими как Россия, США, Китай, Турция и Израиль.

Летом ряд СМИ со ссылкой на отчет ООН сообщили о первом в мире случае убийства человека в военном конфликте с помощью беспилотного дрона. Более того, автономная машина не получала приказ о ликвидации цели, а приняла решение самостоятельно.

На протяжении года не раз всплывала информация о том, как Израиль использует современные технологии в военном деле. Армия страны стала первой в истории, использовавшей искусственный интеллект и суперкомпьютеры в реальном бою. Позже выяснилось, что израильские военные задействовали и рой дронов с ИИ в той же операции.

В этом контексте ярким примером является убийство иранского ученого-ядерщика Мохсен Фахризаде с помощью автономного оружия. 

Кроме этого, искусственный интеллект активно применяется в разведке. Имеются косвенные подтверждения об их использовании службами США и Великобритании.

Взять под контроль умное оружие пытается ООН. 13—17 декабря в Женеве прошла конференция Конвенции «О негуманном оружии», на которой страны-участники обсудили варианты регулирования умного оружия. 

Неожиданно Китай одним из первых выступил за ограничение «роботов-убийц» несмотря на то, что Пекин уже разрабатывает подобные системы. Тем не менее, страны не смогли договориться.

Метавселенные

Хотя концепция метавселенных далеко не нова, говорить о ней стали под конец 2021 года. Значительную роль в развитии направления сыграли пандемия и локдауны, которые ускорили цифровизацию многих аспектов повседневной жизни.

Свой вклад внесла и Facebook. 28 октября компания провела ребрендинг и сменила название на Meta, демонстрируя таким образом свою приверженность созданию метавселенной, которую считает «следующим этапом эволюции социальных связей».

Впервые Марк Цукерберг публично заявил о смене фокуса в июле. Тогда он рассказал, что компания сосредоточится на развитии метавселенной, работающей на VR- и AR-гарнитурах, мобильных устройствах и игровых консолях, перестав ассоциироваться лишь с социальной сетью. Трансформация займет около пяти лет.

Одновременно с ребрендингом Meta продемонстрировала реалистичные аватары, среду для их существования, а также нейроинтерфейс, позволяющий ими управлять. Цифровые копии людей и пространств должны будут стать основой будущей метавселенной компании.

Meta не единственная компания, стремящаяся построить собственные виртуальные миры. О таких планах уже заявили Nvidia, Microsoft, Epic Games и многие другие.

Роль искусственного интеллекта в создании метавселенной большая. В представленных демонстрациях Мета и Nvidia используются такие технологии, как компьютерное зрение, распознавание и синтезирование речи, понимание естественного языка, а также рекомендательные сети.

Однако до полноценных виртуальных миров, в которых смогут взаимодействовать люди и предметы, еще далеко. Серьезные ограничения в развитии направления накладывает отсутствие достаточных вычислительных ресурсов. В Intel уже сообщили, что для создания полноценных метавселенных потребуются процессоры в тысячу раз производительнее существующих.

Вместе с дефицитом полупроводников, который длится второй год и, судя по всему, не закончится и в 2022, мы еще не скоро сможем «сбежать» из реальности в виртуальные миры.

Языковая гигантомания

В сентябре 2020 года организация OpenAI наделала шума, представив новую версию языковой модели GPT-3. Конкуренты не заставили себя долго ждать: уже в январе Google представила языковую модель на 1 трлн параметров, а в мае компания объявила об их использовании в своих продуктах. Стоит отметить, что софтверный гигант давно применяет языковые модели в своих сервисах, например BERT в Поиске.

В августе Microsoft представила нейросеть MEB для своей поисковой системы Bing. По словам разработчиков, она выполняет «100% запросов на всех языках» и является крупнейшей моделью, созданной в компании.

Спустя два месяца Microsoft совместно с Nvidia разработала языковую модель Megatron-Turing Natural Language Generation с 530 млрд параметров. Она предназначена для генерации естественной речи и в три раза больше GPT-3.

Параллельно с этим Microsoft тесно сотрудничает с OpenAI. Еще осенью 2020 года компании заключили партнерство, согласно которому редмондская корпорация получила эксклюзивное право на использование GPT-3. Летом 2021 года компании представили Copilot для GitHub, который позволяет разработчикам автоматизировать некоторые процессы написания кода. Спустя четыре месяца после запуска компании отчитались, что инструмент помог написать около 30% нового кода, размещенного на площадке.

Российские разработчики не отстают от западных коллег. Компания «Яндекс» разработала собственную языковую модель на 13 млрд параметров YaML. На ее основе разработчики собрали демонстрационный сервис «Балабоба», где пользователи могут попросить нейросеть «додумать» предложение или целые куски текста, используя лишь небольшую вводную фразу.

Другие разработчики со всего мира также принялись создавать свои версии языковых моделей. Китайские программисты заявили, что создали самую крупную языковую модель в мире WuDao 2.0 с 1,75 трлн параметров, что в десять раз больше, чем у GPT-3.

Несмотря на растущую популярность трансформеров и языковых моделей, они несут в себе ряд угроз. Из-за качества данных, взятых в интернете, такие нейросети могут «говорить» языком ненависти и стереотипами. В OpenAI уже признали наличие проблемы и заявили о снижении токсичности GPT-3.

Кроме этого, модели часто работают лишь с популярными языками вроде английского, китайского или русского, игнорируя менее распространенные.

Беспилотные машины

В сфере беспилотного транспорта произошло много положительных событий, повлиявших на развитие отрасли. Крупнейшие автопроизводители все чаще применяют и тестируют системы беспилотного вождения, а также заявляют о планах выпуска инновационного транспорта на рынок.

Tesla 

Самый продуктивный год оказался у Tesla. Всего за несколько месяцев участники бета-тестирования Autopilot и Full-Self Driving (FSD) получили два крупных обновления систем помощи водителю. Электрокары научились лучше ориентироваться в темноте и распознавать автомобили с проблесковыми маячками, а общая стабильность автономного вождения повысилась.

Кроме этого, компания полностью отказалась от использования радаров и лидаров, положившись на обычные видеокамеры. Это несколько ограничивает возможности автопилота, так как сенсоры камеры могут плохо распознавать объекты в темноте, а алгоритмы ошибаться в их идентификации.

Не обошлось и без скандалов: в апреле автомобиль Tesla, предположительно в режиме автопилота, врезался в дерево и воспламенился. Авария унесла жизни двух людей.

Илон Маск, ссылаясь на системную информацию из автомобиля, сообщил, что за рулем кто-то был, а FSD не был активен. Несмотря на это, регуляторы запустили расследование и позже подтвердили слова главы компании.

Тем не менее, против компании выступили сразу с нескольких фронтов: автотранспортный департамент Калифорнии открыл дело из-за возможного несоответствия рекламных сообщений реальности. Ведомство утверждает, что Tesla обещает покупателям беспилотный автомобиль, а на самом деле система помощи водителю соответствует всего второму уровню автономности по классификации SAE. Это подтвердили и в самой компании: совет директоров сообщил регулятору, что не успеют создать автопилот пятого уровня до конца 2021 года.

Национальное агентство безопасности дорожного движения США начало расследование в отношении Tesla после серии аварий, в результате которых пострадали по меньшей мере 17 человек и один погиб.

Waymo

Планы других компании не менее амбициозные. При этом они действуют осторожнее, не давая пользователям огромный контроль над автопилотом. Waymo, дочерняя компания Google, сообщила о том, что ее автомобили наездили 32 млн автономных километров по дорогам общего пользования. На сегодня это абсолютный рекорд среди всех производителей беспилотного транспорта.

В августе компания запустила тестирование роботакси в Сан-Франциско, позволив всем желающим воспользоваться поездкой по городу без водителя. Спустя месяц Waymo получила разрешение на коммерческую эксплуатацию беспилотных машин на территории Калифорнии.

Яндекс

Российский «Яндекс» активно испытывает робомобили собственной разработки. Летом компания начала использовать автономных курьеров в пригородах Санкт-Петербурга и Москвы, а также объявила об их скором запуске в 250 американских кампусах. Осенью она начала тестировать беспилотное такси в российской столице.

Усилия компании не остались незамеченными: ее подразделение по разработке автономных машин оценили в $7 млрд и назвали одним из лидеров мирового рынка.

Другие игроки 

В Китае также наблюдается активное внедрение беспилотных электрокаров. Интернет-гигант Baidu уже запустил коммерческую службу роботакси в Шанхае и Пекине. Участников Олимпийских игр 2022 также будут развозить беспилотники компании.

Активно тестируют свои автономные транспортные средства и гиганты вроде Toyota, Volkswagen, BMW, General Motors и Ford.

Рынок автономного транспорта переживает переломный момент. Его развитию способствуют, с одной стороны, разработчики алгоритмов, а с другой — власти стран, стремящиеся постепенно интегрировать беспилотники на улицы городов: лишь в 2021 году с подобными инициативами выступили правительства стран вроде России, Великобритании, Германии, а также некоторых штатов США.

Однако в настоящее время системы автономного вождения все еще несовершенны и склонны ошибаться. Производителям предстоит проделать огромную работу по оптимизации алгоритмов и обеспечению безопасности дорожного движения.

Ужесточение регулирования технологии распознавания лиц 

Европа и США 

О возможном регулировании сферы искусственного интеллекта разговоры велись на протяжении всего года. Пожалуй, самым обсуждаемым событием стал представленный Еврокомиссией проект правил, предназначенный для ограничения использования и разработки некоторого вида ПО.

Законодатели предложили запретить приложения, позволяющие правительствам проводить социальную оценку или эксплуатировать детей.

Высокорисковый ИИ, используемый для найма персонала, обслуживания критической инфраструктуры, миграции и нужд правоохранительных органов, могут подвергнуть строгим обязательствам.

Нарушителей правил Комиссия предлагает штрафовать на сумму до 6% от их глобального оборота или 30 млн евро, в зависимости от того, какая цифра больше.

Проект вызвал множество споров со стороны правозащитников и некоторых регуляторных ведомств Евросоюза. Зачастую критика касалась планов разрешить использовать распознавание лиц, пускай и с некоторыми ограничениями. Они настаивают — массовое наблюдение грубо вмешивается в личную жизнь граждан и его следует безоговорочно запретить.

Системы распознавания лиц не остались в стороне и в других странах. Только лишь в США многие муниципалитеты запретили или сильно ограничили их использование. Нью-Йорк, Сан-Франциско, Чикаго, Бостон, Окленд и Миннеаполис — не полный список американских городов, оставшихся без распознавания лиц. Технологию ограничили и на территории целых штатов.

Clearview AI против всех 

Под шквалом критики оказалась компания Clearview AI. За последний год прозвучало множество призывов к ограничению деятельности компании, в том числе на законодательном уровне. Американский сенатор Рон Уайден представил законопроект, запрещающий федеральным агентствам покупать биометрические данные американцев.

Правительства других стран, в том числе Канады, Австралии, Франции и Великобритании, раскритиковали компанию и призвали ее прекратить незаконный сбор данных о гражданах.

Но несмотря на протесты политиков и правозащитников, Clearview AI не только продолжила активную деятельность, увеличив количество фотографий в базе данных до 10 млрд, но и привлекла $30 млн в раунде финансирования Серии B.

Россия 

Российские власти также пытаются обуздать технологию. Пока во многих странах звучат призывы и совершаются попытки ограничить распознавание лиц, в РФ такие системы активно внедряются.

В июне российские СМИ сообщили о планах государства объединить все городские камеры видеонаблюдения в единую сеть. А уже спустя несколько дней МВД развернуло в нескольких регионах новую систему, которая распознает лица и силуэты людей.

Правозащитники же считают, что системы биометрической идентификации необходимо ограничить. Они уверены, что повсеместное использование систем распознавания лиц угрожает приватности граждан и сохранности данных.

Власти Москвы с ними не согласны: в мэрии сообщили, что данные горожан надежно защищены, а доступ к ним имеют лишь ограниченное число лиц и ведомств.

Столичный метрополитен пошел еще дальше и в октябре запустил систему оплаты проезда с помощью биометрии. Пассажирам, прошедшим предварительную регистрацию через приложение перевозчика, необходимо подойти к специальному турникету и посмотреть в камеру. Система автоматически сверит снимок с базой, спишет средства и пропустит его к поездам.

В области стандартизации ИИ власти РФ предприняли несколько успешных мер. В середине года глава Росстандарта Антон Шалаев сообщил о намерении принять более 200 ГОСТов в сфере. Спустя три месяца ТК164 «Искусственный интеллект», разрабатывающий ИИ-стандарты, представил первые 36 проектов. Росстандарт уже утвердил 18 из них, большая часть которых вступит в силу в 2022 году.

Большой бизнес — большая ответственность

Рекомендательные алгоритмы Facebook

В 2021 году крупные IT-корпорации столкнулись с рядом проблем, вызвавших широкий общественный резонанс. Многие компании использовали алгоритмы в не самых благих целях, за что на них обрушился шквал критики как со стороны пользователей, так и политиков.

Пожалуй, в эпицентре самого громкого скандала года оказался Facebook (не в первый раз). Незадолго до ребрендинга, бывшая сотрудница соцсети рассказала, что компания знала о предвзятости алгоритмов, их способности разжигать ненависть и язык вражды, однако не спешила решать эти проблемы. По ее словам, подобный контент сильнее вовлекал пользователей, что позволяло Facebook зарабатывать больше денег на показе рекламы.

Представители соцсети всячески опровергали ее заявления и даже согласились открыть доступ к алгоритмам, чтобы доказать их безвредность. Однако это не помогло избежать последствий. Вскоре после публикации документов сразу несколько стран решили урегулировать деятельность рекомендательных алгоритмов. Соответствующие законопроекты представили в России, США и Китае.

Программы для расчета продуктивности от Amazon

В марте сотрудники службы доставки Amazon пожаловались, что компания обязывает их подписывать соглашения на слежку в автомобиле. В противном случае водителей увольняли. Отслеживание в фургонах предусматривает использование распознавания лиц и сбор информации с автомобильных датчиков. Эти данные компания использует для расчета продуктивности сотрудников и увольнения водителей с низкими показателями.

По словам сотрудников, программа не учитывает форс-мажоры, вызванные не по их вине, а возможности обжаловать увольнение у них нет. Как результат — Сенат Калифорнии запретил использовать программы расчета продуктивности на территории штата. Подобные ограничения могут ввести и в Нью-Йорке.

CSAM-сканер от Apple 

В августе компанию Apple уличили в попытке «залезть» в смартфоны пользователей. Корпорация объявила о намерении интегрировать в операционную систему функцию, которая сканировала бы содержимое iPhone, iPad и Mac на наличие контента жестокого обращения с детьми (CSAM).

Общественность сразу же раскритиковала нововведение, обвинив компанию в попытке установить «цензуру, слежку и преследования на глобальной основе». Несмотря на обещания Apple не превращать алгоритм в инструмент слежки, купертиновцы все же отложили введение функции. При этом критики упустили из виду тот факт, что сервис iCloud Mail сканирует почту пользователей на наличие CSAM-контента еще с 2019 года.

Монопольные аппетиты Nvidia 

Одна из крупнейших сделок в истории технологического сектора оказалась под угрозой срыва. Еще в сентябре 2020 года Nvidia объявила о намерении приобрести ARM за $40 млрд. Новость сразу же не понравилась как партнерам британской компании, так и регуляторам в разных странах.

В первую очередь против покупки выступила Великобритания. 19 апреля антимонопольный орган Соединенного Королевства объявил о начале расследования сделки. В ведомстве посчитали, что поглощение британского производителя чипов «угрожает нацбезопасности».

В августе регулятор запустил вторую фазу расследования, заморозив таким образом сделку на неопределенный срок.

Антимонопольные органы других стран, включая США, Китая и Евросоюза, также решили оценить риски слияния двух компаний.

Партнеры ARM сразу же раскритиковали планы Nvidia. Google, Microsoft и Qualcomm считают, что в случае закрытия сделки компания начнет вести нечестную борьбу и закроет им доступ к технологиям. Nvidia же опровергает все опасения и заявляет о продолжении сотрудничества с текущими партнерами ARM, а объединение портфелей продуктов и патентов двух чипмейкеров позволит ускорить развитие полупроводниковых продуктов.

Алгоритмическая предвзятость

Алгоритмы искусственного интеллекта, обученные на собранных человеком данных, способны перенимать наши стереотипы и видение мира. По крайней мере так считают ученые.

В течение всего года из разных уголков планеты приходили сообщения об ошибках в работе ИИ-инструментов. Некоторые из них просто вызывали улыбку, а другие заставляли поднимать важные вопросы об этичности использования искусственного интеллекта в той или иной сфере.

Многие исследователи проблемы алгоритмической предвзятости сходятся во мнении: исправить ситуацию можно и нужно. Для этого необходимо разнообразить данные обучения, проводить более тщательное тестирование и реагировать на тревожные сообщения.

Этические кодексы 

Важным шагом в борьбе с предвзятостью в 2021 году стали кодексы этики ИИ, одобренные некоторыми странами и международными организациями.

В октябре российское правительство совместно с крупнейшими технологическими корпорациями подписали Кодекс этики ИИ, регулирующий морально-этическую сторону использования технологии. Документ не обязывает абсолютно всех создателей алгоритмов в стране выполнять его нормы, он лишь содержит ряд рекомендаций относительно разработки. Однако компании, подписавшие его, взяли на себя обязательство придерживаться кодекса.

Этические нормы приняло и правительство Китая. По задумке властей, это поможет Пекину стать мировым лидером в области ИИ к 2030 году.

Летом Всемирная организация здравоохранения приняла руководящие принципы этического ИИ в медицине. В организации призвали ответственно подходить к разработке алгоритмов, чтобы минимизировать их предвзятость к пациентам.

В ноябре ЮНЕСКО приняла первое в истории соглашение для ответственного ИИ. Его подписали все 196 стран-участниц организации.

Это лишь первые шаги на пути к справедливым и непредвзятым алгоритмам, способным удовлетворить потребности максимального количества пользователей из разных социальных групп. По мере проникновения искусственного интеллекта количество вызовов будет расти, поэтому стоит подготовиться заранее, чтобы минимизировать потенциальный вред.

Выводы 

Уходящий год стал насыщенным для сферы искусственного интеллекта — пересказать абсолютно все в одном материале невозможно. Каждое из описанных событие в той или иной степени влияет на будущее не только индустрии, но и человечества в целом.

Но каким будет этот мир? Наверняка, скоро узнаем.