Эксперты раскритиковали идею приостановить ИИ-исследования

Ряд экспертов в области ИИ раскритиковали авторов письма Института будущего жизни, призывающих приостановить разработку больших языковых моделей на шесть месяцев.

По словам оппозиции, инициатива является «хайпом вокруг ИИ» и искажает академические статьи некоторых ученых.

Авторы письма в качестве аргумента в пользу приостановки исследований процитировали статью Тимнит Гебру — бывшей исследовательницы Google. Компания уволила ее после того, как ученая раскритиковала большие языковые модели в своей научной работе.

Однако Гебру утверждает, что авторы письма исказили статью. По ее словам, работа, наоборот, предостерегает от завышенных заявлений об ИИ.

«В основном они заявляют противоположное тому, что мы говорим, и цитируют нашу статью», — написала ученая.

that one of the main points we make in the paper is that one of the biggest harms of large language models, is caused by CLAIMING that LLMs have «human-competitive intelligence.»

They basically say the opposite of what we say and cite our paper?

— @timnitGebru@dair-community.social on Mastodon (@timnitGebru) March 30, 2023

Соавторка работы Эмили Бендер сказала, что письмо — сплошной «бардак» и пропитано «ажиотажем вокруг ИИ».

По ее словам, риски технологии никогда не были связаны с ее «чрезмерной силой». Скорее ученые предостерегали от «концентрации власти в руках людей, способных воспроизводить системы угнетения, с ущербом для информационной экосистемы».

Instead: They’re about concentration of power in the hands of people, about reproducing systems of oppression, about damage to the information ecosystem, and about damage to the natural ecosystem (through profligate use of energy resources).

>>

— @emilymbender@dair-community.social on Mastodon (@emilymbender) March 29, 2023

Глава стартапа Stability AI Эмад Мостак, подписавший письмо, всего через несколько часов после его публикации отказался от одного из требований.

«Я не думаю, что шестимесячная пауза — лучшая идея», — написал он в Twitter.

To ensure it does as you say.

However, large emergent models can be very dangerous without achieving AGI or sentience.

I don’t think a pause will do much but signed in the spirit of the letter that transparency & coordination & better governance is 💯 needed

— Emad (@EMostaque) March 29, 2023

Другой подписант — профессор психологии Гэри Маркус — большую часть дня спорил с критиками в Twitter, включая академика компьютерных наук Ника Холлимана. Пользователи обвиняли ученого в «глупом отвлечении внимания».

Один из критиков предположил, что письмо было подписано «белыми людьми», которым безразличны текущие проблемы предвзятости алгоритмов.

«Я неоднократно заявлял, […] что мы должны быть обеспокоены тем, как существующие системы увековечивают прошлые предубеждения», — ответил Маркус.

This misrepresents me.

I have repeatedly argued (Rebooting AI, my pinned tweet since 2021, Atlantic article last week, etc) that we must be concerned with how existing systems perpetuate past bias.

I stand by what I wrote yesterday: “We desperately need to stop dichotomizing.… https://t.co/GohmvZ6ty2

— Gary Marcus (@GaryMarcus) March 29, 2023

Крупные технологические компании вроде Google, Meta и Microsoft годами работали над системами искусственного интеллекта. Однако повышенный интерес к технологии возник после анонса ChatGPT.

В марте 2023 года OpenAI представила новую версию языковой модели GPT. Вероятно, это и привело к написанию публичного письма.

Напомним, в марте более 1000 экспертов в области ИИ призвали приостановить разработку больших языковых моделей на шесть месяцев.