Ян ЛеКун: ChatGPT — не особо инновационный, но хорошо скомпонованный


С точки зрения лежащих в основе методов чат-бот ChatGPT от OpenAI не является «особенно инновационным» и в нем «нет ничего революционного». Об этом заявил вице-президент Meta и ведущий ИИ-специалист компании Ян ЛеКун на Zoom-встрече с прессой, пишет ZDNet.
«Просто это хорошо скомпоновано, красиво сделано», — сказал исследователь.
По словам ЛеКуна, представление о том, что OpenAI — «уникальная в своем роде деятельности», неверно. ИИ-лаборатория «не особо продвинута» в сравнении с другими компаниями, добавил он.
«Это не только Google или Meta, а еще полдюжины стартапов, у которых есть похожие системы», — отметил ученый.
ЛеКун указал на то, что ChatGPT и языковая модель, на которой он основан, GPT-3, включают несколько созданных сторонними разработчиками технологий.
Чат-бот базируется на предобученных самоконтролируемых трансформерах, которые впервые описали инженеры Google Brain в 2017 году. Эти нейросети легли в основу множества языковых систем.
«А самоконтролируемое обучение — тема, с которой я выступал в течение долгого времени, еще до того, как появилась OpenAI», — сказал ЛеКун.
Он добавил, что первая большая языковая модель появилась около 20 лет назад. Ее создал глава Монреальского исследовательского ИИ-института MILA Йошуа Бенжио.
Также разработчики OpenAI использовали метод обучения с подкреплением, который впервые применили исследователи подразделения Google DeepMind.
«У него [ChatGPT] есть целая история, он не появился из вакуума», — сказал ЛеКун.

Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!
По словам топ-менеджера Meta, чат-бот OpenAI — не столько научный прорыв, сколько «достойный инженерный подход».
«И я не собираюсь критиковать их за это», — отметил он.
На вопрос журналиста The New York Times о том, будет ли когда-нибудь общество идентифицировать ИИ-команду FAIR из Meta с прорывами, как OpenAI, ЛеКун ответил «да».
«Не только касательно генерации текста, но и творчества», — добавил ученый.
Также исследователя спросили о причинах отсутствия подобных ChatGPT технологиях от Google и Meta.
«Они [техгиганты] могут многое потерять, выпуская алгоритмы, способные что-то придумывать», — ответил он.
Напомним, в октябре 2022 года Ян ЛеКун предложил наделить ИИ-системы «здравым смыслом».
В феврале сооснователь OpenAI Илья Суцкевер допустил наличие сознания у искусственного интеллекта. Ян ЛеКун категорично раскритиковал его заявление.
Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!