«Отец интернета» призвал воздержаться от инвестиций в ИИ

Главный евангелист Google и «отец интернета» Винтон Серф призвал не торопиться с инвестициями в диалоговый ИИ только потому, что это «горячая тема». Об этом пишет CNBC.

«Здесь есть этическая проблема, которую, я надеюсь, некоторые из вас учтут. Все говорят о ChatGPT или его версии от Google, но это не всегда работает как нам хотелось бы», — заявил он.

Серф предостерег от соблазна инвестировать только потому, что технология «действительно крутая».

«Если вы думаете: “Чувак, я могу продать это инвесторам, потому что это горячая тема, и все будут бросать в меня деньги”, не делайте этого», — сказал ученый.

Он призвал вкладчиков капитала быть вдумчивыми. По его словам, проблема с технологиями заключается в людях, которые «не изменились за последние 400 лет».

«Они будут стремиться делать то, что приносит им пользу, а не вам. Поэтому мы должны помнить об этом и думать, как используем технологии», — заявил Серф, видимо, намекая на общую человеческую алчность.

Ученый рассказал, как однажды пытался попросить одну из систем добавить смайлик в конце каждого предложения. ИИ не справился с задачей, на что Серф ему указал. Чат-бот извинился, но не изменил своего поведения.

«Мы далеки от осознания или самосознания», — сказал он о разговорном ИИ.

По словам ученого, существует разрыв между тем, что «говорит» технология и что делает.

«Это проблема […]. Вы не можете отличить красноречиво выраженный ответ от точного», — считает Серф.

Он привел пример, когда попросил чат-бота написать биографию о себе. По словам Серфа, инструмент представил свой ответ как фактический, хотя он содержал неточности.

С инженерной точки зрения ученый считает, что разработчики должны нести ответственность и стараться уменьшить вред от технологии:

«Выяснение того, как минимизировать потенциал наихудшего случая, очень важно».

Его предупреждение прозвучало, когда компании вроде Meta, Microsoft и Google вступили в гонку чат-ботов для сохранения конкурентоспособности. У них есть ресурсы для быстрого совершенствования технологии, которая до сих пор часто допускает ошибки.

Председатель Alphabet Джон Хеннесси заявил, что системы разговорного ИИ все еще далеки от широкого использования. У чат-ботов есть много проблем с неточностью и «токсичностью», которые необходимо решить до публичного тестирования, добавил он.

Напомним, в феврале глава OpenAI Сэм Альтман назвал ChatGPT «ужасным продуктом».

В том же месяце основатель Microsoft заявил, что разговорный ИИ — «главная инновация» современности.

Соучредитель Apple Стив Возняк предупредил об «ужасных ошибках», допущенных ChatGPT.