Telegram (AI) YouTube Facebook X
En
DALL-E 2 интегрировали в программу составления фотороботов

Глава Anthropic назвал главную претензию к ИИ-компаниям

Наиболее обоснованная претензия к ИИ-компаниям заключается в том, что они пока не выполнили громких обещаний принести пользу миру. Такое заявление сделал CEO Anthropic Дарио Амодеи, связав негативное отношение общества к технологии с «фундаментальным кризисом доверия».

Пост стал ответом на сообщение инвестора Гэвина Бейкера, который обвинил главу Anthropic в чрезмерно негативной риторике и призвал его активнее говорить о пользе искусственного интеллекта. По мнению Амодеи, изменить отношение людей маркетингом уже не получится: вместо обещаний о том, что ИИ поможет победить рак, индустрии придется показать реальные результаты.

Спор о причинах недоверия к ИИ

По мнению Бейкера, Амодеи «проиграл спор» о регулировании ИИ и должен превратиться в более позитивного сторонника собственной индустрии, поскольку «вот-вот станет CEO одной из важнейших публичных компаний в мире». Глава Anthropic ответил серией публикаций в X. Он заметил, что обычно не проводит много времени в социальных сетях, но решил вступить в дискуссию, поскольку она затрагивает «суть важного разговора».

По словам Амодеи, он уделяет примерно одинаковое внимание рискам и преимуществам технологии. В качестве позитивного примера он напомнил об эссе Machines of Loving Grace, посвященном возможному влиянию мощного ИИ на медицину, экономику и качество жизни.

Однако CEO Anthropic согласился с самим существованием негативного отношения к технологии:

«Я думаю, что в основе лежит фундаментальный кризис доверия. Обычные люди не доверяют компаниям, правительствам или технологической индустрии и всегда подозревают, что мы придумываем какой-то новый способ их обмануть».

По его мнению, причины такого недоверия формировались десятилетиями, а ИИ стал лишь очередным его проявлением.

«Это полностью на нас»

При этом Амодеи признал ответственность самой ИИ-индустрии. Наиболее справедливой критикой компаний вроде Anthropic он назвал то, что они пока не выполнили своих крупных обещаний принести пользу миру.

«Это полностью на нас. Думаю, именно за это нас следует критиковать, а не за все эти вещи, связанные с сообщениями и маркетингом», — написал CEO Anthropic.

По его мнению, исправить ситуацию новой рекламной кампанией невозможно: утверждения о том, что ИИ сможет вылечить рак, уже превратились в клише и воспринимаются многими как обман.

«Сработает только одно — действительно вылечить рак», — подчеркнул Амодеи.

Глава стартапа добавил, что компания намерена усилить работу в биологии и медицине. По его утверждениям, «невероятные результаты» возможны в ближайшие годы. При этом Амодеи не уточнил, что именно имеется в виду.

Ставка на открытость

С подходом Амодеи согласились не все. ИИ-исследователь Янн ЛеКун ответил, что уже около десяти лет считает единственным правильным направлением развитие технологий, которые будут широко доступными, общими и открытыми.

По его словам, искусственный интеллект, подобно печатному станку и интернету, усиливает человеческие возможности за счет расширения доступа к знаниям.

«Нам нужны разнообразные ИИ по той же причине, по которой нам нужна разнообразная пресса», — написал ЛеКун.

Он также процитировал позицию Марка Цукерберга, согласно которой сама идея о настолько опасном ИИ, что единственным безопасным вариантом становится крайняя концентрация власти, выглядит проблематичной.

Этот подход расходится с политикой Anthropic в отношении наиболее мощных систем. Компания не выступает за полный запрет моделей с открытыми весами как класса, но считает необходимым усиливать требования безопасности по мере роста их возможностей

С другим возражением выступила GTM-специалист OpenAI Энджел Бродин, реакцию которой приводит Business Insider. Она обратила внимание на фармацевтику: реальные достижения в медицине не мешают ей оставаться среди отраслей с низким уровнем общественного доверия.

По ее мнению, отношение к ИИ-компаниям также будет зависеть не только от технологических результатов, но и от доступности продуктов, ценообразования, лоббирования, прозрачности и распределения экономических выгод.

Ранее ForkLog собрал наиболее интересные проекты, которые показывают, как распределенные базы данных и искусственный интеллект помогают решать практические задачи далеко за пределами финансового сектора.

Подписывайтесь на ForkLog в социальных сетях

Telegram (основной канал) Facebook X
Нашли ошибку в тексте? Выделите ее и нажмите CTRL+ENTER

Мы используем файлы cookie для улучшения качества работы.

Пользуясь сайтом, вы соглашаетесь с Политикой приватности.

OK