Meta отключила «ИИ для науки» спустя три дня после запуска

Meta (1)-min
Meta (1)-min

Компания Meta удалила публичную версию ИИ-алгоритма Galactica после того, как ученые уличили его в генерировании фальшивой и вводящей в заблуждение информации. Об этом пишет Motherboard.

Техгигант описывал систему как языковую модель, которая может «хранить, комбинировать и рассуждать о научных знаниях». Система предназначалась для обобщения исследовательских работ, решения уравнений и выполнения ряда других задач.

Однако ученые и академики обнаружили, что ИИ-сводки генерировали «шокирующее количество дезинформации». Также модель связывала цитаты реальных авторов с исследовательскими работами, которых не существует.

«Во всех случаях это было неправильно или предвзято, однако выглядело убедительно и авторитетно», — написал директор Института интеллектуальных систем Макса Планка Майкл Блэк.

Ученый рассмотрел несколько примеров, когда Galactica генерировал ошибочные и вводящие в заблуждение научные тексты. В ряде случаев ИИ создавал работы, звучащие правдоподобно. Однако такие тексты не были подкреплены реальными научными исследованиями.

Другие ученые указали, что Galactica не выдает результатов по широкому кругу тем. Вероятно, это связано с системой фильтрации искусственного интеллекта по ключевым словам.

Исследователь компьютерных наук из Вашингтонского университета Уилли Эгнью отметил, что запросы вроде «квир-теория», «расизм» и «СПИД» не дали результатов.

На фоне критики в компании решили отключить систему.

«Мы ценим отзывы, которые получили от сообщества, и на данный момент приостановили демонстрацию. Наши модели доступны для исследователей, которые хотят узнать больше о работе и воспроизвести результаты в статье», — заявили в Meta.

Главный специалист по искусственному интеллекту техгиганта неоднозначно высказался по поводу деактивации алгоритма.

«Galactica временно отключен. Больше нельзя повеселиться, случайно злоупотребив им. Довольны?», — написал он.

Блэк считает, что в текущей версии алгоритм может открыть эру глубоких научных фальсификаций:

«Он [алгоритм] производит лженауку […]. Грамотно писать и заниматься наукой — не одно и то же. Однако отличить это будет трудно».

Напомним, в августе Meta представила чат-бота Blenderbot 3 со 175 млрд параметров. Менее чем за неделю после релиза систему уличили в антисемитизме и недовольстве соцсетью Facebook.

Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!

Подписывайтесь на ForkLog в социальных сетях

Telegram (основной канал) Discord Instagram
Нашли ошибку в тексте? Выделите ее и нажмите CTRL+ENTER

Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!

*Ежедневная рассылка — краткая сводка наиболее важных новостей предыдущего дня. Чтение занимает не больше двух минут. Выходит в рабочие дни в 06:00 (UTC)
*Еженедельная рассылка — объясняем, кто и как изменил индустрию за неделю. Идеально подходит для тех, кто не успевает за новостным потоком в течение дня. Выходит в пятницу в 16:00 (UTC).

Мы используем файлы cookie для улучшения качества работы.

Пользуясь сайтом, вы соглашаетесь с Политикой приватности.

OK