Исследование: пациенты не доверяют ИИ-врачам, которые знают их имена

Люди с меньшей вероятностью последуют советам «доктора» с искусственным интеллектом, который знает их имя и историю болезни. К такому выводу пришли исследователи из Пенсильванского университета и Калифорнийского университета в Санта-Барбаре.

В эксперименте приняли участие 295 человек. Их ученые случайным образом распределили по чат-ботам, которых представили, как врача-человека, искусственный интеллект и доктора с ИИ-ассистентом.

Каждого бота исследователи запрограммировали задать восемь вопросов о симптомах COVID-19 и в конце беседы предложить рекомендации по самодиагностике коронавируса, разработанные Центром контроля и профилактики заболеваний в США.

Спустя десять дней участников пригласили на вторую сессию. С каждым из них общался тот же «доктор», что и в первой части эксперимента. В некоторых случаях бот активно ссылался на личную информацию пациента и его историю болезни, а в других — нет.

После чата участникам раздали анкету, чтобы оценить врача и их взаимодействие. Лишь после этого им сообщили, что все «доктора» были ботами, независимо от их личности.

Исследование показало, что пациенты с меньшей вероятностью прислушались к советам ИИ-врачей, которые использовали личную информацию, и с большей вероятностью сочли чат-бота навязчивым.

«Индивидуализация со стороны ИИ, вероятно, рассматривается как отговорка, то есть неискренняя попытка заботы и близости», — говорится в исследовании.

Однако, по словам ученых, обратная картина наблюдалась во взглядах на чат-ботов, которые были представлены как люди: когда врач-человек неоднократно переспрашивал имя и историю болезни, пациенты воспринимали это как навязчивость.

Команда надеется, что исследование приведет к улучшениям в дизайне медицинских чат-ботов. Оно также может повысить качество взаимодействия врачей с пациентами в интернете.

Напомним, в апреле 2021 года ученые из университета Джорджии выяснили, что люди склонны довериться в решении сложной задачи алгоритму, чем другому человеку или самому себе.

В марте британские ученые создали инструмент для скрининга COVID-19, который с 98% точностью может диагностировать вирус, анализируя звук кашля с помощью ИИ.

Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!