Забудьте о техно-оптимистах и луддитах — большинство людей оценивают ИИ по предполагаемым возможностям и потребностям в персонализации

Предположим, вам показали, что инструмент искусственного интеллекта предлагает точные прогнозы по некоторым акциям, которыми вы владеете. Как бы вы отнеслись к его использованию? Теперь предположим, что вы устраиваетесь на работу в компанию, где отдел кадров использует систему искусственного интеллекта для отбора резюме. Вам бы это понравилось?

Новое исследование показало, что люди не испытывают ни чрезмерного энтузиазма, ни полного неприятия по отношению к ИИ. Вместо того чтобы разделяться на технооптимистов и луддитов, люди в каждом конкретном случае оценивают практические результаты использования ИИ.

«Мы предполагаем, что ИИ ценится, когда его считают более способным, чем люди, а персонализация воспринимается как ненужная в данном контексте решения, — говорит профессор Массачусетского технологического института Джексон Лу, соавтор недавно опубликованной статьи с подробным описанием результатов исследования. – Неприятие ИИ возникает, когда не выполняется ни одно из этих условий, а оценка ИИ возникает только при выполнении обоих условий».

Статья «Отвращение к ИИ или его признание? Концепция персонализации возможностей и метааналитический обзор» опубликована в «Психологическом бюллетене». У статьи восемь соавторов, включая Лу, доцента кафедры развития карьеры и организационных исследований в Школе менеджмента Слоуна при Массачусетском технологическом институте.

Новый фреймворк добавляет понимания

Реакция людей на ИИ уже давно является предметом обширных дискуссий, часто приводящих к, казалось бы, противоречивым выводам. В 2015 году была опубликована влиятельная статья об «отвращении к алгоритмам», в которой говорилось, что люди менее снисходительны к ошибкам, допущенным ИИ, чем к человеческим ошибкам, в то время как в широко известной статье 2019 года об «уважении к алгоритмам» говорилось, что люди предпочитают советы ИИ советам людей.

Чтобы объяснить эти противоречивые результаты, Лу и его соавторы провели метаанализ 163 предыдущих исследований, в которых сравнивались предпочтения людей в отношении ИИ и людей. Исследователи проверили, подтверждают ли данные предложенную ими «концепцию возможностей и персонализации» — идею о том, что в определённом контексте как воспринимаемые возможности ИИ, так и воспринимаемая необходимость персонализации формируют наши предпочтения в отношении ИИ или людей.

В ходе 163 исследований научная группа проанализировала более 82 000 реакций на 93 различных «контекста принятия решений» — например, на вопрос о том, комфортно ли участникам было бы использовать ИИ для диагностики рака. Анализ подтвердил, что концепция «Возможности — Персонализация» действительно помогает учитывать предпочтения людей.

«Метаанализ подтвердил нашу теоретическую концепцию, — говорит Лу. — Оба аспекта важны: люди оценивают, способен ли ИИ выполнять ту или иную задачу лучше, чем люди, и требует ли задача персонализации. Люди предпочтут ИИ, только если считают, что ИИ способен выполнять задачу лучше, чем люди, а задача не требует персонализации».

Он добавляет: «Ключевая идея здесь в том, что высокая воспринимаемая способность сама по себе не гарантирует признания ИИ. Персонализация тоже имеет значение».

Например, люди склонны отдавать предпочтение ИИ, когда речь идёт о выявлении мошенничества или сортировке больших массивов данных — областях, в которых ИИ превосходит людей по скорости и масштабу, а персонализация не требуется. Но они более настороженно относятся к ИИ в таких контекстах, как терапия, собеседования при приёме на работу или постановка медицинского диагноза, где, по их мнению, человек лучше понимает их уникальные обстоятельства.

«У людей есть фундаментальное желание видеть себя уникальными и непохожими на других людей, — говорит Лу. — ИИ часто воспринимается как безличный и работающий по шаблону. Даже если ИИ обучен на огромном количестве данных, люди чувствуют, что ИИ не может понять их личные ситуации. Им нужен рекрутер-человек, врач-человек, который сможет увидеть в них нечто отличное от других людей».

Контекст тоже имеет значение: от осязаемости до безработицы

Исследование также выявило другие факторы, влияющие на предпочтения людей в отношении ИИ. Например, интерес к ИИ более выражен в отношении осязаемых роботов, чем в отношении неосязаемых алгоритмов.

Экономический контекст также имеет значение. В странах с низким уровнем безработицы ценность ИИ более очевидна.

«Это имеет интуитивный смысл, — говорит Лу. — Если вы беспокоитесь о том, что вас заменит ИИ, вы с меньшей вероятностью будете его использовать».

Лу продолжает изучать сложное и меняющееся отношение людей к ИИ. Хотя он не считает текущий метаанализ окончательным словом по этому вопросу, он надеется, что концепция «Возможности — Персонализация» поможет понять, как люди оценивают ИИ в разных контекстах.

«Мы не утверждаем, что воспринимаемые возможности и персонализация — единственные важные аспекты, но, согласно нашему метаанализу, эти два аспекта во многом определяют предпочтения людей в отношении ИИ по сравнению с людьми в целом ряде исследований», — заключает Лу.

Источник: Tech Xplore