27.03.2025
Исследователи из Университета Тулейн и Чикагского университета провели исследование, которое показало, что привычки пользователей при поиске и оптимизация поисковых систем на основе релевантности способствуют укреплению существующих убеждений. Было обнаружено, что вмешательства, основанные на алгоритмах, более эффективны в смягчении этих последствий, чем изменения, вносимые пользователями. Изменение алгоритмов поиска для получения более широких результатов увеличило частоту обновления информации, способствуя более широкому распространению фактов.
Поляризация убеждений влияет на восприятие фактической реальности в таких политических, медицинских, экономических, экологических и социальных вопросах, как иммиграция. Общественное мнение о мерах по охране здоровья во время пандемии COVID-19 продемонстрировало глубокие разногласия, аналогичные продолжающимся дебатам об изменении климата, социальной мобильности, иммиграции и экономическом неравенстве.
Поисковые системы потенциально могут способствовать социальной сплочённости, предоставляя широкий и разнообразный выбор, однако из-за своего устройства они часто способствуют укреплению убеждений. Поисковые алгоритмы отдают приоритет релевантности, фильтруя и ранжируя результаты, но такой подход может непреднамеренно создавать «эхо-камеры».
В исследовании под названием «Эффект узкого поиска и то, как расширение поиска способствует обновлению убеждений», опубликованном в PNAS, учёные провели 21 эксперимент, чтобы изучить, как поисковое поведение влияет на формирование убеждений по разным темам и на разных платформах.
В общей сложности 9906 участников использовали различные сценарии поиска с помощью Google, ChatGPT, Bing на базе ИИ и пользовательских поисковых интерфейсов. Участники создавали поисковые запросы по таким темам, как здоровье, финансы и политика. Поисковые запросы отражали уже существующие убеждения и влияли на результаты поиска, с которыми сталкивались участники. Контролируемые эксперименты измеряли, как эти результаты поиска влияют на убеждения после поиска. Исследователи внедряли как пользовательские, так и алгоритмические вмешательства, оценивая их влияние на обновление убеждений.
Результаты показали, что поисковые запросы соответствовали предыдущим убеждениям пользователей, что приводило к сужению результатов поиска. Участники, столкнувшиеся с такими узкими результатами, реже обновляли свои убеждения. Поиск в Google, ответы ChatGPT и поиск в Bing с использованием ИИ — все они демонстрировали эффект сужения результатов поиска, даже когда ответы включали противоположные точки зрения.
Изменение алгоритмов для получения более широких результатов значительно увеличило частоту обновления убеждений. Попытки побудить пользователей корректировать собственное поисковое поведение имели ограниченное влияние. Изменения в алгоритмах, которые обеспечивали сбалансированные результаты поиска, приводили к более значительным изменениям в убеждениях участников по сравнению с вмешательствами, направленными на пользователей. Любопытно, что участники не считали эти более широкие результаты поиска менее полезными или релевантными, что говорит о том, что расширение объёма информации не обязательно снижает удовлетворённость пользователей.
В одном исследовании участники, которым случайным образом показали только «полезные свойства» кофеина, в конце эксперимента с большей вероятностью выбрали напиток с кофеином, что продемонстрировало, что узкий поиск может влиять не только на убеждения, но и на реальные решения.
Поисковые системы, оптимизированные для релевантности, усиливают предвзятость подтверждения, ограничивая пользователей информацией, которая соответствует их уже сложившимся представлениям. Расширение результатов поиска с помощью алгоритмических вмешательств позволяет лучше знакомиться с различными точками зрения, способствуя обновлению убеждений.
Поисковые инструменты с поддержкой ИИ, которые включают более обширные и структурированные ответы, могут способствовать более глубокому пониманию сложных тем. В будущих исследованиях можно будет изучить, как дезинформация в результатах поиска влияет на обновление убеждений, а также рассмотреть дополнительные усовершенствования поисковых моделей на основе ИИ.
Источник: Phys.org
