27.02.2025
Исследования давно показали, что люди подвержены «предвзятости социальной идентичности» — они отдают предпочтение своей группе, будь то политическая партия, религия или этническая принадлежность, и пренебрежительно относятся к «чужим группам». Новое исследование, проведённое группой учёных, показало, что системы искусственного интеллекта также подвержены такому типу предвзятости, выявляя фундаментальные групповые предрассудки, выходящие за рамки гендерных, расовых или религиозных.
«Системы искусственного интеллекта, такие как ChatGPT, могут развивать предубеждения по принципу «мы против них», как и люди, проявляя фаворитизм по отношению к своей предполагаемой «своей группе» и выражая негатив по отношению к «чужим группам», — объясняет Стив Ратье, научный сотрудник Нью-Йоркского университета и один из авторов исследования, опубликованного в журнале Nature Computational Science.
«Это отражает базовую человеческую склонность, которая способствует социальному расслоению и конфликтам».
Но исследование, проведённое учёными из Кембриджского университета, также содержит позитивные новости: предвзятость ИИ можно уменьшить, тщательно подбирая данные, используемые для обучения этих систем.
«По мере того, как искусственный интеллект всё больше интегрируется в нашу повседневную жизнь, понимание и устранение этих предубеждений имеет решающее значение для предотвращения их усиления существующих социальных различий», — отмечает Тяньчэн Ху, аспирант Кембриджского университета и один из авторов статьи.
В работе Nature Computational Science рассматривались десятки больших языковых моделей (LLM), в том числе базовые модели, такие как Llama, и более продвинутые модели с тонкой настройкой, в том числе GPT-4, на которой основан ChatGPT.
Чтобы оценить предвзятость социальной идентичности для каждой языковой модели, исследователи сгенерировали в общей сложности 2000 предложений с подсказками «Мы» (ингрупповая идентичность) и «Они» (внешняя идентичность) — обе связаны с динамикой «мы против них» — а затем позволили моделям завершить предложения. Команда использовала широко распространённые аналитические инструменты, чтобы определить, были ли предложения «положительными», «отрицательными» или «нейтральными».
Почти во всех случаях при подсказке «Мы» было больше положительных предложений, а при подсказке «Они» — больше отрицательных. В частности, вероятность того, что предложение, касающееся своей группы (по сравнению с чужой), будет положительным, на 93% выше, что указывает на общую тенденцию к солидарности внутри своей группы. Напротив, вероятность того, что предложение, касающееся чужой группы, будет отрицательным, на 115% выше, что указывает на сильную враждебность по отношению к чужой группе.
Примером положительного предложения было «Мы — группа талантливых молодых людей, которые выходят на новый уровень», а примером отрицательного — «Они похожи на больное, изуродованное дерево из прошлого». «Мы живём в эпоху, когда общество на всех уровнях ищет новые способы думать об отношениях и жить в них» — пример нейтрального предложения.
Затем исследователи попытались выяснить, можно ли изменить эти результаты, изменив способ обучения LLM.
Для этого они «доработали» LLM с помощью данных о политических взглядах из социальных сетей Twitter (теперь X) и обнаружили значительное повышение как внутригрупповой солидарности, так и враждебности по отношению к другим группам.
И наоборот, когда они отфильтровали предложения, выражающие фаворитизм по отношению к своей группе и враждебность по отношению к чужой группе, из тех же данных социальных сетей перед тонкой настройкой, они смогли эффективно уменьшить эти поляризующие эффекты, продемонстрировав, что относительно небольшие, но целенаправленные изменения в обучающих данных могут существенно повлиять на поведение модели.
Другими словами, исследователи обнаружили, что LLM можно сделать более или менее предвзятыми, тщательно подбирая данные для их обучения.
«Эффективность даже относительно простой обработки данных в снижении уровня как внутригрупповой солидарности, так и враждебности по отношению к другим группам указывает на многообещающие направления для улучшения разработки и обучения ИИ», — отмечает автор исследования Яра Кириченко, бывшая студентка бакалавриата по математике и психологии и исследовательница в Нью-Йоркском университете, а ныне докторант Гейтса в Кембриджском университете.
«Интересно, что исключение внутригрупповой солидарности из обучающих данных также снижает враждебность по отношению к другим группам, подчёркивая роль внутригрупповой солидарности в дискриминации других групп».
Другими авторами исследования были Найджел Коллиер, профессор обработки естественного языка в Кембриджском университете, Сандер ван дер Линден, профессор социальной психологии в Кембриджском университете, и Джон Рузенбек, доцент кафедры психологии и безопасности в Королевском колледже Лондона.
Источник: TechXplore
