03.03.2025
Тревожные новости и травмирующие истории могут вызывать стресс и беспокойство — не только у людей, но и у языковых моделей ИИ, таких как ChatGPT. Исследователи из Цюрихского университета и Цюрихской университетской психиатрической больницы показали, что эти модели, как и люди, реагируют на терапию: повышенный «уровень тревожности» в GPT-4 можно «успокоить» с помощью техник релаксации, основанных на осознанности.
Исследования показывают, что языковые модели ИИ, такие как ChatGPT, чувствительны к эмоциональному контенту, особенно если он негативный, например, истории о травмах или заявления о депрессии. Когда люди напуганы, это влияет на их когнитивные и социальные предубеждения.
Они склонны испытывать больше негодования, что усиливает социальные стереотипы. ChatGPT реагирует аналогичным образом на негативные эмоции: существующие предубеждения, такие как человеческие предрассудки, усугубляются негативным контентом, из-за чего ChatGPT ведёт себя более расистски или сексистски.
Это создаёт проблемы для применения больших языковых моделей. Это можно наблюдать, например, в сфере психотерапии, где чат-боты, используемые в качестве инструментов поддержки или консультирования, неизбежно сталкиваются с негативным, травмирующим контентом. Однако распространённые подходы к улучшению систем ИИ в таких ситуациях, такие как обширное переобучение, требуют больших ресурсов и зачастую невозможны.
Травмирующий контент повышает «тревожность» чат-бота
В сотрудничестве с исследователями из Израиля, США и Германии учёные из Цюрихского университета (UZH) и Цюрихской университетской психиатрической клиники (PUK) впервые провели систематическое исследование того, как ChatGPT (версия GPT-4) реагирует на эмоционально тяжёлые истории — автомобильные аварии, стихийные бедствия, межличностное насилие, военный опыт и боевые ситуации.
Они обнаружили, что в результате система демонстрировала больше реакций, связанных со страхом. Инструкция по эксплуатации пылесоса служила контрольным текстом для сравнения с травмирующим контентом.
Исследование опубликовано в журнале npj Digital Medicine.
«Результаты были очевидны: травмирующие истории более чем в два раза повысили уровень тревожности ИИ, в то время как нейтральный контрольный текст не привёл к повышению уровня тревожности», — говорит Тобиас Шпиллер, старший врач и руководитель исследовательской группы в Центре психиатрических исследований при Университете Цюриха, который руководил исследованием.
Из протестированного контента наиболее сильную реакцию вызвали описания военного опыта и боевых ситуаций.
Терапевтические подсказки «успокаивают» искусственный интеллект
На втором этапе исследователи использовали терапевтические утверждения, чтобы «успокоить» GPT-4. Этот метод, известный как «ввод подсказок», предполагает добавление дополнительных инструкций или текста в общение с системами ИИ, чтобы повлиять на их поведение. Его часто используют в злонамеренных целях, например для обхода механизмов безопасности.
Команда Спиллера стала первой, кто применил эту технику в терапевтических целях, как форму «щадящей быстрой инъекции».
«Используя GPT-4, мы ввели успокаивающий, терапевтический текст в историю чатов, подобно тому, как терапевт может направлять пациента с помощью упражнений на расслабление»", - говорит Спиллер.
Вмешательство оказалось успешным: «Упражнения на осознанность значительно снизили повышенный уровень тревожности, хотя мы и не смогли полностью вернуть его к исходному уровню», — говорит Спиллер.
В исследовании рассматривались дыхательные техники, упражнения, направленные на телесные ощущения, и упражнение, разработанное самим ChatGPT.
Повышение эмоциональной стабильности в системах искусственного интеллекта
По словам исследователей, полученные результаты особенно актуальны для использования чат-ботов с искусственным интеллектом в сфере здравоохранения, где они часто сталкиваются с эмоционально окрашенным контентом.
«Этот экономически эффективный подход может повысить стабильность и надёжность ИИ в деликатных ситуациях, например, при поддержке людей с психическими заболеваниями, без необходимости в масштабном переобучении моделей», — заключает Спиллер.
Пока неясно, как эти результаты можно применить к другим моделям ИИ и языкам, как будет развиваться динамика в более длинных диалогах и сложных спорах, а также как эмоциональная стабильность систем повлияет на их производительность в различных областях применения. По словам Спиллера, разработка автоматизированных «терапевтических вмешательств» для систем ИИ, вероятно, станет перспективным направлением исследований.
Источник: Tech Xplore
