Разговоры в чате, связанные с усилением чувства изоляции

В ходе двух исследований, проведённых OpenAI и Media Lab Массачусетского технологического института, выяснилось, что небольшой процент испытуемых, активно использовавших ChatGPT, сообщали о повышенном чувстве одиночества и эмоциональной зависимости, а также о снижении социального взаимодействия.

Другими словами, исследование показывает, что одинокие люди с большей вероятностью будут искать эмоциональную связь с ботами на базе искусственного интеллекта. Это многое говорит о том, как люди выстраивают отношения, как мы всё больше полагаемся на технологии и как мы глубоко внедряем их во многие аспекты нашей жизни, а не просто используем для выполнения задач.

Это также поднимает вопрос о том, как мы будем взаимодействовать с чат-ботами в будущем и какое влияние они могут на нас оказать.

В одном исследовании, проведённом командой OpenAI, было проанализировано более 4 миллионов диалогов ChatGPT с участием 4076 пользователей, которые добровольно рассказали о своих впечатлениях от использования сервиса.

В другом исследовании учёные из Media Lab Массачусетского технологического института попросили 981 человека пользоваться ChatGPT не менее пяти минут в день в течение четырёх недель. Затем этих участников опросили о том, как они воспринимают ChatGPT, а также об их собственном ощущении одиночества и связи с другими людьми в реальном мире, о социальных взаимодействиях, в которых они участвовали, и о том, считают ли они использование сервиса ИИ проблематичным.

На случай, если вы не сразу поняли, о чём идёт речь: OpenAI разрабатывает и продвигает ChatGPT. Так что да, это вполне осознанный шаг со стороны компании, которая хочет выяснить, оказывает ли её собственный продукт негативное влияние на целевую аудиторию, и если да, то можно ли что-то сделать, чтобы это предотвратить.

В ходе двух исследований, результаты которых ещё не прошли экспертную оценку, учёные обнаружили, что большинство людей не устанавливают глубоких эмоциональных связей с ChatGPT, и это верно даже для некоторых наиболее часто использующих его реалистичный расширенный голосовой режим (в котором можно вести довольно естественный диалог с ботом).

Исследования выявили некоторую взаимосвязь между «личными» беседами с ChatGPT и ощущением одиночества. В то же время такое использование было связано с меньшей эмоциональной зависимостью. Так что ситуация неоднозначная.

Как пишет Кейси Ньютон в своём информационном бюллетене Platformer, возможно, что «достаточно привлекательные чат-боты будут отвлекать людей от общения с людьми, возможно, заставляя их чувствовать себя более одинокими и зависимыми от синтетического собеседника, за связь с которым они должны платить».

Чтобы получить более чёткое представление о влиянии на благополучие людей, которые продолжают пользоваться такими услугами, потребуются более глубокие и конкретные исследования. Но некоторые уже извлекают выгоду из человеческого интереса и потребности в общении, предлагая ИИ-компаньонов, с которыми можно почувствовать, что вы строите отношения.

Это не значит, что чат-боты с искусственным интеллектом во всех отношениях вредны для нас. Для некоторых людей они могут стать значимым способом облегчить чувство одиночества и найти возможность в частном порядке выразить свои мысли и поразмышлять о том, что они переживают.

Однако это исследование показывает, что платформам необходимо более ответственно подходить к разработке своих ботов, учитывая, насколько люди могут быть вовлечены в общение с ними. В то же время регулирующим органам необходимо создать механизмы, которые не позволят компаниям эксплуатировать глубоко вовлечённых пользователей, а также побуждать компании, разрабатывающие системы искусственного интеллекта, уделять приоритетное внимание благополучию своей аудитории.

Подробнее об исследованиях Media Lab Массачусетского технологического института и OpenAI читайте в аналитической рассылке Ньютона здесь.

Источник: New Atlas