06.03.2025
Исследователи из Института робототехники Университета Карнеги-Меллона и Массачусетского технологического института (MIT) создали CHARCHA (Computer Human Assessment for Recreating Characters with Human Actions) — безопасный и персонализированный протокол верификации, который позволяет изображать человека в генеративном видеоконтенте. Команда создала CHARCHA, чтобы решить этические проблемы, связанные с генеративным ИИ, такие как несанкционированные дипфейки.
Исследование опубликовано на сервере препринтов arXiv.
«Когда мы поняли, как легко собирать данные из интернета и создавать реалистичный контент с помощью ИИ без согласия пользователей, мы решили, что хотим разработать защиту, — сказал Мехул Агарвал, соруководитель исследования и студент магистратуры по машинному обучению в Университете Карнеги-Меллона в 2024 году. – Мы реагируем на растущую способность злоумышленников злоупотреблять генеративным ИИ и стараемся быть на шаг впереди».
Система CHARCHA была создана на основе CAPTCHA. В то время как CAPTCHA использует текстовые или графические тесты для различения людей и ботов, CHARCHA использует физические взаимодействия в реальном времени для их различения. Программа просит пользователей выполнить ряд случайных физических действий перед веб-камерой, например, повернуть голову влево, вправо, прищуриться или улыбнуться.
Процесс верификации в реальном времени, который занимает около 90 секунд, анализирует действия, чтобы убедиться, что человек присутствует и имитирует правильные запросы. Подтверждая, что человек взаимодействует с системой, CHARCHA предотвращает обход верификации с помощью заранее записанных видео или изображений.
«Встроенные алгоритмы анализируют микродвижения, чтобы убедиться, что пользователь находится в физическом пространстве, а не в симуляции, — сказала Гаури Агарвал, соруководитель исследования и выпускница Школы компьютерных наук Карнеги-Меллона, работающая в Media Lab Массачусетского технологического института. — Как только программа убедится, что вы выполнили действие точно и в реальном времени, она использует эти изображения для обучения нашей модели».
Процесс CHARCHA предлагает уникальный уровень автономности пользователям, которые решают взаимодействовать с ним. Используя эту программу, пользователям не нужно полностью отказываться от контента, созданного генеративным ИИ, вместо этого они могут с уверенностью персонализировать музыкальные клипы или другой контент.
«Многие платформы хранят данные бессрочно, и у них нет чёткой политики в отношении того, как может использоваться контент, созданный ИИ, — сказал Мехул. — CHARCHA перекладывает ответственность на пользователей, позволяя им подтверждать свою личность перед созданием изображений. Он не полагается на внешние политики конфиденциальности и даёт людям больше контроля над своим внешним видом».
Гаури и Мехул Агарвал представили CHARCHA на конференции по нейронным системам обработки информации (NeurIPS) в 2024 году, где он вызвал значительный интерес у многих лидеров отрасли.
«Я думаю, что положительный отклик нашей аудитории на конференции действительно подчёркивает необходимость обеспечения безопасности инструментов генеративного ИИ, — сказала Гаури. — Это помогло нам подтвердить нашу уверенность в том, что CHARCHA может стать важным инструментом будущего».
Источник: Tech Xplore
