У поисковых систем на основе ИИ есть проблема с цитированием

Инструменты поиска на основе ИИ быстро набирают популярность: почти каждый четвёртый американец теперь говорит, что использует ИИ вместо традиционных поисковых систем. Эти инструменты извлекают пользу из сканирования интернета в поисках актуальной информации — контента, который часто публикуется новостными изданиями.

Однако возник тревожный дисбаланс: в то время как традиционные поисковые системы обычно выступают в качестве посредников, направляя пользователей на новостные сайты и другой качественный контент, инструменты генеративного поиска сами анализируют и переупаковывают информацию, прерывая поток трафика к первоисточникам. Результаты общения с этими чат-ботами часто скрывают серьёзные проблемы с качеством информации. Необходимо срочно оценить, как эти системы получают доступ к новостному контенту, представляют его и цитируют.

Опираясь на наши предыдущие исследования, Центр цифровой журналистики Тау провёл тесты восьми инструментов генеративного поиска с функцией поиска в реальном времени, чтобы оценить их способность точно находить и цитировать новостной контент, а также то, как они ведут себя, когда не могут этого сделать.

Мы обнаружили , что…

 Чат-боты, как правило, плохо справлялись с отказом отвечать на вопросы, на которые они не могли дать точный ответ, вместо этого предлагая неверные или предположительные ответы.

- Премиум-чат-боты с большей уверенностью давали неправильные ответы, чем их бесплатные аналоги.

- Несколько чат-ботов, казалось, обходили настройки протокола исключения роботов.

- Инструменты генеративного поиска создавали ссылки и цитировали синдицированные и скопированные версии статей.

- Лицензионные соглашения на использование контента с источниками новостей не гарантируют точного цитирования в ответах чат-бота.

Наши результаты согласуются с результатами предыдущего исследования и доказывают, что наши наблюдения касаются не только ChatGPT, но и всех известных инструментов генеративного поиска, которые мы протестировали.

Подробнее