ИИ-поисковики: насколько можно доверять умному поиску и какие у него риски

Что нового в интернете

Вспомним 16 апреля 2024 года: Яндекс представил «Нейро». Суть проста, но революционна: классический поиск теперь объединен с большими языковыми моделями. Теперь можно задать вопрос, а система не просто выдаст список ссылок, а сама проанализирует кучу источников и даст готовый, связный ответ. С ссылками, разумеется.

Яндекс, впрочем, не был первым. Еще в феврале 2023-го Microsoft, заручившись поддержкой OpenAI, встроила чат-бот ChatGPT в свой поисковик Bing. Глава компании Сатья Наделла тогда заявил, что мы стоим на пороге новой эры — ведь суть поиска не менялась десятилетиями. Прямо скажем, он был прав.

Куда же без Google? У них есть своя модель — Gemini, анонсированная в декабре. На последней конференции компания пообещала скрестить её с поиском и выдавать пользователям те же самые «ИИ-резюме». Гонка, как видите, в самом разгаре.

Главное отличие этих ИИ-поисковиков от обычных языковых моделей вроде ChatGPT — источник знаний. Они не черпают ответы из «памяти», натренированной на старых данных, а лезут в живую сеть, анализируя актуальные страницы. В теории это должно гарантировать свежесть информации. Но так ли всё идеально на практике?

Как ИИ меняет правила интернет-поиска

По сути, это «умная» поисковая система, которая сама изучает, думает и резюмирует. Она не ограничивается ролью библиотекаря, подносящего вам книги, — она сама пишет конспект. Звучит заманчиво, но что это дает конкретно?

На практике это означает, что ИИ-поисковик лучше справляется со следующими задачами

Сложные запросы

Он понимает запросы на человеческом языке со всеми нюансами. «Как лучше добраться до центра Москвы с учетом пробок, погоды и бюджета?» — для обычного поиска это головная боль, а для ИИ — внятная задача, требующая комплексного ответа.

Тон запроса и контекст

Обычный поисковик видит лишь ключевые слова. Умный — улавливает оттенки смысла и помнит контекст всей вашей беседы. Можно уточнять вопрос за вопросом, и система будет понимать, о чём вы вообще говорите.

Многосоставные запросы

«Что вызывает смену сезонов и как это влияет на настроение?» ИИ не бросится отвечать только на первую часть, а попытается дать связный ответ, связав астрономию с психологией.

Запрос мнения

Вместо ссылок на статьи с чьим-то мнением, ИИ может проанализировать множество источников и сам сделать сводку: «А что, собственно, люди думают о роботах в 2024 году?» Получится некий цифровой консенсус.

Запрос через картинку или видео

Сломался проигрыватель? Снимите видео и покажите поисковику. Он попытается распознать проблему и предложить решение. Почти как знающий друг, только всегда на связи.

Локальный контекст

«Где найти лучшее мороженое в Москве?» Обычный поиск выдаст вам статьи из блогов. ИИ-поисковик, в идеале, проанализирует отзывы, рейтинги и выкатит готовый список с пояснениями, почему каждое место стоит внимания. Удобно, не поспоришь.

Новые возможности = новые риски

При всех плюсах, которые экономят наше время, массовое внедрение «умного» поиска заставляет задуматься. Самый главный риск в том, что пользователь получает готовую, аккуратную выжимку. Он больше не бродит по разным сайтам, не сталкивается с конкурирующими точками зрения случайно. ИИ становится единственным рассказчиком. А у любого рассказчика, даже самого умного, могут быть свои причуды.

Дезинформация и фейки

Помните вирусное фото Папы Римского в пуховике Balenciaga? Оно было сгенерировано нейросетью, но многие поверили. ИИ-поисковик черпает данные из интернета, и хоть умеет анализировать текст и изображения, проверять их на достоверность в полной мере пока не может. К счастью, про Папу и пуховик уже все «знают», что это фейк, и «Нейро» так и ответил. А если бы громкого разоблачения не было? Риторический вопрос.

Ошибки

Сами компании предупреждают: их творения могут ошибаться. И Gemini от Google, и «Нейро» после ответа вежливо намекают: «Могут быть неточности, проверяйте». Яркий пример: исследователи спросили один ИИ-поисковик о пользе никотина. Тот, ссылаясь на источники, выдал список «плюсов»: улучшение настроения, концентрации. Алгоритм не смог распознать, что статья-источник описывала не пользу, а механизмы формирования никотиновой зависимости! Лингвистически ответ был безупречен, а по сути — опасен.

Сомнительные источники

Запросите «топ-3 самых влиятельных людей мира». Казалось бы, что может пойти не так? Мы задали этот вопрос трем разным системам и получили три разных списка. «Нейро», например, поставил на первое место... певицу Дуа Липу. Почему? Потому что он опирался на рейтинг журнала Time, где один из разделов был посвящен именно артистам. Так формируется картина мира? Немного тревожно.

«Галлюцинации» ИИ

Генеративные нейросети не любят признаваться в незнании. Иногда они просто выдают информацию «с потолка», подкрепляя её несуществующими источниками. Исследователи попросили одну систему рассказать о несуществующей «теории социальных отголосков Джевина». ИИ без тени сомнения изложил концепцию и даже дал «ссылку» на неё. Полная, красивая, убедительная... чепуха.

«Искажения» ИИ

Ответы ИИ — отражение данных, на которых он учился. А в этих данных — все наши человеческие стереотипы. Спросите у «умного» поиска идеи подарков для 7-летних девочек и мальчиков. С высокой вероятностью вы получите два абсолютно разных списка: для девочек — всё розовое и про принцесс, для мальчиков — про машинки и роботов. Система не создает предрассудки, она лишь усердно их воспроизводит и закрепляет.

ИИ-поисковики и конкуренция на цифровых рынках

Власть в цифровом мире сегодня сосредоточена в руках горстки гигантов: Alphabet (Google), Amazon, Apple, Meta, Microsoft. История показывает две четкие тенденции: новые короли появляются только вместе с прорывными технологиями, а заняв трон, они почти никогда его не уступают. ИИ-поиск — как раз такая прорывная технология, способная перекроить карту влияния. Кто станет следующим монополистом?

ИИ-поисковики и будущее бизнес-пользователей

Чтобы не стать заложником ошибок или предвзятости ИИ, компаниям придется внедрять «AI-комплаенс» — свод правил по использованию искусственного интеллекта.

• Четко определять, где решение можно доверить ИИ, где его выводы нужно проверять человеку, а где человек должен оставаться единственным, кто принимает решение.
• Устанавливать внутренние правила, чтобы минимизировать риск распространения стереотипов и искажений через корпоративные инструменты.

При грамотном подходе ИИ-поиск станет мощнейшим инструментом. Но это не отменяет самого главного: критическое мышление, умение сомневаться и проверять — вот те самые человеческие навыки, которые в новой эре станут дороже золота. В конце концов, мы же не хотим, чтобы за нас думали полностью, правда?