Vespa.AI спонсировал этот пост.
Новое «Рыночное руководство по поиску корпоративного ИИ» компании Gartner предлагает ценную информацию о том, как генеративный ИИ меняет доступ к корпоративным знаниям. Тем не менее, поскольку основное внимание по-прежнему уделяется внутренней продуктивности и управлению, возникает важный вопрос: применимы ли те же подходы, когда поиск ориентирован на клиентов и напрямую связан с вовлечением, конверсией и доходом?
Взгляд Gartner на корпоративный поиск в области искусственного интеллекта
Исследования Gartner сосредоточены на внутренних сценариях использования, ориентированных на сотрудников, включая помощников на цифровых рабочих местах, ИТ-поддержку, управление знаниями в области управления персоналом и автоматизацию соблюдения требований. Цель состоит в том, чтобы дать возможность ИИ-помощникам и вторым пилотам повысить производительность труда сотрудников за счет синтеза информации из корпоративных хранилищ данных. Сценарии взаимодействия с клиентами (CX) упоминаются лишь кратко и рассматриваются как смежные рынки, а не как основные приоритеты.
В результате в отчете особое внимание уделяется управлению, коннекторам, обогащению метаданных, обрезке безопасности и графам знаний. Эти возможности имеют решающее значение для корпоративных сред, но менее актуальны для систем, работающих в реальном времени и ориентированных на клиента.
Производительность в первую очередь оценивается с точки зрения надежности и управляемости помощников ИИ, что соответствует внутренней направленности корпоративного поиска ИИ. В таких условиях задержка и пропускная способность имеют меньшее значение, чем контроль доступа и соответствие требованиям. Гибридный поиск и генерация с расширенным поиском (RAG) признаны основными возможностями, но упор по-прежнему делается на управление сложностью в различных хранилищах данных, а не на обслуживание больших объемов рабочих нагрузок с малой задержкой.
Gartner также ожидает, что крупные предприятия будут использовать несколько встроенных поисковых платформ в пакетах SaaS, таких как Microsoft 365, Salesforce и SAP. Эта архитектура хорошо подходит для внутреннего управления знаниями, но не предназначена для систем, ориентированных на клиентов, где производительность, масштаб и точность напрямую влияют на пользовательский опыт и бизнес-результаты.
Поиск с участием клиентов
Это создает явный пробел для организаций, создающих приложения искусственного интеллекта, ориентированные на клиентов, где производительность поиска является не просто фактором производительности, но и критически важной для бизнеса функцией. Будь то электронная коммерция, финансы, средства массовой информации, социальные сети, анализ рынка или другие приложения, требования фундаментально разные. Разработчики должны обеспечивать извлечение и ранжирование больших объемов данных с низкой задержкой, часто обрабатывая тысячи запросов в секунду в соответствии со строгими целями уровня обслуживания.
Эти системы зависят от многофазных конвейеров ранжирования, сложных тензорных вычислений и мультимодального поиска по тексту, изображениям и структурированным данным. Они также должны предоставлять генеративные или расширенные результаты поиска на машинной скорости. Индексирование и обновления функций происходят практически в реальном времени, отражая изменения в инвентаре, поведении или потоках контента, сохраняя при этом время безотказной работы, экономическую эффективность и производительность в масштабе.
В отличие от внутренних корпоративных поисковых систем искусственного интеллекта, где управление и соблюдение политик являются главными приоритетами, поиск с использованием искусственного интеллекта, ориентированный на клиента, должен быть оптимизирован для обеспечения релевантности с малой задержкой, оперативности и персонализации.
Эти системы встроены непосредственно в основной продукт, влияя не только на удовлетворенность пользователей, но и на доходы, вовлеченность и удержание. Им требуется унифицированная архитектура, которая может обрабатывать как лексический, так и векторный поиск, выполнять изученные модели ранжирования близко к данным для уменьшения пропускной способности сети и поддерживать крупномасштабные рабочие нагрузки вывода без сложной оркестрации или дополнительного промежуточного программного обеспечения.
Заключение
Отчет Gartner предоставляет важную основу для понимания корпоративного поиска ИИ в контексте внутренней производительности и управления. Однако те же предположения и архитектуры не применимы к приложениям, ориентированным на клиента.
По мере развития рынка будет появляться более четкое различие между корпоративными поисковыми платформами ИИ, предназначенными для внутреннего синтеза знаний, и поисковыми платформами ИИ, созданными для производственных сред реального времени, где поиск является самим продуктом.
Последний должен соответствовать гораздо более высоким ожиданиям в отношении производительности, масштаба, точности и мультимодальности, которые являются определяющими характеристиками современных генеративных и поисковых систем.
Для организаций, создающих приложения искусственного интеллекта, ориентированные на клиентов, Vespa предоставляет альтернативу традиционной линии «движков понимания». Он создан для систем искусственного интеллекта, а не для модифицированного корпоративного поиска. Vespa обеспечивает крупномасштабный поиск и ранжирование в реальном времени для таких компаний, как Perplexity.AI, Spotify и Yahoo. Его архитектура поддерживает многофазное ранжирование, тензорные вычисления, мультимодальный поиск и обслуживание ИИ на машинной скорости. Vespa предназначена для инженерно-технических компаний, где поиск является продуктом, а производительность напрямую влияет на доход.
Vespa.AI — это платформа для создания приложений на базе искусственного интеллекта для поиска, рекомендаций, персонализации и RAG. Он обрабатывает большие объемы данных и высокую частоту запросов, предлагая эффективное управление данными, выводами и логикой. Доступен как управляемый сервис, так и с открытым исходным кодом. Узнайте больше Последние новости с Vespa.AI ТЕНДЕНЦИОННЫЕ ИСТОРИИ YOUTUBE.COM/THENEWSTACK Технологии развиваются быстро, не пропустите ни одной серии. Подпишитесь на наш канал YouTube, чтобы смотреть все наши подкасты, интервью, демонстрации и многое другое. ПОДПИСАТЬСЯ Группа, созданная в Sketch. Тим Янг возглавляет отдел маркетинга в Vespa.AI, используя свой технический опыт для реализации стратегий, основанных на данных. Он начал свою карьеру в области крупномасштабного управления данными для таких предприятий, как British Telecom, T-Mobile, Shell, British Airways и Ford. Тим занимал ключевые должности в сфере маркетинга… Подробнее от Тима Янга
