Агенты ИИ: Почему рабочие процессы являются вариантом использования LLM, чтобы смотреть

VMware Tanzu спонсировал этот пост.

Есть незамеченная герой современного предприятия: рабочий процесс. Иногда его называют двигателем правил, потоком процессов, машиной с одним состоянием или программным рабочим процессом. В пользовательском интерфейсе (пользовательский интерфейс) это «мастер». Разработчики часто называют это (несколько удручающей) «бизнес -логикой».

Я хочу, чтобы вы уделили минутку, чтобы оценить тихое достоинство этого незамеченного героя, потому что мы собираемся пролить белый свет на ажиотаж Силиконовой долины на его порог: агенты ИИ.

Так много написано об искусственном интеллекте, крупных языковых моделях (LLM) и агентских приложениях, трудно поверить, сколько из нас (и да, это включает меня) все еще смущены в них. Но есть веская причина, почему мы есть: агенты ИИ являются деталями реализации нашего тихого бизнес -героя, рабочего процесса.

Агенты — это как. Рабочий процесс — это что.

Различие имеет решающее значение, потому что агенты искусственного интеллекта могут быть определены довольно простым способом: в вашем бизнес -приложении используется модель фундамента на протяжении всего рабочего процесса. Наши друзья в Антропике проводят различие между агентскими рабочими процессами и агентами, где агенты могут зацикливаться и верить и быть несколько автономными. По моему опыту, бизнес -процессы тоже делают это; Это нечеткая граница.

Поговорим о том, как ИИ меняет приложения рабочего процесса

Агентальное приложение использует модели фундамента для идентификации мест для вмешательства в рабочем процессе. Например: модели фундамента могут быть потрясающе хорошими классификаторами, замены кропотливо закодированных наборов правил или контролируемых моделей обучения с чем -то более гибким и высокопроизводительным из коробки.

Укажите модель фундамента в направлении почтового ящика или резюме учетной записи и начните спрашивать: ли текущая ситуация, чем приложение, знает, как справиться? Должны ли этот случай обостриться, основываясь на правилах, написанных нетехническими бизнес-экспертами? Должен ли этот элемент перейти к потоку управления качеством специалиста (QC) или по умолчанию QC -потока? Это спам по электронной почте? Домогательство? Возможность продаж? Риск оттока?

Вывод модели здесь — это «да» или «нет», который представляет гораздо меньше рисков точности, чем чат -бот. Это то, что вы можете отправить, с безопасностью и измеримыми результатами, прямо сейчас.

Внезапная доступность эффективных, недорогих классификаторов естественного языка ускорит многие корпоративные приложения, потому что расстояние между тем, что хочет бизнес, и правилами, которые кодируются в программном обеспечении, в настоящее время является основным источником человеческих страданий в компаниях из списка Fortune 500. Все неверно услышано. Вещи разрушаются и уходят из синхронизации. Технические ограничения протекают вверх по течению и кодируются в бизнес -процессах.

Агентное приложение устраняет этот разрыв между нашим намерением и нашим программным обеспечением, потому что большая часть бизнес -логики может быть представлена ​​на естественном языке, приглашая новых заинтересованных сторон и участников в процесс разработки программного обеспечения. Это такой же большой сдвиг власти внутри предприятий, как и прибытие электронных таблиц в 1985 году, и прибытие совместных таблиц в 2005 году.

На всех предприятиях есть небольшие, но дорогие сбои рабочих процессов, и агенты искусственного интеллекта дают разработчикам приложений мощный набор инструментов для их бросания.

Но агенты значат больше для рабочих процессов, чем просто классификаторы! Они также могут начать оценивать выходы (действительно ли проблема решена?), Работайте как генератор текста (вот журнал системного события, превращенный в обновление статуса), а иногда даже инициируя действие, выполняя функцию (бронируя встречу, обновляя инвентарь, отправка грузовика).

Все это может быть сделано традиционным бизнес -программным обеспечением и человеческими очередями труда, но обычно это действительно дорого.

Момент с низким кодом и будущее высокого кода

У ИИ есть культурный момент потребительского чат -бота и имеет некоторую поддержку с ассистентами кода. То, что мы еще не увидели — что может произойти в этом году, — это распространение искусственного интеллекта, распространяющееся от программного обеспечения, и несколько других ниш в другие бизнес -вертикали, в частности, уровни операций, которые, кажется, создают наиболее индивидуальные приложения на предприятиях.

В соответствии с раскрытием информации о финансовой информации, первая компания, которая увидит положительную прибыль от инвестиций в области искусственного интеллекта, не является чистой технической игрой. Это программное обеспечение для операций в качестве поставщика услуг (SAAS), ServiceNow. Он, наряду с рабочим днем ​​и Salesforce, предлагает мост с низким кодом между бизнес-намерениями, как задокументировано нетехническими экспертами по предметным вопросам, и автоматизации программного обеспечения. ИИ помогает.

Приветствую этих людей за то, что он первым перешел и заработал эту работу. Я думаю, что это будет следовать за шаблоном большинства решений с низким кодом, которые обещают расширить возможности бизнес-пользователей и обрезать его, но с нетривиальным наручником для поставщика платформы.

Я думаю, что следующая волна станет репликацией этих двигателей рабочего процесса, потому что ее не так сложно реализовать. Open Foundation Models и существующие рамки (включая Spring AI, который поддерживает моя команда) могут начать команду за несколько дней. Это может выглядеть как большая платформа графического интерфейса для рабочих процессов бизнес -задач, но более быстрый и более безопасный путь будет найти небольшие, суетируемые точки вмешательства … везде. И сегодня это выглядит намного легче и намного быстрее, чем несколько лет назад.

Гипотетическое агентское приложение: меньше, чем вы думаете

Представьте себе, что клиент покупает крытого велосипеда, и он поставляется. Программное обеспечение для управления велосипедом не может подключиться. Клиент просит возврат, и мы уходим, отправляя велосипеды. Но что, если это была известная проблема с доступной резолюцией? Обновите прошивку, иди.

Ваш человеческий работник в процессе поддержки может определить это, но несовершенно. Трудно узнать каждую проблему, каждый раз.

Таким образом, мы создаем крошечное приложение, чтобы найти эту проблему и исправить его. Сначала мы строим слушателя, который помечает возможные инциденты этой известной проблемы. Если он обнаруживает случай, он вставляет сообщение в систему поддержки со ссылкой на разрешение. Достаточно безопасно, чтобы попробовать прямо сейчас, с измеримыми результатами. Агент может стать более напористым с хорошим послужным списком. Можем ли мы отправить предложенную резолюцию непосредственно клиенту? Можем ли мы сделать паузу, если только человеческая поддержка не признает проблему? Может ли агент начать более внимательно определить вероятную проблему, ссылку на конкретные версии прошивки или иным образом улучшить обмен сообщениями для клиента?

На всех предприятиях есть небольшие, но дорогие сбои рабочих процессов, и агенты искусственного интеллекта дают разработчикам приложений мощный набор инструментов для их бросания.

Вам понадобится платформа

Итак, как мы можем приблизиться к миру, где разработчики ваших приложений уполномочены развернуть маленьких помощников на протяжении всего вашего бизнеса?

Вы можете начать с того, что спросить, почему они не развертывают небольшие эксперименты без LLMS. И это обычно выглядит как история Dev Experience: самообслуживание, хорошо документированные золотые пути к производству, надежная автоматизация тестов и предварительно одобренные полосы для безопасности и юридического надзора. Если команды приложений уполномочены отправлять небольшие, постоянные улучшения с минимальными внешними зависимостями, все идет быстро.

Как применить это к нашему агентскому приложению в будущем? Прежде всего, нам нужно обернуть эту схему самообслуживания и расширение прав и возможностей разработчиков вокруг нашего нового лучшего друга, модели Foundation. Мы видим разделение компетенций, возникающих между наукой данных или рабочими группами искусственного интеллекта и командами разработки приложений с полным стеком. На мой взгляд, это специализация здоровой роли: существуют поставщики моделей, существуют команды модельной инфраструктуры моделей машинного обучения (ML), и есть приложения, потребляющие эти ресурсы. Первые два могут быть внешними поставщиками; Команды приложений не будут.

Для этой абстракции между поставщиком моделей и командами приложений для работы вам понадобятся обратная связь, наблюдение, управление версиями и другие проблемы, которые должны быть обработаны; с формальным API или, по крайней мере, хорошим рабочим соглашением. То, что вы не хотите, это каждая команда приложений, разбирающая это в изоляции; Вам, вероятно, нужна структура искусственного интеллекта, но вам не нужно 50 конкурирующих, недооцененных фреймворков ИИ.

Я также думаю, что есть роль для платформ промежуточного программного обеспечения, таких как AI Gateway, который облегчает предоставление, наблюдаемость, обратную связь с моделями и конфиденциальность в организации.

Будущее: микросервис в Nano Service

Если предоставление и платформу будет решена, мы сталкиваемся с головой в мир, в котором у нас есть очень тонкие обертки вокруг множества предприятий, которые раньше были заблокированы, и у нас есть агентские приложения, которые могут получить к ним доступ к умным способам. Небольшие решения начинают цвететь повсюду.

Пример очень легкой обертки для инструментов с инструкциями по естественному языку о том, как модель фундамента может взаимодействовать с ней.

Это та же самая история, которую мы имели с облачными нативными архитектурами и микросервисами, общающимися по API. Новая вещь — это масштаб усилий; Мы переходим от микро -нано. Очень тонкие обертки, такие как протокол контекста модели, пусть фонд -модели запрашивают данные и выполняют действия. Очень легкие приложения рабочего процесса позволяют бизнес -пользователям объяснить, что должно произойти на естественном языке. Платформы обеспечивают безопасность, безопасность и соответствующие модели по требованию. Вы отправляете в несколько дней, а не месяцами, и итерации, пока он не сработает.

Здесь вывода состоит в том, что революция агентского приложения не является историей, которая будет трансформировать технологические компании с крахами. Это история модернизации; Краткий шанс решить небольшие проблемы между существующими предприятиями с командой, которую у вас уже есть.

Недавние десятилетия достигли больших успехов в инфраструктуре; Теперь пришло время создать приложения, которые используют максимальную пользу из этих новых инструментов. Решения VMware Tanzu ускоряют разработку и поставку приложений с помощью оптимизированных путей к производству, автоматизированным операциям платформы и улучшению затрат, производительности и безопасности. Узнайте больше последних из VMware Tanzu Trending Stories YouTube.com/thenewstack Tech, которые движутся быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Jonathan Eyler-Werve запускает продукты в течение 15 лет и работает в области управления продукцией, дизайна и инженерных работ с полным стеком. Он наставляет PMS в середине карьеры и консультирует стартапы и социальные предприятия. В настоящее время он заботится о командах разработки приложений в Broadcom, … Подробнее от Джонатана Эйлера-Вервера

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *