Оркс спонсировал этот пост.
За последние четыре года Orkes приобрел популярность благодаря своей способности интегрировать оркестровку данных и микросервисов на одной платформе. Но его более новая роль — в качестве правильного агента AI в организации чрезвычайно сложных рабочих процессов ИИ — может быть выдвигать Орки на передний план бумы ИИ.
По словам основателей компании, агентство AI Orchestration является важным компонентом всех вещей ИИ, от моделей искусственного интеллекта, которые Anpropic создает до пользовательских крупных языковых моделей (LLMS), которые создают организации.
«Если вы хотите создать агентов, агентам необходимо организовать длительные рабочие процессы. Эти рабочие процессы должны поддерживать состояние»,-сказал мне, что эти рабочие процессы должны поддерживать состояние »,-сказал мне Вирен Барайя, соучредитель Orkes. «И в тот момент, когда вы выходите за рамки доказательства концепции, вы также должны запустить их в масштабе. Здесь практически все рамки борется».
От проводника Netflix до оркестровки агента искусственного интеллекта
Orkes был основан в 2021 году Барайей, Дилип Лукозе и JEU George-со-создателями проводника Netflix с открытым исходным кодом-для обеспечения поддержки предприятия и функций для платформы рабочего процесса с открытым исходным кодом Netflix.
В рамках создания и контроля Netflix проводник процветал в дико успешном и популярном способе организации автоматизации рабочих процессов путем интеграции данных и различных стеков автоматизации. Наиболее важные компоненты включали интеграцию сервисов данных и микросервисов. Это помогло операционным командам объединить два шага управления в один, что способствовало популярности Оркса.
С тех пор проект развивался для объединения оркестровки данных и микросервисов в гораздо более интегрированной и надежной структуре. Это не просто еще одна так называемая «одиночная панель стекла», поскольку оба домена оркестровки представляют и автоматизируют управление и исправление, как я буду исследовать ниже.
Вот где начался Оркс. А затем агент -оркестровка ИИ вошла в драку.
Управление государством в агентских системах ИИ
Интеграция LLMS для оркестровки данных стала ключевой частью современных платформ оркестровки рабочих процессов. В 2023 году ORKES интегрировал оркестровку LLM в свою платформу оркестровки данных и микросервисов. Это, по сути, сделало Orkes Conductor Enterprise предшественником Boom AI, позволяя управлять сложными рабочими процессами состояния в разных компонентах ИИ и связанных с ними услуг. По словам Барайя, работа Оркса заложила основополагающую архитектуру для долгосрочных, надежных и отзывающихся рабочих процессов агента ИИ-ядра для того, что впоследствии стало известно как агентские системы ИИ.
В отличие от большинства рамок, Оркс не пытается сохранить состояние в долгосрочных рабочих процессах, поскольку они масштабируют, объяснил он. «Шкала находится в ДНК в нашей платформе; не нужно думать об этом, это побочный продукт того, что сделано».
Источник: Orkes.
Наличие надлежащего агента ИИ необходимо для создания любого агента. «По сути, агент — это сумма знаний, инструментов и языковой модели в качестве контроллера. В этих компонентах происходит оркестровка», — сказал Барайя. «Чтобы запустить агента, необходимо управление распределенным государством. Необходимо понятие рабочего процесса, потому что управление и все должно быть скоординировано. Способность отладки и видеть, что именно происходит».
По словам Барайя, поставщики моделей, такие как OpenAI, Gemini и Anthropic, предлагают фантастическую основу, а двигатель рабочего процесса также остается критическим. «Без двигателя рабочего процесса, эксплуатация агента в производстве невозможно», — сказал Барайя. «Это подходит — быть платформой для бегущих агентов. Вот как эти агенты могут быть запущены».
Человек в петле: укрепление доверия в искусственном интеллекте
Правильный агент ИИ должен быть в состоянии надежно управлять продолжительными рабочими процессами в масштабе. Но, что более важно, он должен иметь доверие организации, что означает поддержание людей в курсе. В случае Оркса наблюдаемость обеспечивается через панель панели, поэтому люди, связанные с рабочими процессами, могут контролироваться в режиме реального времени.
«Поддержание людей в цикле теперь является очень сильным настроением в отношении реализаций ИИ. Он прекрасно сочетается с этой идеей поддержания доверия или укрепления доверия с более строгими случаями использования — ситуации, когда полагаются на LLM или мозг, чтобы дать здравый совет, невозможно», — сказал Барайя. «Задача должна быть увлечена человеком, чтобы вмешаться и выполнить выполнение рабочего процесса. Это то, что сильно выполняется с нативными реализациями вокруг рабочих процессов человека в петле».
«Без двигателя рабочего процесса управление агентом в производстве невозможно. Это подходит — быть платформой для бегущих агентов. Вот как эти агенты могут работать».
Тем не менее, в тот момент, когда человек добавляется в петлю, все замедляется. Но государство должно быть поддержано в течение столько времени, сколько нужно, чтобы этот человек ответил, объяснил Барайя. «Хорошим примером может быть то, что агент пытается принять решение, но нуждается в подтверждении от пользователя. Хотя типичная программа может выполнить задачу за считанные секунды, в тот момент, когда человек добавляется, эти секунды проходят в минуты, часы или дни, в зависимости от ситуации», — сказал Барайя. Это создает опасения по поводу поддержания состояния на продолжительных рабочих местах.
На практике он сказал: «Добавление людей в петлю… действительно сложно из-за поддержания длительных состояний, включения петли обратной связи, а затем построить всю систему вокруг нее. То, что должно было быть просто, внезапно становится длинным проектом».
В качестве фактора автоматизации, контролируемой AI, Orkes Conductor объединяет рабочие процессы с LLMS (например, Claude, OpenAI GPT-4 и Google Vertex AI) и векторные базы данных. Возможность оркестровки ИИ поддерживает «агентские» рабочие процессы: агенты ИИ выполняют задачи, но включают в себя человеческие контрольно -пропускные пункты для надзора. «Это гарантирует, что рабочие процессы динамически адаптируются с ИИ, поддерживая людей для соблюдения требований и управления, поскольку автоматизация движется к автономии», — говорится в недавнем сообщении в блоге Orkes.
Установка доверия с помощью наблюдаемой автоматизации рабочего процесса ИИ
Гартнер описывает влияние бизнеса инструментов оркестровки процесса предприятия как способ автоматизации рабочих процессов, определения ошибок и сбоев системы и ускорить интеграцию в рабочие процессы. Эти инструменты также поддерживают адаптацию к развивающейся бэкэнд -архитектуре и цифровым требованиям. Gartner включает в себя Orkes в этой категории.
Сегодня, на счете DevOps и IT, агентские инструменты оркестровки ИИ имеют критический спрос на оркестровку процесса. Эти инструменты помогают компаниям управлять сложностью ИИ, особенно теми, кто развивает LLMS, приложения ИИ и связанные с ними системы.
Проводник ORKES предназначен для обработки агентского оркестровки ИИ и, обеспечивая прозрачность и позволяя человеческому надзору в критических процессах принятия решений, это является важным элементом для укрепления доверия к ИИ, говорят основатели Оркса.
«Оркестрация остается важным компонентом, который все это связывает», — сказал Барайя. «Объединение автоматизации в ИТ -системах остается весьма актуальным, и часть оркестровки теперь превратилась в отдельную категорию. Это основной вклад Orkes, и эта оркестровая для агентов ИИ стала важной для управления процессами ИИ».
Orkes — это корпоративная оркестровая платформа, построенная на Netflix Conductor, которая поддерживает агентские преобразования с очень надежной автоматизацией рабочих процессов через микросервисы, API, агенты ИИ и человеческие задачи. Узнайте больше последних из Orkes Trending Stories YouTube.com/ThenewStack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. BC Gain является основателем и главным аналитиком Revecom Media. Его одержимость компьютерами началась, когда он взломал консоль космических захватчиков, чтобы играть весь день за 25 центов в местной видеокаде в начале 1980 -х годов. Затем он … читайте больше от B. Cameron Gain
