Eclipse открывает возможности для разработки корпоративных ИИ-агентов с помощью ADL

Фонд Eclipse Foundation вчера бросил вызов проприетарным платформам искусственного интеллекта, представив язык определения агента (ADL), новый инструмент, предназначенный для того, чтобы сделать корпоративную разработку искусственного интеллекта более доступной, надежной и масштабируемой.

Eclipse позиционирует ADL как центральную часть Eclipse LMOS (операционная система языковых моделей, сейчас находится в альфа-версии), платформы с открытым исходным кодом, призванной изменить способы создания и развертывания ИИ-агентов крупными организациями, говорится в сообщении организации. При этом он напрямую нацелен на альтернативы с закрытым исходным кодом, которые доминировали в сфере корпоративного ИИ.

Рожденный из реальной необходимости

Арун Джозеф, руководитель проекта Eclipse LMOS, разработал платформу в 2023 году, возглавляя программу искусственного интеллекта Deutsche Telekom. Его миссия заключалась в внедрении искусственного интеллекта в 10 европейских странах для операций продаж и обслуживания. Но он быстро уперся в стену, рассказал он The New Stack.

«Когда мы начинали, появились новые фреймворки, такие как LangChain, но все они были на Python», — объяснил Джозеф на недавнем брифинге. «Весь наш корпоративный стек в Deutsche Telekom, как и в большинстве телекоммуникационных компаний и предприятий, был построен на JVM. [Java Virtual Machine]. Мы поняли, что нам придется восстанавливать все с нуля».

Однако проблема была глубже, чем просто языки программирования. API-интерфейсы Deutsche Telekom были сложными, с сотнями атрибутов и годами накопленных знаний в предметной области, встроенных в клиентские библиотеки. Начать заново со стеком Python означало бы отказаться от институциональных знаний и заставить команды перестраивать то, что уже существовало.

Итак, Джозеф и его команда выбрали другой подход. Они создали свой собственный стек, используя Kotlin, язык JVM, который может использовать существующую инфраструктуру, API и практики DevOps. К концу 2023 года у них появился первый агент для Telekom Germany.

Это «выглядит как реальный сигнал о том, что агенты переходят от демонстраций к эксплуатации», — сказал The New Stack Дэвид Миттон, генеральный директор поставщика платформ безопасности для разработчиков на основе искусственного интеллекта Arcjet. «Другие исследовали идеи «определения агентов», но управление Eclipse и возможности Java имеют значение для внедрения, поскольку JVM широко используется на серьезных предприятиях».

Проблема с билетом Jira

Но решение проблемы технической интеграции выявило другую, более тонкую проблему: как определить, что должен делать ИИ-агент? – спросил Джозеф.

«При традиционной разработке приложений бизнесмен поднимает билет Jira и говорит: «Мне нужна эта кнопка, и когда вы нажимаете на нее, он должен добавить товар в корзину», — сказал Джозеф. «Но как описать требования агента? Как написать заявку, объясняющую, как бот должен реагировать, когда клиент спрашивает: «Почему мой счет такой высокий?»»

Действительно: «Как вы пишете билеты Jira?» — сказал Джозеф. «Возьмем биллинг. Обычно на предприятиях есть разделение доменов: правильный домен продукта, домен биллинга… Итак, если вам нужно написать требования, не инженерные требования, а скорее требования к опыту конечного пользователя, это очень сложно для агентной диалоговой системы».

Ответом стал ADL, структурированный язык, который позволяет экспертам в области бизнеса записывать поведение агентов как стандартные рабочие процедуры, не становясь при этом оперативными инженерами. По его словам, с помощью веб-интерфейса бизнес-пользователи могут определять варианты использования, немедленно тестировать их и выполнять итерации, не дожидаясь, пока инженерные заявки пройдут цикл спринтов.

«Мы хотели сделать определение поведения агента таким же интуитивно понятным, как описание бизнес-процесса, сохраняя при этом строгость, которую ожидают инженеры», — отметил Джозеф. «Это устраняет хрупкость быстрого проектирования».

Три столпа Eclipse LMOS

Eclipse LMOS состоит из трех основных компонентов, работающих вместе:

  • Затмение LMOS ADL предоставляет структурированный, модельно-нейтральный язык и набор визуальных инструментов, которые позволяют экспертам в предметной области определять поведение агентов и сотрудничать с инженерами. Он спроектирован так, чтобы поддерживать версии и поддерживать его, устраняя хаос традиционного оперативного проектирования.
  • Платформа агента Eclipse LMOS ARC предлагает собственную среду JVM со средой выполнения Kotlin для разработки и тестирования агентов искусственного интеллекта. Он включает в себя встроенный визуальный интерфейс для быстрых итераций и отладки, что позволяет инженерам сосредоточиться на интеграции API-интерфейсов, специфичных для конкретной области, а не бороться с инфраструктурой искусственного интеллекта.
  • Платформа Eclipse LMOS служит открытым уровнем оркестрации для управления жизненным циклом агентов, обнаружения, семантической маршрутизации и наблюдения. Созданный на основе стека Cloud Native Computing Foundation (CNCF), он в настоящее время находится в стадии альфа-версии.

«Внедрение бизнес-контекста в рабочие процессы и приложения ИИ важно для того, чтобы они могли принимать высококачественные решения в больших масштабах», — сказал Миттон. «Подсказки на естественном языке не подлежат проверке или версии — это проблема предприятия, поэтому существуют языки программирования — так что это удобно для тех, кто находится между ними».

Другая философия

Подход Eclipse LMOS представляет собой философский отход от нынешнего ландшафта инструментов искусственного интеллекта, который Джозеф характеризует как проблематичный для предприятий.

В своей презентации The New Stack Джозеф продемонстрировал сатирический слайд, показывающий типичный корпоративный стек искусственного интеллекта: кодовую базу Python, импортирующую SDK от нескольких стартапов, поддерживаемых венчурными фондами, каждый из которых решает одну часть головоломки — телеметрию, память, оценку — с помощью простого декоратора, добавляющего в инфраструктуру целые парки контейнеров.

«Я видел инструменты оценки, которым требовалось 25 контейнеров только для одной этой функции», — сказал Джозеф. «Это 25 контейнеров, на которых работает специальный оператор Kubernetes для одной строки кода. Предприятия не могут себе позволить такое разрастание».

Вместо этого Eclipse LMOS интегрируется с уже используемыми предприятиями технологиями, включая Kubernetes, Istio и приложения на основе JVM. Платформа предназначена для работы с существующими практиками DevOps, инструментами наблюдения и библиотеками API, на создание которых организации потратили годы.

Уже проверено в масштабе

Джозеф сказал, что Deutsche Telekom развернула Eclipse LMOS в одной из крупнейших в Европе мультиагентных корпоративных систем, обеспечивающей работу помощника Frag Magenta OneBOT и других систем искусственного интеллекта, ориентированных на клиентов. Благодаря этому развертыванию были обработаны миллионы операций по обслуживанию и продажам в разных странах.

По словам Джозефа, эта реальная проверка важна в отрасли, где многие платформы искусственного интеллекта обещают корпоративную готовность, но лишь немногие из них работают в телекоммуникационном масштабе с требованиями к надежности, которые предъявляются к развертываниям для клиентов, сказал Джозеф.

«Я считаю, что лучший способ применения ИИ — это операции, и точка. Нет лучшей области для применения ИИ, чем операции», — сказал он. «Весь ваш корпоративный стек, инженеры и операции сосредоточены в JVM, а еще у вас есть специалисты по обработке данных, эти новые библиотеки и все, что они продолжают добавлять и добавлять, но без сбора данных вы не сможете двигаться вперед».

Стандарты имеют значение?

«Стандарты важны для новых технологий, поскольку они позволяют повторное использование, взаимодействие и защиту инвестиций», — сказал The New Stack Хольгер Мюллер, аналитик Constellation Research. «Стандарты для агентного ИИ были предложены быстро и приняты быстрее, если принять во внимание MCP. [Model Context Protocol] и А2А [Agent2Agent]. Это не означает, что больше нет места для таких стандартов, как LMOS Eclipse — но это будет тяжелая битва — поскольку агенты в основном работают в облаке, облачные стандарты установлены, и люди создают агенты для них. Это будет тяжелая битва для Eclipse Foundation».

Брэд Шиммин, аналитик The Futurum Group, склонен согласиться с Мюллером.

Сейчас вокруг агентских платформ, структур и инструментов столько шума, что более традиционные усилия по стандартизации часто кажутся слишком устаревшими и медленными, чтобы помочь компаниям решить неотложные и насущные проблемы, сказал он.

«Поэтому я беспокоюсь, что это чрезвычайно всеобъемлющее понятие «платформы», предложенное Eclipse Foundation, может проиграть более быстро развивающимся, хотя и более фрагментарным, архитектурным инструментам, таким как MCP, A2A и т. д.», — сказал Шиммин. «Точно так же каждый производитель передовых моделей и гипермасштабировщик стремится зарекомендовать себя в качестве поставщика агентских платформ. В этом отношении я не вижу, чтобы эти игроки передавали контроль платформе, которая могла бы угрожать их конкурентной дифференциации. Тем не менее, со временем я надеюсь, что компании смогут обратиться к LMOS или другим столь же всеобъемлющим, открытым и сохраняющим суверенитет идеям как к средству управления агентными системами, охватывающими эти окруженные стенами агентные платформы».

Время на рынке

Время объявления ADL совпадает с прогнозами взрывного роста агентного ИИ. По данным Gartner, к 2028 году 15% ежедневных бизнес-решений будут приниматься автономно с помощью агентного искусственного интеллекта, а 33% корпоративных приложений будут включать такие возможности — по сравнению с менее чем 1% в 2024 году.

«Agentic AI меняет определение корпоративного программного обеспечения, однако до сих пор не было альтернативы проприетарным предложениям с открытым исходным кодом», — сказал Майк Милинкович, исполнительный директор Eclipse Foundation, в своем заявлении. «Благодаря Eclipse LMOS и ADL мы предоставляем мощную открытую платформу, которую любая организация может использовать для создания масштабируемых, интеллектуальных и прозрачных агентских систем».

Движение за надежный искусственный интеллект

Работа Джозефа связана с более широким движением, выступающим за то, что он называет «надежным ИИ» в корпоративном контексте. Вместе с выдающимися деятелями разработки программного обеспечения, такими как Йонас Бонер, Джеймс Уорд и Эрик Мейер, он вносит вклад в Манифест о надежном агентном искусственном интеллекте, продвигая подходы, которые ставят эксплуатационную надежность выше передовых экспериментов.

Манифест отражает растущую напряженность в индустрии искусственного интеллекта между стартапами, ориентированными на инновации, основанными на Python, и существующими предприятиями с огромными инвестициями в инфраструктуру на основе JVM. Eclipse LMOS твердо позиционирует себя в последнем лагере, утверждая, что путь к надежному ИИ пролегает через существующие возможности предприятия, а не вокруг них.

Преимущества предприятия

По сравнению с проприетарными альтернативами, Eclipse LMOS предлагает несколько архитектурных преимуществ, включая открытую архитектуру, многоагентную совместную работу, облачную масштабируемость, модульность и расширяемость, а также возможность работы с несколькими арендаторами.

За пределами телекоммуникаций

В то время как Джозеф ушел из Deutsche Telekom, чтобы запустить собственный стартап Masaic, ориентированный на оперативную разведку, Eclipse LMOS продолжает оставаться проектом с открытым исходным кодом в рамках Eclipse Foundation. Платформа призвана сделать для агентного ИИ то же, что Eclipse IDE сделала для разработки Java: создать нейтральную к поставщикам и управляемую сообществом основу, на которую может опираться любая организация.

Между тем, новое предприятие Джозефа позиционирует себя как открытую альтернативу Palantir, уделяя особое внимание оперативному искусственному интеллекту. По его словам, компания использует Eclipse LMOS в качестве своего открытого ядра, демонстрируя, как платформа может служить основой для коммерческих предложений, оставаясь при этом свободно доступной для сообщества.

«Лучший способ применить ИИ — это операции», — сказал Джозеф. «И лучший способ сделать компании адаптированными к искусственному интеллекту — это расширить возможности инженеров, которые уже понимают свои системы, а не привлекать сторонних консультантов для создания черных ящиков».

Участие

Фонд Eclipse Foundation приглашает разработчиков, предприятия и исследователей присоединиться к сообществу Eclipse LMOS и внести свой вклад в развитие агентного ИИ с открытым исходным кодом. Этот проект является частью более широких инициатив Eclipse Foundation в области искусственного интеллекта, которые включают более 400 проектов с открытым исходным кодом, охватывающих облачную, периферийную, Интернет вещей (IoT), автомобильную и другие области.

ТЕНДЕНЦИОННЫЕ ИСТОРИИ YOUTUBE.COM/THENEWSTACK Технологии развиваются быстро, не пропустите ни одной серии. Подпишитесь на наш канал YouTube, чтобы смотреть все наши подкасты, интервью, демонстрации и многое другое. ПОДПИСАТЬСЯ Группа, созданная в Sketch. Дэррил К. Тафт освещает DevOps, инструменты разработки программного обеспечения и вопросы, связанные с разработчиками, в своем офисе в Балтиморе. Он имеет более чем 25-летний опыт работы в бизнесе и всегда ищет новые новости. Он работал… Узнайте больше от Дэррила К. Тафта.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *