Агентное пространство ИИ представляет множество новых проблем для решения. Один из них: подключение в смешанных средах — между агентами, между агентами и инструментами протокола контекста модели (MCP), между агентами и крупными языковыми моделями (LLMS), между агентами и микросервисами. Все это, сохраняя при этом безопасность и управление.
Agentgateway, проект с открытым исходным кодом, пожертвованный Фонду Linux Creators Solo.io в августе, предназначен для решения этой проблемы. Он прибыл в пятки Kagent, с открытым исходным кодом для агентов искусственного интеллекта, созданных Solo, и пожертвованной в Cloud Computing Foundation в апреле.
Два проекта являются дополнительными, предлагается Лин Сан, глава открытого исходного кода в Solo.io, в этом эпизоде новых агентов стека, записанных на Summit Europe Open Source, в Амстердаме.
По словам Сан, Кагент начал как внутренний проект, чтобы помочь своей компании расширить свои платформы для инженерных ресурсов для размещения большего количества приложений и рабочих нагрузок. «Но одна из проблем с Кагентом заключается в том, что у вас нет способа опосредовать этот трафик между агентом к агенту, а агент на инструмент MCP Server», — сказала она.
«Это [where] Agentgateway может войти. Agentgateway не был только разработан для Kagent, но они хорошо вписываются в историю ».
Контроль того, какие инструменты подвергаются воздействию агентов
В разговоре с Фредериком Лардиноисом, старшим редактором TNS для ИИ, Сан описал цель и возможности агента.
По ее словам, проект, написанный в Rust, «обеспечивает безопасность, управление и наблюдение» между агентами и инструментами, а также между агентами и традиционными архитектурами микросервисов. Изначальное понимание протоколов MCP и Agent2agent, он «может поддерживать [the] Kubernetes Gateway API, который является будущим сетевого API в Kubernetes, — сказала она. — Это также поддерживает шлюз вывода ».
Как спросил Лардиноис Сан: с появлением MCP и A2A, зачем кому -то нужен агент Gateway?
«Стандартизированные протоколы связи A2A между агентами к агенту, верно? Инструмент MCP [is] Как и водитель USB-C или адаптер для инструментов,-ответила она: «Но между агентами к агентам нет управления. Там нет никакого обеспечения соблюдения политики безопасности между вашими агентами в инструменты MCP Server. Там нет баланса или устойчивости.
«Некоторые из вещей, которые нам нужны, например, для обеспечения общения, опосредования связи между микросервисами, мы считаем, что нам понадобится одно и то же плюс плюс. Потому что нам не только нужна традиционная политика безопасности, наблюдение и управление и соответствие между этими агентами для агентов и агентов для инструментов сервера MCP, нам также нужны шлюз, чтобы быть способными понимать протокол сервера MCP, понимающий протокол, понимающий протокол.
Она предложила пример: «Когда мы ставим прокси между микросервисами, мы используем этот прокси для опосредования трафика, например, маршрут в двух разных версиях микросервиса для баланса нагрузки, повторной попытки, магии устойчивости, чтобы иметь возможность применять политику безопасности».
Но она добавила: «Вы не обязательно хотите разоблачить все инструменты, доступные вашим агентам, некоторые инструменты, которые вы, возможно, не захотите выставлять им, потому что вы не тестировали [them] Достаточно, чтобы иметь возможность выпустить им, или некоторые инструменты, вы просто не хотите, чтобы они использовали его вообще ».
По ее словам, разместив AgentGateway между вашими агентами и MCP -сервером, вы можете быть избирательны в отношении того, какие из ваших инструментов подвергаются воздействию ваших агентов. «Вы можете предоставить политику и контроль над управлением, чтобы сказать, эй, может быть, из этих 20 с лишним инструментов я собираюсь раскрыть только пять из них моим агентам искусственного интеллекта.
«А также, я мог бы потенциально настроить это, может быть, для этого конкретного агента искусственного интеллекта я собираюсь разоблачить только один из 20 с лишним, но для этих конкретных агентов искусственного интеллекта я собираюсь раскрыть, может быть, пять».
Посмотрите полный эпизод, чтобы узнать больше о AgentGateway, в том числе о том, как Amazon Web Services и Microsoft участвуют в своей эволюции.
Trending Stories youtube.com/thenewstack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Хизер Джослин является главным редактором нового стека, с особым интересом к вопросам управления и карьеры, которые имеют отношение к разработчикам и инженерам программного обеспечения. Ранее она работала главным редактором контейнерных решений, облачного консалтинга … Подробнее от Хизер Жослин
