В спешке построить агентов ИИ заставляет разработчиков, которые карабкаются за правильные инструменты и рамки. В последнем эпизоде новой прямой трансляции агентов стека разработчик AWS защитник Generative AI Antje Barth, который также написал в соавторстве книги по генеративному ИИ по AWS, рассказал нам о подходе компании к оказанию помощи разработчикам на ее платформе.
Выступая из Loft AWS San Francisco Builder Loft, Барт отметил, что, хотя большинство разработчиков теперь имеют довольно хорошее понимание моделей фундамента и того, как работать с ними, большинство вопросов, которые она слышит, касаются строительства агентских систем.
«С этой новой эрой, где мы пытаемся создать агентские системы, и потенциально даже многоагентные системы, я вижу много волнения и любопытства в этом пространстве», — сказала она. «Каковы инструменты? Какие рамки? Какие протоколы использовать, чтобы сделать это реальностью?»
И, может быть, самое главное: как вы масштабируете эти приложения, как только вы входите в производство?
«Английский стал новым языком программирования», — отметил Барт, сославшись на Андрей Карпати, бывший старший директор искусственного интеллекта в Tesla. Но этот переход от API-первых к естественным интерфейсам языка вызывает новые проблемы. В настоящее время разработчики должны рассмотреть, как агенты будут ориентироваться на интерфейсы, первоначально предназначенные для людей, от обработки всплывающих окон до борьбы с потоками аутентификации.
«Есть гораздо больше, чем рассмотреть, чем получить что -то на местном уровне на вашем ноутбуке», — сказал Барт. Проблемы, такие как задержка, когда сообщают несколько агентов, делая методы параллелизации и кэширования, важные для развертывания производства. Таким образом, в то время как ИИ обеспечивает быстрое прототипирование и создавать минимальный жизнеспособный продукт в рекордное время, те же вопросы, которые всегда имели в отношении масштабирования и безопасности, все еще применяются к этим приложениям.
Агенты пряди
Для AWS, отметил Барт, основное внимание также на предложении правильного инструмента, от IDE до командной строки (с Amazon Q CLI). Благодаря недавно запущенным Strands SDK, открытый исходный код Amazon использует фреймворк агента, теперь также предлагает инструменты, чтобы упростить создание агентских систем.
Барт сказал, что Стрэндс родился из -за потребностей собственных команд Amazon, и AWS фактически использовал его для создания инструмента Amazon Q CLI всего за три недели (и Strands также выбрал свое собственное имя).
«Скорость инноваций сейчас на самом деле связана с быстрым выполнением и доставкой продуктов. Так что благодаря агентам Strands они смогли сократить время развития с месяцев до всего лишь недель», — сказал Барт.
Одна вещь, которую AWS всегда делала, это дает разработчикам много возможностей для решения данной проблемы. Это ничем не отличается с агентами, где Strands представляет собой очень гибкий подход с открытым исходным кодом, в то время как управляемый сервис, такой как агенты коллеги, обрабатывает интеграцию баз знаний предприятия, масштабирование и безопасность из коробки.
Безопасность в эпоху агента
Разговор также затронул безопасность. Барт подчеркнул, что безопасность и безопасность должны быть «днем 1», а не запоздалой мыслью. С практической точки зрения, для AWS это означает поддержку моделей аутентификации OAuth для доступа к серверам для контекста модели (MCP), например, и помогает установить лучшие практики для безопасного общения с агентом-агентом.
Обсуждение также затрагивало наблюдение и отслеживаемость — основные компоненты при отладке сложных многоагентных систем. «Где я вижу, если что -то пойдет не так?» Барт спросил, подчеркивая необходимость в комплексной регистрации и мониторинге, встроенных в агентские рамки с самого начала.
«У нас есть большая помощь, которую мы можем предложить, чтобы убедиться, что вы надежно и безопасно строить», — сказала она. «У нас действительно есть инновационный центр Genai, который работает с клиентами в области прототипа и создания этих решений. У нас также есть обширная партнерская сеть, которая может помочь и проконсультироваться. Я бы просто поощрял всех, если вы наращиваете на AWS, обращайтесь к нам. Если вы создаете в открытом пространстве, обратитесь к сообществу. Сообщество также собралось вместе, чтобы помочь в этом ».
Trending Stories youtube.com/thenewstack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Прежде чем присоединиться к новому стеку в качестве старшего редактора для ИИ, Фредерик был редактором предприятия в TechCrunch, где он освещал все, от роста облака и самых ранних дней Kubernetes до появления квантовых вычислений …. Подробнее от Frederic Lardinois
