На своем саммите в Нью-Йорке сегодня AWS объявила о множестве обновлений своих услуг, ориентированных на AI, но наиболее важной новостью было определенно Amazon Bedrock AgentCore, новая платформа (ныне в предварительном просмотре), которая объединяет все, что разработчики услуг должны поместить агенты искусственного интеллекта в производство и в масштабе, используя любую структуру и модель.
В некоторой степени, Bedrock AgentCore — это эволюция агентов. Но там, где агенты коренной породы предназначены для того, чтобы кому -либо быстро построить агента, AgentCore — это гораздо более полное решение, которое родилось из -за осознания того, что привлечение агентов к производству все еще слишком сложно. AWS утверждает, что сегодня многие клиенты все еще строят свои собственные инструменты или используют существующие инструменты, где неясно, как далеко они могут масштабироваться. Основной идеей AgentCore является предоставление предприятиям такую же масштабируемость, надежность и безопасность, к которым они привыкли на AWS, но для создания агентских систем, которые имеют очень специфические потребности и проблемы.
AgentCore сочетает в себе время выполнения для безопасного развертывания и масштабирования агентов, системы памяти для хранения и извлечения воспоминаний агентов, а также услуги идентификации, созданной на вершине OAuth, чтобы позволить агентам искусственного интеллекта доступ к службам AWS и сторонним инструментам с предварительной властью.
Одной интересной особенностью времени выполнения является то, что отдельные агенты могут работать до восьми часов, и все время выполнения находятся в контроле, что означает, что его следует довольно легко восстановиться после любых перерывов или неудач.
AWS AI Stack после сегодняшнего объявления Bedrock AgentCore. Изображение предоставлено: AWS.
Разработчики могут использовать функцию памяти для кратковременной и долгосрочной памяти для своих агентов-и эта память может быть разделена между агентами, а также для различных сеансов агента с одним и тем же агентом (но, возможно, другой базовой моделью).
Вся система-модельная, структура и протокол-агностик. Разработчики могут использовать модель, которая работает на Amazon Bedrock или их местном ноутбуке. Предприятия, которые хотят использовать свои собственные модели, также могут сделать это, поскольку AWS подчеркивает, что эти модели работают в изоляции, охраняемые системой виртуализации Nitro ‘AWS.
Bedrock AgentCore также включает в себя шлюз AgentCore для превращения любого ресурса в модельный инструмент протокола контекста (MCP) (подумайте о API, функциях AWS Lambda и т. Д.), А также интерпретатор кода, который позволяет агентам надежно записывать и выполнять JavaScript, TypeScript и Python Code.
Как примечания AWS, возможность писать и выполнять код не просто полезна только для кодирующих агентов. Этот интерпретатор этого кода позволяет агентам выполнять любой вид кода в этой среде с песочкой, из которого агент также может затем получить доступ к файлам и Интернету, чтобы внедрить дополнительные библиотеки или данные.
Для тех приложений, которые должны иметь возможность использовать веб-браузер, существует инструмент браузера AgentCore, облачное время выполнения браузера, которое позволяет агентам взаимодействовать с веб-сайтами из изолированной виртуальной машины (VM). Как подчеркнул AWS в предварительном росте перед сегодняшним объявлением, инструмент браузера также является модельным агентом (в отличие от большинства агентов, использующих браузер).
В наши дни одна область, которая начинает становиться намного большей тягой,-это наблюдение агента, поэтому, возможно, неудивительно, что AgentCore также включает в себя инструмент наблюдения, который направлен на то, чтобы предоставить разработчикам сквозное представление о поведении агента, его рассуждениях, использовании инструментов и многом другом. С помощью этих данных разработчики могут затем диагностировать проблемы с производительностью, сбои и аудит результатов агента. Все эти данные испускаются в формате OpeneleMetry.
Агент рынок
Не каждый агент искусственного интеллекта будет-и должен быть-встроен в собственном месте. Но предприятиям нужен способ закупить этих сторонних агентов и обеспечить их. Чтобы помочь с этим, AWS также запускает рынок для агентов и инструментов ИИ, позволяя предприятиям покупать и развернуть их непосредственно с рынка AWS.
AWS говорит, что он будет курировать агентов на этом рынке и сканировать всех этих агентов на предмет уязвимостей.
Векторы Amazon S3
Одна из них изящно новая сервис — и тот, который, вероятно, также привлечет много внимания, — это запуск векторов Amazon S3. S3, конечно, основной магазин объектов AWS. Векторы являются ключом к предоставлению моделей с контекстом (и памятью) в своем родном формате, и теперь S3 получит встроенную поддержку для хранения и запроса векторов в масштабе.
Этот сервис будет встроен в соответствие с базами знаний Amazon Bedrock и службой Amazon Opensearch, и компания утверждает, что позволит пользователям хранить свои векторные встраиваемые в масштабе на 90% меньше затрат по сравнению с альтернативными услугами. А так как он находится на вершине S3, служба может обрабатывать очень большие наборы данных.
Настройка моделей Amazon Nova
Помимо этих новых сервисов, AWS также запускает несколько обновлений в своих моделях Amazon Nova, которые запускаются на AWS Re: Invent в декабре прошлого года. В настоящее время AWS облегчает настройку и тонкую настройку этих моделей поверх полностью управляемой обучающей инфраструктуры Amazon Sagemaker Hyperpod. Это, говорит AWS, это то, о чем многие клиенты просили, поскольку они начинают изучать, как эффективно настраивать модели, чтобы понять их конкретные потребности в бизнесе.
Trending Stories youtube.com/thenewstack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Прежде чем присоединиться к новому стеку в качестве старшего редактора для ИИ, Фредерик был редактором предприятия в TechCrunch, где он освещал все, от роста облака и самых ранних дней Kubernetes до появления квантовых вычислений …. Подробнее от Frederic Lardinois
