Еще в 2019 году Microsoft с открытым исходным кодом DAPR, новая среда выполнения для облегчения приложений на основе распределенных микросервисных средств. В то время никто еще не говорил о агентах искусственного интеллекта, но, как выясняется, у DAPR были некоторые фундаментальные строительные блоки для поддержки встроенных агентов ИИ. Это связано с тем, что одной из основных особенностей DAPR является концепция виртуальных актеров, которая может получать и обрабатывать сообщения, независимо от всех других участников системы.
Сегодня команда DAPR запускает агенты DAPR, что помогает разработчикам построить агенты искусственного интеллекта, предоставляя им много строительных блоков для этого.
«Агенты-это очень хороший вариант использования для DAPR»,-объяснил соавтор и сопровождающий DAPR и соавтор DAPR Ярон Шнайдер. «С технической точки зрения вы можете использовать актеров в качестве очень легкого способа запуска этих агентов и действительно иметь возможность запускать их в масштабе с состоянием-и быть ресурсным. Это все замечательно, но тогда, вам все еще нужно много деловой логики, которую вам нужно написать. Государственность и его оркестровая — только одна часть. И многие люди могут выбрать двигатель рабочего процесса или рамки актера, но все еще есть много работы, которые им нужно сделать, чтобы фактически написать логику агента с другой стороны. Существует множество агентских рамок, но у них нет такого же уровня оркестровки и состояния, как у DAPR ».
Кредиты изображения:DAPR Project
Агенты DAPR возникли из Floki, популярного проекта с открытым исходным кодом, который расширил DAPR для этого варианта использования AI. Общаясь с активаторами проекта, в том числе исследователем Microsoft AI Роберто Родригеса, две команды решили принести проект под зонтиком DAPR, чтобы обеспечить непрерывность новой среды агента.
«Во многих отношениях мы рассматриваем агентские системы и всю терминологию вокруг этого как еще один термин для« распределенных систем »,-сказал со-создатель и сопровождающий DAPR Марк Фуссел. «[…] Вместо того, чтобы называть их микросервисами, теперь вы можете назвать их агентами, в основном потому, что вы можете поставить большие языковые модели среди них всех ».
Чтобы эффективно координировать эти агенты, вам нужен механизм оркестровки и государственность, утверждает команда — что именно то, что дает DAPR. Это отчасти потому, что актеры DAPR должны быть чрезвычайно эффективными и способны вращаться в течение миллисекундов, когда появляется сообщение (и закрывается, с их состоянием сохранилось, когда их работа выполнена).
Прямо сейчас агенты DAPR могут поговорить с большинством популярных поставщиков моделей из коробки. К ним относятся коллеги AWS, OpenAI, антроп, мишстраль и обнимающееся лицо. Поддержка местных LLMS прибудет очень скоро.
В дополнение к взаимодействию с этими моделями, поскольку агенты DAPR расширяют существующую структуру DAPR, разработчики также получают возможность определить список инструментов, которые затем агент может использовать для выполнения данной задачи.
В настоящее время агенты DAPR поддерживают Python, а поддержка .NET скоро запускается. Java, JavaScript и Go скоро последуют.
