Если вы являетесь технологической компанией любого роста и еще не выпустили способ создать агентов на своей платформе, что вы даже делаете с деньгами ваших инвесторов?
В июле прошлого года DataBricks запустил свой агент Mosaic AI Agent Framework, которая была одним из более ранних участников пространства агента искусственного интеллекта. Основная структура была сосредоточена на использовании извлечения дополненного поколения (RAG) для получения данных и документов, но по большей части это не так отличалось от любой другой среды агента, таких как Langgraph, Crewai или Autogen на рынке сегодня.
Сегодня DataBricks запустила агент Bricks, совершенно другой взгляд на строительные агенты и многоагентные системы на своей платформе данных, на своем саммите Data+AI в Сан-Франциско на этой неделе. Окружение здесь заключается в том, что вам на самом деле не нужно строить агентов самостоятельно, а просто предоставлять услугу с высоким описанием того, что вы хотите, чтобы они сделали, а система сделает все остальное (хотя вы всегда можете углубиться в код).
Поскольку это DataBricks, компания, основанная командой Apache Spark Spark Big Data Analytics Engine, фокус для сервиса Agent Bricks уделяется агентам, которые могут помочь его пользователям извлечь данные из неструктурированной информации, обрабатывать текстовые преобразования и создавать чат -боты на основе всех этих данных.
Кредит изображения: DataBricks.
«Шумить о агентах есть повсюду, но сами агенты не везде», — сказал мне вице -президент Databricks по маркетингу Джоэл Минник. Он отметил, что многие клиенты DataBricks экспериментируют с агентами и строительными доказательствами концепции, но очень немногие превращаются в производство. «Это действительно сводится к двум вещам: стоимости и качеству. Если я собираюсь поместить эту вещь в производство, то я должен иметь возможность работать по цене, которую я могу выдержать, и я должен доверять, что он делает то, что, я думаю, это должно сделать», — сказал он.
Отсутствующие произведения: оценка, данные и оптимизация
Минник утверждал, что здесь не хватает нескольких частей. Среди них лучшая методология для тестирования этих агентов. В конце концов, типичные показатели, управляемые поставщиками моделей, не смотрят на то, как эти модели и агенты будут работать в корпоративной среде с очень конкретными ограждениями.
Манник отметил, что многие предприятия также могут накопить много данных, но, например, не подходящие данные для обучения модели, которая может помочь в обслуживании клиентов. Для них агент кирпичи создаст синтетические данные для обучения своих агентов.
Затем эти компании также должны выяснить, как наилучшим образом оптимизировать эти модели для своих вариантов использования — и какие модели использовать. «Мы обнаружили, что это было просто много пробных и ошибок для многих компаний. Как, ну, давайте попробуем это, и давайте посмотрим, работает ли это, и это расширяет количество времени, которое они тратят, пытаясь построить эти вещи в очень дорогое место», — сказал Минник.
В идеале это означает, что в будущем клиент DataBricks может просто сказать агентским кирпикам создать агентскую систему, которая может ответить на вопросы о продуктах, которые предлагает их компания, и система продолжит и настроит это. Пользователи могут настроить судьи LLM с набором критериев оценки, и, поскольку DataBricks имеет глубокое понимание данных своих клиентов, он может затем создать правильные синтетические данные для этого варианта использования, чтобы помочь агентам учиться.
Оттуда DataBricks автоматически выберет правильную модель и оптимизирует ее на основе ограничений пользователя. Возможно, Минник сказал, что модель Llama 7b может привести к 95% от качества, которое они хотят за данную стоимость, но использование более дешевой, оптимизированной модели может получить им 87% качества за треть этой стоимости.
По мере того, как эти агенты используются в производстве, система снова будет регулярно проходить через эти петли оптимизации.
На заднем плане агент Bricks строит эти агенты с агентской структурой в своей основе.
Одна из компаний, с которой DataBricks пилотировала эту услугу, — это фармацевтический гигант Astrazeneca. По словам Минника, через час их разработчики создали агента по извлечению информации, используя агентские кирпичи, и на данный момент этот агент обработал более 400 000 документов и помогает исследователям и клиницистам понимать данные из клинических испытаний.
«Agent Bricks-это совершенно новый способ создания и развертывания агентов ИИ, который может рассуждать о ваших данных»,-сказал генеральный директор и соучредитель Databricks Али Годси. «Впервые предприятия могут перейти от ИИ Идеи к ИИ производственного класса по своим собственным данным с скоростью и уверенностью, с контролем над качеством и компромиссами.
В дополнение к Agent Bricks, DataBricks также запускает ряд дополнительных функций для своей платформы Mosaic AI. Они включают в себя поддержку без серверных графических процессоров для моделей с тонкой настройкой, запуск рабочих нагрузок машинного обучения и экспериментирование с большими языковыми моделями, не имея необходимости управлять инфраструктурой графических процессоров.
Компания также запускает новую версию своей платформы MLFLOW для управления жизненным циклом ИИ с новыми инструментами для мониторинга и трассировки агентов, независимо от того, где они размещены.
Trending Stories youtube.com/thenewstack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Прежде чем присоединиться к новому стеку в качестве старшего редактора для ИИ, Фредерик был редактором предприятия в TechCrunch, где он освещал все, от роста облака и самых ранних дней Kubernetes до появления квантовых вычислений …. Подробнее от Frederic Lardinois
