НЬЮ-ЙОРК. На первой в мире конференции AI Agent здесь на прошлой неделе более крупные игроки выстроились в очередь с стартапами, чтобы рассказать о своих инновациях на процветающем рынке программного обеспечения и услуг AI-агента.
Председатель программы Бен Лорика, директор Gradient Flow, сказал новому стеку, что идея новой конференции состоит в том, чтобы собрать людей в одной комнате, сравнить заметки и встретить людей из других мест.
«Для любой новой технологической тенденции, для ранних пользователей важно общаться друг с другом и сравнивать заметки и поговорить с людьми, чтобы проверить ваши решения», — сказал он.
Спонсорство конференции «Секретный агент» Омер Трайман сказал новой стеке: «Наша цель состояла в том, чтобы объединить всех — так много меняется каждый день, и каждую неделю — более крупные игроки могут быстро двигаться, но трудно победить небольшую исследовательскую группу университетов. Мы хотели получить общее представление о том, что жизнеспособно по всему совету».
Основные генайские тенденции
Роберт Нишихара, соучредитель AnlyScale, сказал в своем первом докладе, что он видит «действительно большое изменение в ментальной модели относительно того, куда нужно идти инновации» в генеративном ИИ (Genai).
«Модельные архитектуры в настоящее время более стандартизированы, а алгоритмы обучения стандартизированы. Все это будет посвящено получению более качественных данных и введении большего количества вычислений в данные», — сказал он.
Напротив, Кристина Хуанг, член технического персонала в Openai, подчеркнула в своем выступлении «экспоненциальные улучшения» в моделях, как ускорение интереса к агентам искусственного интеллекта. По ее словам, поскольку модели становятся более способными, как и агенты.
Джефф Боэс, профессионал на рынке в Антропике, подчеркнул необходимость тщательного внедрения и сотрудничества с клиентами, чтобы обеспечить агенты доставляли в соответствии с обещанными и надежными.
В «пространстве стартапов вокруг нашей технологии… возможность состоит в том, чтобы работать с клиентом, развивать глубокое доверие и решать жесткие проблемы с нашим инструментом. Мы хотим подходить для цели, но мы также хотим быть самым высоким доверием и сильным партнером для предприятий».
Ag2, Autogen и Microsoft
Цинюн Ву, создатель и основатель AG2, описала в своем выступлении, как AG2 развивалась из популярной структуры с открытым исходным кодом для создания многоагентных рабочих процессов.
Ву сказал новому стеку, что идеи Autogen и Ag2 поступили из исследований, которые она и ее коллеги провели в Penn State, где она все еще является доцентом.
«Агенты ИИ существуют в течение долгого времени», — сказала она. «Агент ИИ — это организация, которая может действовать в отношении окружающей среды и реагировать, принимать меры и отвечать.
«Разница сейчас заключается в способности LLMS [large language models] В разуме, — добавила она. — Возможность агентов ИИ увеличилась из -за повышенной способности LLMS, в частности, способности рассуждать ».
После того, как Microsoft начала принимать проект Autogen в другом направлении с выпуском 0,4, WU основала AG2, чтобы продолжить вдоль исходного пути автогена.
Genai Agent Frameworks
Как и Autogen, AG2 составляет и масштабирует многоагентные системы, используя простые разговоры, такие как агент с агентом, групповые чаты, последовательные чаты и вложенные разговоры.
По словам Ву, агенты искусственного интеллекта могут быть интенсивными, интенсивными данными или инфекцией LLM. Все чаще новые системы ИИ строятся из сложных систем. Агенты — это естественный способ создания таких систем, добавила она.
Во -первых, построить домашние агенты с настраиваемыми возможностями. Далее, заставьте агентов поговорить друг с другом, используя различные типы чатов и инструментов. Затем определите многоагентные шаблоны оркестровки и объедините эти паттерны в сложные чаты, сказал Ву.
Еще одна рамка агента искусственного интеллекта, выходящая из университета, — это рамка Arklex AI -агента от Arklex.AI, основанная профессором Колумбийского университета Чжоу Ю.
Ю сказал новому стеку, что агенты Arklex учат со временем, постоянно настраивая свои модели с новой информацией из взаимодействия с людьми и другими агентами.
Например, агент Arklex, развернутый в приложении для покупок, может узнать, что некоторые люди реагируют на скидку более позитивно, чем другие, что некоторые клиенты предпочитают использовать WhatsApp или SMS для получения предложений или предпочитают определенные вкусы или духи, сказала она.
«Агент искусственного интеллекта учится, отвечая на вопросы о продуктах, таких как« Почему этот еще дорог? Как долго длится батарея? » и т. д., — добавила она.
Тем временем Траджман, который также является технологическим консультантом и инвестором, сказал новому стеку, что для него важно найти пробелы в организации, где агент будет хорошо подходит.
Он хотел бы «заставить ИИ построить моего агента», сказал он, и «построить агента, который помогает определить соответствующие данные при выполнении своих задач».
Бамл
Вайбхав Гупта, генеральный директор Boundary, обсудил на своей сессии, как надежно разработать приложения на основе LLM.
Спонсоры границ BAML, с открытым исходным кодом, специфичный для домена язык для генерации структурированных выходов из LLMS. Пограничный контроль BAML TRAFFIC, чтобы помочь разработчикам улучшить производительность и надежность выхода LLM.
«С BAML вы можете построить надежные агенты, чат -боты с тряпкой [retrieval-augmented generation]извлеките данные из PDFS и многое другое », — сказал Гупта новый стек.
«Разработчики создают функции для LLMS, такие как взятие пользовательского запроса и создание списка изменений, которые можно сделать в пользовательском интерфейсе», — добавил он.
«Наша цель состояла в том, чтобы создать инструмент, который позволяет традиционному разработчику быстро итерации и использовать инструмент, который они используют для других приложений, создавая, таким образом, пересечение или границу между старыми и новыми мирами».
Гупта добавил, что граница проводит платформу SaaS для сбора данных приложений для разработчиков. «Вы хотите наблюдать за разными частями приложения и найти, где сбои чат -бот», — сказал он.
Оценка агентов ИИ
Среди часто повторяемых сообщений на конференции заключается в том, что агент ИИ должен быть обучен и оценивать, итерация процесса обучения и оценки, чтобы обеспечить его выполнение, как и ожидалось.
Оценка агента также может помочь решить проблемы галлюцинаций Genai, неверные результаты и низкокачественные ответы, сказал Илан Кадар, соучредитель и генеральный директор Plurai.
Чтобы выразить это в контексте, создание агента, основанного на OpenAI, «все равно, что привлечь эквивалент аспиранта», — сказал Кадар новому стеку.
«Однако этого недостаточно, чтобы нанять студента, вы должны заставить его понять организацию и бизнес», — добавил он.
Платформа Plurai «Intellagent» оценивает агентов ИИ, сначала обучая их, а затем создавая сценарии оценки, чтобы проверить эффективность обучения.
«Идея состоит в том, чтобы аспирант в конечном итоге стал членом старшего персонала», — сказал Кадар.
Intellagent генерирует синтетические данные для обучения модели, а затем генерирует сценарии оценки для определения эффективности обучения. «Другие инструменты не генерируют сценарии», — сказал Кадар.
Intellagent итерация процесса оценки для подтверждения результатов обучения, поиска ошибок и оптимизации агентов для высокой производительности и надежности.
Текст в SQL для агентов
Агенты ИИ требуют доступа к данным для учебных целей, а доступ к данным является одной из основных функций агента AI.
Базы данных добавляют типы векторных данных для хранения результатов обучения и предлагают генеративные возможности текста до SQL для поддержки второго.
Майк Фридман, соучредитель и технический директор временного шкалы, выступил на конференции по новой возможностям TimeScale.
Фридман сказал новому стеку, что фундаментальная проблема для агентов искусственного интеллекта заключается не в том, как генерировать точные запросы SQL из текста, но, как правило, «как поддержать человеческий язык для анализа данных». В этом контексте SQL представляет промежуточную форму, сказал он.
Freedman рассказал о новой возможности Timesscale по тексту к SQL, которая помогает создать более детерминированные запросы на недерминированные данные (IE, данные LLM).
«Интересная вещь-это сквозное трубопровод»,-сказал Фридман новой стеке. «В целом это широкая проблема — мы хотим задать вопросы данных на человеческом языке», обеспечивая при этом точности.
Freedman видит две части успешному поколению текста в SQL:
По словам Фридмана, TimeScale-это нативная база данных, совместимая с PostgreSQL, поэтому сгенерированный SQL должен работать с любой базой данных, совместимой с PostgreSQL.
Агентам нужно больше, чем векторный поиск
Доступ к данным, а также множество типов и разновидностей данных необходим для агента искусственного интеллекта для принятия соответствующих действий и возврата значимых результатов.
LancedB — это база данных с открытым исходным кодом, которая поддерживает формат Lance, который представляет собой мультимодальный формат, предназначенный для обучения LLM. Председатель программы Лорика назвал это «паркетом» ИИ.
Генеральный директор Lancencb Chang Она сказала, что проблема, которую они решают, — это мультимодальная проблема, в которой данные ИИ взяты из нескольких источников, таких как аудио, видео, текст, изображения и так далее.
Она рассказала новому стеку, что «агенты искусственного интеллекта должны обрабатывать сложные типы данных в крупномасштабных — от состояния агента и векторов до документов, изображений, аудио и видео. Традиционные базы данных не предназначены для такого рода мультимодальной рабочей нагрузки в масштабе.
«Чтобы решить эту проблему, Lancesb предлагает унифицированную платформу для хранения, поиска, анализа, обучения и обработки всех ваших данных искусственного интеллекта», — сказала она.
Например, если вы создаете конвейер данных с использованием LLM для питания агента для школы, вам нужно много различных типов информации из школы, добавил он, например, график класса, данные ученика и учителя, задания, изображения и видео в классе.
Проблема особенно применима, когда вы создаете агентов, и вы не хотите тратить свое время на управление деталями низкого уровня о том, как получить доступ и объединить все эти различные типы данных, сказала она.
Таблица LancedB предоставляет один формат для всех типов данных, поэтому вы можете искать в типах данных и моделей обучения с ним.
«Мы заменили четыре вещи на одну, и это масштабируется до нуля», — добавила она.
«Доступ к данным прост, пока вы не получите галлюцинации и нуждаетесь в цикле оценки. Поэтому мы начинаем управлять гораздо большим количеством метрик и истории», — сказала она.
Trending Stories youtube.com/thenewstack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Эрик Ньюкоммер является техническим директором в Intellyx. Он работал в качестве технического директора для ведущих поставщиков интеграции WSO2 и Iona Technologies и главным архитектором для крупных предприятий, таких как Citibank и Credit Suisse. Он создал одну из самых известных индустрии … Подробнее от Eric Newcomer
