VMware Tanzu спонсировал этот пост.
Ранее в этом году Daryl Taft из нового стека писал, что Java поднимается как язык первого выбора для создания приложений для искусственного интеллекта. Хотя Python продолжает доминировать в случаях использования ИИ для науки о данных, когда речь идет о основных бизнес -приложениях, Java доминирует.
Подобно тому, как весна улучшила жизнь разработчиков Enterprise Java, предоставив им оптимизированную структуру для создания приложений Java, и так же, как Spring Boot произвел революцию в том, как Enterprise Devs создают микросервисы, Spring AI снова собирается изменить игру.
По пятам модельного протокола контекста (MCP) Java SDK «Я поговорил с Марком Поллаком, основателем и оригинальным технологическим лидером для Spring AI, с открытым исходным исходным искусственным искусством для Spring и Spring Boot, чтобы узнать о мире искусственного интеллекта, фреймворков и MCP.
Читайте дальше, чтобы получить краткое изложение мыслей Марка из нашего разговора, отредактированного для ясности.
Что такое ИИ Инжиниринг?
Был общий шаблон: с одной стороны, есть люди машинного обучения и науки о данных, а с другой стороны, есть инженеры -программисты. И теперь, я думаю, между ними есть законная категория, называемая инженером ИИ — термин, который мы использовали сознательно в течение как минимум 18 месяцев. И Spring AI — это прикладная рамка для искусственного интеллекта.
Чатгпт появился и сделал несколько простых API, которые можно назвать любым разработчиком на любом языке. Разработчики Java знают, как взаимодействовать с API, и они часто гораздо сложнее, чем API -поставщики моделей. Взаимодействие с моделью API менее сложное; Вам просто нужно изучить терминологию ИИ.
Однажды (как помнят некоторые из нас), не было абстракций базы данных, таких как JDBC (подключение к базе данных JAVA) или ODBC (подключение к открытой базе данных). Каждый поставщик базы данных сделал то же самое, но не было никакой стандартизации, если вы хотели переключиться с одного на другой. Таким образом, вам понадобится унифицированный API, портативную абстракцию услуг.
Допустим, у вас есть приложение, которое может быть улучшено, делая что -то с ИИ. Если вы находитесь на Java, во многих случаях использования вы можете использовать Spring AI для реализации этой идеи с хорошей обслуживаемостью, такой как избегание блокировки поставщиков.
Если вы хотите попробовать каждый пакет из каждой исследовательской работы, вы будете разочарованы. Мы построили Spring AI как дистилляцию самых распространенных вещей, которые вам нужны. Если вы пытаетесь быть вершиной копья, вы будете в Python. Организации, вероятно, имеют рабочую группу ИИ или науки о данных, основанную на Python, и они не исчезнут. Но пирог становится больше.
О рамках ИИ
Мы считаем, что конкурс рамки AI полезен для разработчиков; Там не обязательно должен быть консенсус -победитель. Spring AI, Langchain и Langchain4J разделяют аналогичные цели. Есть вещи, каждый делает лучше других.
Два года назад кодовая база Langchain не была чем-то, что мы хотели привлечь. Что-то может быть отличным проектом и принято многими людьми, но это все еще очень далеко от объектно-ориентированного взгляда, которое вы бы увидели с разработчиками Java.
Langchain-это 800-фунтовая горилла, которая заинтересовалась людьми в рамках ИИ, и Langchain4J существует. Но мы чувствовали, что должна быть пружинная структура ИИ в качестве расширения пружинной экосистемы.
Мы могли бы использовать коллекцию других проектов, но наша миссия всегда заключалась в том, чтобы предоставить разработчикам Java лучший способ создать свои приложения. Мы полагали, что ИИ Инженерность была ключевой способностью, которую нам нужно было владеть, и имея мнение.
Как подходить
Разработчики Java, стремящиеся начать работу с искусственным интеллектом, нуждаются в нескольких фундаментальных абстракциях.
Если вы хотите проанализировать корпоративную документацию с помощью модели, которая не была обучена ей, вам нужна векторная база данных. Хорошо, их 20, и все они имеют разные API и собственные языки запросов. Никто не хочет блокировки.
Если вы посмотрите на эти языки запросов, это иероглифы. Triple подчеркивая, кудрявая скоба, знак доллара … Вместо этого мы написали нашу собственную небольшую грамматику запроса. Похоже, простой SQL: где это, тогда. Мы переводим это на язык запроса векторного магазина. Таким образом, у нас есть весенняя концепция, называемая портативной абстракцией обслуживания. Вначале речь шла о базах данных, но применяется та же концепция: встать и работать быстро с максимально небольшим количеством шаблонов.
Если вы новичок в весне, вы будете делать покупки для рамки. Но обычно это организационное решение. Мы обычно не разговариваем с любителями. Если они не слышали о весне, скорее всего, они не работают на Java. Если вы не работаете на Java, используйте язык, который вам больше всего удобен, и найдите структуру, которая делает то же самое.
MCP: ракетное топливо для приложений для искусственного интеллекта?
Если вы посмотрите на Zeitgeist вокруг протокола контекста модели (MCP), все это любит. На саммите инженера ИИ самым посещаемым разговором был «Строительные агенты с модельным протоколом контекста». Сначала основные конкуренты были довольно тихими. Они хотели привлечь людей в свою экосистему. Старый мультфильм XKCD о стандартах мог бы разыграться здесь.
Источник: XKCD, CC BY-NC 2.5
Но в последние недели мы видели движение к MCP от AWS, Microsoft и Openai. Так что, может быть, мы уже видели выравнивание.
MCP похож на ракетное топливо для ваших приложений ИИ. Безусловно, не все серверы MCP создаются одинаково или когда -либо будут использоваться в корпоративных приложениях. Но есть много зрелых вариантов. Так что это становится библиотекой классов инструментов. Разработчики часто дают еще один инструмент для набора инструментов; С MCP это больше похоже на гигантский набор инструментов.
Это так легко получить функциональность с полки и включить ее в ваше приложение. Это может быть написано на Python, Typescript, что угодно, потому что это просто JSON-RPC на проводе. Вы можете понять, почему сообщество ИИ приняло его по всем направлениям.
Что девственные должны добиться успеха с приложениями искусственного интеллекта
Мы можем быть предвзятыми, но мы твердо верим, что вам понадобятся рамки. Если вы не используете Spring AI, вы получите необработанную модель SDK или REST. Последний вариант займет несостоятельное количество времени, как только вы начнете вызывать ваши инструменты. Это сложно, это не стандартизировано, и в конечном итоге это приводит к недифференцированной тяжелой подъеме, которая удерживает ваших разработчиков от того, что они делают лучше всего: написание кода.
Инженеры платформы хотят централизовать свой контроль над доступом к ИИ. Они хотят контролировать затраты, они хотят предоставить доступ к нескольким моделям и моделям версии, и они хотят, чтобы у них была возможность поменять утвержденные модели и выходить в свои приложения из центрального местоположения, чтобы они могли использовать операционные элементы управления, ограничение скорости, наблюдение, связывание услуг и реестры.
Вы хотите дать разработчикам предопределенные инструменты. Вы не хотите спрашивать комитет по архитектуре в банке каждый раз, когда вы хотите попробовать новый инструмент. Это банк, так что вы не можете установить все, что захотите. Вот где платформа для разработчиков, ориентированная на AI, может помочь вам дать одну центральную точку доступа.
Теоретически, вы можете написать все это самостоятельно, но кто хочет это сделать? Tanzu предоставляет более высокую отправную площадку для приложений для ИИ. Там, где строка между домашними или платформы, у разных людей есть разные мнения, но платформа разработчика отвечает реальной потребности на предприятии.
В конце концов, мне не платят за сбор звезд GitHub: мне платят за создание продуктов, которые обеспечивают кому -то ценность.
Недавние десятилетия достигли больших успехов в инфраструктуре; Теперь пришло время создать приложения, которые используют максимальную пользу из этих новых инструментов. Решения VMware Tanzu ускоряют разработку и поставку приложений с помощью оптимизированных путей к производству, автоматизированным операциям платформы и улучшению затрат, производительности и безопасности. Узнайте больше последних из VMware Tanzu Trending Stories YouTube.com/thenewstack Tech, которые движутся быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Jonathan Eyler-Werve запускает продукты в течение 15 лет и работает в области управления продукцией, дизайна и инженерных работ с полным стеком. Он наставляет PMS в середине карьеры и консультирует стартапы и социальные предприятия. В настоящее время он присматривает за командами разработки приложений в Broadcom, … Подробнее от Джонатана Эйлера-Вервера, доктора Марка Поллака, с 2003 года участвует в Spring Framework.
