Генайский бум за последние несколько лет выпустил волну стартапов, обещающих поддержать процесс быстрого инженера — то есть, представляя инструкции, направленные на то, чтобы именно управлять чат -ботом ИИ, чтобы служить полезным результатам. Поэтому подумайте о таких инструментах, как Catgpt Openai и Google Gemini, которые представляют пользователю пустое поле для их запроса — и где то, что вы спрашиваете, а также как вы спрашиваете, это может привести к очень разным результатам.
New York rescklayer сел в это пространство рано, запустив инструмент, который поможет разработчикам приложений управлять процессом подсказки около двух лет назад. Его основатели сами играли с чат-ботами ИИ и хотели, чтобы что-то отслеживали свои собственные подсказки, рассказывают соучредителя Джареда Зонераича (утолк с хакатоном TechCrunch, на фото слева с соучредителем Джонатаном Педоем).
По какой -то прихоти они поставили свой MVP там (на x), и инструмент, который они построили для себя, сделал всплеск, поэтому они продолжали строить. С тех пор он превратился в быстрый продукт управления, который они продают сторонним предприятиям, чтобы поддержать их развитие приложений ИИ, предполагая, что основатели достигли правильного времени, чтобы удовлетворить растущий интерес со стороны предприятий в том, как крупные языковые модели (LLM) могут помочь повысить их производительность.
В то время как быстрое пространство поддержки значительно нагревалось за годы после того, как rackslayer выпустил MVP, который они продолжили создать полностью изготовленную платформу управления оперативным управлением — предлагая визуальный интерфейс, заполненный инструментами для управления и мониторинга процесса попыток извлечь Лучшее значение от LLMS.
Теперь они закрыли повышение семян в 4,8 миллиона долларов, чтобы продолжить наращивать импульс для своего подхода. Раунд возглавляет Иван Беркович (Scop Venture Partners), с Питером Бойсом II (Stellation Capital) снова участвует (он также финансировал их предварительное семя), а также несколько ангелов и основателей ИИ и операторов, включая Майкла Акилиана, Джошуа Броудера, Бирн Хобарт, Ромен Хуэт, Джош Камджу, Логан Килпатрик, Бен Ланг, Алекс Оппенгеймер, Гокул Раджарам, Габриэль Стенгель и Луис Волох.
Следуйте подсказкам
Zoneraich говорит, что ядро продукта rescklayer — «оперативное реестр». «Это CMS, это контроль версий для подсказок», — объясняет он. «У вас есть подсказка, вы создаете новую версию, вы можете понять, почему версии различны, и тогда вы можете выбрать, какую версию — ваша производственная версия… это похоже на центр нашего продукта — и все это расширяется из этого и пытается сделать это более полезным ».
«Например, тестирование в верхней части этого или входит в систему, в то время как вы используете, какая подсказка или A/B -тесты между подсказками, и вроде более глубокого понимания, какая версия лучшая».
Платформа предназначена для поддержки клиентов в тестировании и оценке различных подсказок для их конкретного варианта использования приложений — скажем, приложение для тренерского искусства ИИ или чат -бот для поддержки клиентов — позволяя им проверить, как различные версии подсказок выполняются в различных LLMS; И, в целом, лучше справиться с этим смелым новым миром разработки приложений, где язык, необходимый для командования передовой технологией, в основном, просто слова (а не код).
Необычно для разработчика инструментов Dev, racklayer намеренно сосредоточен на нетехнических пользователях.
Zoneraich говорит, что они сделали сознательный выбор для создания быстрого управления бизнесом, ориентированным на то, что он называет «экспертами домена» — т.е. профессионалами с ключевым опытом в своей области, будь то образование, юридическое, здравоохранение и т. Д. Ранние пользователи приносили некодеров на партию разработки приложений.
«Мы считаем, что вы не можете создать медицинский искусственный интеллект без врачей, юридического ИИ без юристов или терапии без терапевтов», — пишет стартап в заявлении миссии, в котором говорится, что в его программном инструменте «позволяет экспертам и инженерам сотрудничать с использованием нашего визуального подсказок CMS .
Zoneraich идет дальше, говоря, что платформа ставит экспертов по домену в «сиденье водителя» разработки приложений.
«Это становится чем -то, что им нужно, чтобы быть обученным, но это не огромный скачок», — предлагает он. «Не похоже, что они должны научиться кодировать. Так что это то, что средний человек мог забрать ».
Принимая другое такту
Учитывая, как Генай открыл набор инструментов ИИ-в значительной степени благодаря решению Openai внедрить генеративный ИИ в доступный интерфейс естественного языка-выбор сосредоточиться на инструментах для нетехнических пользователей имеет логический смысл. Тем не менее, Зонерайч считает, что он отличает их от большинства игроков в пространстве.
«Мы используем совсем другой подход, чем все остальные», — предлагает он во время звонка с TechCrunch. «Вся эта концепция экспертов домена, ведущих заряд — в основном никто этого не делает. Я думаю, что мы узнали это от наших клиентов. Но в Силиконовой долине это немного менее сексуально для строительства для нетехнического, а не технического ».
«Я не думаю, что нам нужно убедить кого -то, что это правильный способ сделать это. Я думаю, что рынок сделает это разговором за нас », — продолжает он, утверждая:« Я не думаю, что вы можете выиграть во многих из этих областей, не используя экспертов по домену [to do prompt engineering]Полем
«В любом случае, инженеров недостаточно, даже если мы хотим сотрудничать с инженерами».
На технически сфокусированной стороне ИИ инструментов Zoneraich проверяет названия, подобные Zapier, а также указывает на то, что он называет как «LLM Ops», такие как Braintrust и Langchain,-когда мы обсуждаем конкурентный ландшафт. «Но я думаю, что все они вписываются в это [tools for technical users]- утверждает он, заявив, что это его убеждение, что для большинства компаний, стремящихся использовать полномочия LLMS, соответствующие эксперты по доменам для приложения, которое они захотят построить, не будут техническим персоналом.
Он также считает, что навыки, необходимые для того, чтобы стать хорошим быстрым инженером, не обязательно такие же, как и те, которые делают для хорошего программиста.
«Навык быстрого проектирования не является на 100% коррелирует с инженерами. Есть подраздел, но это действительно как навык тинка [that’s required] … «Я просто попробую эту случайную вещь, а потом я увижу, какова вывода», — говорит он нам. «Некоторые люди пытаются по -настоящему спланировать и провести исследование того, каким должно быть подсказка. И, по моему мнению, эти люди не очень хороши [prompt engineering] Потому что на самом деле нет науки ».
«Я думаю, что чем меньше вы пытаетесь понять LLM, тем лучше вы», — добавил он.
Спрос на строительство
Zoneraich оптимистично относится к тому, насколько большим будет рыночный необходимость для инструментов, чтобы получить максимальную отдачу от LLMS. Он также не обеспокоен тем, что эта недавно появившаяся область быстрого инженерного инженера в конечном итоге в истории работы, которая быстро разрабатывается в результате свежих событий на быстро меняющемся рынке Геная.
Даже AGI — был таким, как правило, интеллектуальным ИИ, который должен был быть привлечен — понадобится что-нибудь Работает он, утверждает он, подразумевая, что людям все еще понадобится какая -то форма инструментов/поддержки, чтобы подтолкнуть машины в обозримом будущем.
«Самое сложное в том, что мне делать с этим? Самое сложное в том, какую задачу я выполняю для решения? » Он говорит, подчеркнув уверенность racklayer, что он строит инструмент в течение долгосрочной перспективы. «Трудная часть — определение того, что делать».
«Если вы считаете, что нет никакого идеального решения для многих из этих проблем, есть бесконечные способы его решения, и это задача быстрого инженера — выбрать, какая проблема я даже решаю? Какой контекст для решения проблемы? » Он продолжает.
«LLM — это просто инструмент, чтобы перейти от определения проблем к решению, но вы просто перемещаете слой абстракции… мы перенесли его от машинного кода на современные языки программирования. Затем мы перенесли его из современных языков программирования в подсказки. И, возможно, мы собираемся переместить его из необработанных подсказок, чтобы быть похожими на вклад в подсказки », — сказал он.
«Но в конце концов, вам все еще нужен вклад. Там такая неприводимая часть ».
Семенный раунд будет использован для расширения команды (в настоящее время восемь сил), с акцентом на добавление собственных инженерных талантов для обеспечения качества и надежности обслуживания для клиентов, согласно Zoneraich. Он говорит, что они также хотят расширить платформу для обслуживания большего количества использования и увеличения использования, а также вкладывать усилия и энергию в здание сообщества, чтобы помочь развивать эту разворачивающуюся область быстрого инженера.
«Жюри не выходит на то, как выглядит инженер -быстрый инженер или что такое быстрый инженер. И я думаю, что наша задача — построить сообщество вокруг этого — быть как пионер этой быстрого инженерного сферы и показать людям, как это сделать. Так что это большое внимание ».
Racklayer не раскрывает, сколько у него платящих клиентов за свои инструменты — но Zoneraich говорит, что у них есть более 10 000 бесплатных и платных клиентов, которые прошли через свой веб -сайт. (Parentlab и Openai Speak-это два платящих клиента, которых он называет.)
В этом году стартап также наблюдался рост доходов в 13x-и он утверждает, что этот быстрый рост доходов происходит исключительно из-за того, что команды обнаруживают, что им нужны эксперты по доменам, а не только инженеры, для создания ИИ ».
«Все, что нужно, чтобы решить эти проблемы с подсказкой, это то, что вы идете, вы меняете подсказку, и вы видите, каковы результаты — и у нас есть много инструментов, которые помогут вам сделать это в масштабе. Но это основная вещь: просто научный метод », — добавляет Zoneraich.