Агентство ИИ и платформ

Спустя более десяти лет после введения Kubernetes, и даже по мере того, как внедрение оркестратора -контейнера взлетело, сохраняется разрыв в навыках.

Это большая проблема для предприятий, которые нуждаются в K8s для масштабирования. Для Себастьяна Кистера Kubernetes стал общественным транспортом для вычисления.

«Kubernetes позволяет автоматически обеспечивать вычислительную мощность, в масштабе и, прежде всего, надежно и надежно, что не относится к многим, многим другим технологиям, которые у нас были раньше», — сказал Кистер, руководитель команды по продукту в Центре компетенции контейнеров, платформы и операционной команды в Audi Caser Audi Audi Audi и консультант по трансформации для других въездов.

Но это не значит, что с Kubernetes становится легче работать.

«Задача особенно в наборе людей, использующих его», — сказал он. «Рынок затрудняет поиск по -настоящему пожилых людей, которые глубоко понимают Kubernetes».

Все в последнее время все стало главным образом, когда один из его команд захотел добавить 12 новых кластеров, и команда по надежности сайта ответила: нам нужно время, чтобы найти и нанять еще два SRE.

Со всей автоматизацией вокруг Kubernetes Кистер был удивлен таким количеством барьеров для масштабирования. Перед лицом этих увековечивающих сложностей, уязвимостей и инцидентов Кистер посмотрел на ИИ.

Шесть месяцев назад Кистер принял платформу AIG AI AI Kubiya для поддержки ответов на безопасность, которые, как он выразится, «в реальном времени, контекстно-плавном и постоянно обновляемых». Это принятие агентского ИИ не только заняло предприятие, с которым он работает, от принятия риска до активного, интеллектуального восстановления — это уменьшило трение команды и остановило игру вины.

Агент AI СПИДОВОЙ АСИММЕТРИЧЕСКИЙ СМО

Как и большинство компаний в последнее время, команды Kister по проектированию и операциям Kister испытывали неотложное давление, чтобы масштабироваться, сталкиваясь с сокращающимися бюджетами и жесткими процессами.

«Мы не могли нанимать достаточно быстро, и обучение младших талантов в масштабе было слишком медленным и непредсказуемым. Рынок сделал практически невозможным привлечь таланты высшего уровня»,-сказал Кистер.

«Мы должны были найти другой способ — асимметричный способ масштабирования, который не полагался на дефицитные ресурсы».

Кистер стремился использовать агентов ИИ, чтобы избавиться от восстановления труда и инцидентов, чтобы освободить старших застройщиков от операционных задач и всех разработчиков из фокусировки. Он посмотрел на агентские платформы искусственного интеллекта, где агенты искусственного интеллекта могут быть обучены специальным задачам, чтобы избавиться от повторяющихся задач и больше внимания уделять функциям, инновациям и включению проектов с использованием платформы.

Строительство армии очень специфических агентов ИИ

План использования агентов искусственного интеллекта не посвящен развертыванию агента искусственного интеллекта для каждого варианта использования.

Он даже не следит за общей практикой инженерной платформы для покрытия случаев использования, которые затрагивают 80% инженеров. Прямо сейчас команда Кистера определяет приоритеты в случаях использования агентских агентов, связанных с безопасностью, надежностью и восстановлением инцидентов, которые затрагивают все инженерные команды.

Kubiya обладает «агентной нативной» внутренней платформой для разработчиков для программируемых агентов, которые настроены на выступление в качестве выделенных солдат агента SRE AI для групп разработки программного обеспечения. Существует 200 вариантов использования агентов AI из коробки, но, как и все инициативы по проектированию платформы, организации могут создать на вершине пользовательские агенты для конкретных вариантов использования.

Kubiya работает в рамках кластеров Openshift этой компании, масштабируя свои среды и интегрируя в свою политику управления идентификацией и управлением идентификацией и доступом (IAM), а также политики контроля доступа (RBAC) со всеми готовыми к производству охраны безопасности и соблюдения требований.

«У нас есть полная видимость и контроль, и мы доверяем этим агентам делать именно то, что они должны — не более, не меньше», — сказал Кистер.

В отличие от других платформ AI -агента, которые по -прежнему склонны к галлюцинациям, Kubiya добавила контроль программируемости и предсказуемости, поэтому даже когда разработчик просит агента искусственного интеллекта сделать что -то из объема, это ограничит ответ только на вызовы инструментов и предоставленные ему разрешения.

Эта область очень специфична для политики или среды, к которой он имеет доступ. Это открытый политический агент, следовательно, работает в рамках локальной или воздушной среды.

«Это не программное обеспечение в качестве услуги», — сказал Кистер. «Это твоя особенная обученная маленькая морская печать, сидящая и выполняя эту работу каждый день, каждую ночь, 24/7». Это в значительной степени способствует устойчивости предприятия, добавил он.

Кроме того, полагаясь на собственные SRES Kubiya для создания агентской рабочей силы ИИ, некоторые из команд его платформы его клиентов смогли масштабировать технологию, не добавляя еще одну тренировку-или «огромную команду», как он выразился,-для изучения этих засушенных навыков.

У Kubiya есть полная платформа AI с полным стеком, которая позволяет организациям строить или приносить свои собственные агенты искусственного интеллекта для готовых к производству вариантов использования. Он также предлагает корпоративную версию, которая включает в себя локальные развертывания, выбор крупных языковых моделей и помощь в обслуживании, на которые команда Кистера склонялась, чтобы избежать добавления еще одного разрыва навыков.

«Я купил AI« Инженер платформы »для развертывания агентских рабочих процессов в условиях производственной среды»,-сказал он. «Затем, по мере расширения требований, мы можем использовать рычаг этого асимметричного способа масштабировать нашу рабочую силу в новые области бизнеса».

«Прямо сейчас, так как у меня нет людей или знаний, чтобы масштабировать горизонтально, я использую их хранилище предварительно построенных агентов ИИ, чтобы увеличить усилия моих команд по работе с операциями без необходимости дважды думать об этом».

Измерение успеха платформы агента ИИ

Инженерная стратегия так же хороша, насколько это возможно.

По словам Кистера, до Кубии, общие уязвимости и воздействия (CVE), рассматривались как рутинные задачи — хотя они не так.

«Это отставание задержало ответы и выявление рисков», — сказал он. «С Кубией мы автоматизировали критически важные операции-обработка по вызову, исправление в реальном времени и эксплуатационное отклонение-освобождая наших лучших разработчиков от перегрузки контекста, чтобы они могли сосредоточиться на инновациях».

Всего за шесть месяцев безопасность в масштабе доказана:

  • Среднее время до разрешения (MTTR) упало с восьми часов до 30 минут.
  • Еженедельное время разрешения прошло с 64 часов до четырех.
  • Инциденты сократились на 80%из-за проактивного, устранения неполадок с AI.
  • Повторные запросы для инженеров упали на 80%.
  • Ежегодная ставка затрат на облачную инфраструктуру снизилась на 20%, выявив неудавшиеся развертывания, работающие без необходимости.
  • Аудит по соответствию и проверки безопасности теперь занимают половину времени, чтобы сгенерировать.

По словам Кистера, проект удвоил ценностное предложение команды, потому что стоимость инструментов увеличилась только на 10%, и все это управлялось его небольшой, целенаправленной командой.

Агенты ИИ помогают разработчикам общаться

Кубия не просто удалил некоторые из самых больших технических разочарований. Это также удалило много межличностных.

«Этот маленький агент разговаривает с вашим младшим разработчиком, и он может дать информацию, и мы избавились от указы пальца», — сказал Кистер, потому что, если что -то не соответствует стандартам, платформа не позволит ее развернуть, и разработчик точно знает, почему.

Разработчики просто разговаривают с агентом искусственного интеллекта, спрашивая: что здесь произошло? Что вы посоветуете? В будущем, по его словам, его команда также проверит, что исправление более автоматизируется.

Теперь «80% устранения неполадок — это просто за столом, потому что он мгновенно ясно через ИИ, через маленького агента, который сидит там», — сказал он. «Вы спрашиваете, что здесь произошло? И это похоже на: у вас есть коренная причина для этого? Да, и это говорит вам об основной причине, и вы просто знаете, что случилось».

Многие из этих основных показателей производительности разработчиков являются проводниками для стоимости, потому что это сокращает инженерные часы, потраченные на разочарование, обнаружив, что пошло не так, и перераспределить это время на создание новых функций быстрее.

С новой агентной платформой AI от Kubiya команда Kister — и ее внутренние клиенты -разработчики — разблокируют видимость, масштабирование асимметрично накапливает и действительно делает больше с меньшими затратами. Или, лучше положить: сделайте больше с той командой, которую он имеет.

Trending Stories youtube.com/thenewstack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Дженнифер Риггинс — культурная сторона технического рассказчика, журналиста, писателя и ведущего событий и подкастов, помогающих поделиться историями, где сталкиваются культура и технологии и перевести влияние технологий, которую мы строим. Она была … читайте больше от Дженнифер Риггинс

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *