Зедеда спонсировала этот пост.
Искусственный интеллект преобразует жизненный цикл доставки программного обеспечения (SDLC). ИИ помогает писать код, оптимизировать код, просмотр кода, код отладки и многое другое. И затем есть сам код: предложения SaaS включают ИИ в функции суммирования, функции чата и различные формы анализа.
Наконец, существуют другие последствия ИИ, особенно генеративного ИИ (Геная), на SDLC, такие как наблюдаемость для неэнергинистического вывода ИИ. Галлюцинации могут присоединиться к «Off One Errors», а неверные кеша в качестве изюминки во многих шутках программирования.
Но то, что на самом деле не изменилось с ИИ,-это потребность в DevOps: практика доставки более качественного кода в производство, быстрее и чаще. Согласно отчетам DORA в DORA DevOps, существует четыре статистически доказанные меры, которые описывают производительность доставки программного обеспечения в этих направлениях: время заказа до изменения развертывания, скорость сбоя изменений и время неудачного времени восстановления. Мы вернемся к ним.
Согласно Google Trends, интерес к термину «DevOps» достиг максимума в марте 2022 года. После устойчивого роста за 10 предыдущих лет этот термин в настоящее время наблюдается очень постепенное снижение. ИИ, с другой стороны, взорвался в интересах с момента запуска CHATGPT в ноябре 2022 года. По совпадению? Я думаю, что нет.
ИИ вынимает общеизвестный кислород из комнаты разума. Но это потому, что ИИ каким -то образом заменяет или устраняет потребность в DevOps? Едва ли. На самом деле, это совсем наоборот.
На первый взгляд, можно сделать вывод, что ИИ вытеснил DevOps. Но, как однажды сказал ученый -мудрый, корреляция не равна причинно -следственной связи. Конечно, ИИ выводит общеизвестный кислород из комнаты Mindshare. Но это потому, что ИИ каким -то образом заменяет или устраняет потребность в DevOps? Едва ли. На самом деле, это совсем наоборот.
DevOps: Вы должны быть такими высокими, чтобы ездить на AI Ride
Однажды я рассказал о том, как DevSecops произносится «DevOps», потому что «SEC» молчал. Я утверждал, что если вы действительно правильно делаете DevOps, ваш «код более высокого качества» имеет меньше уязвимостей безопасности, а ваша способность развертывать «быстрее и чаще» включает в себя исправления и исправления любых уязвимостей. Это требует такой же мышечной группы. Фактически, без сильной практики DevOps организации часто имеют безудержные известные уязвимости в производстве.
Те же «Группа мышц» применительно с ИИ. Почему? Поскольку ИИ требует высокочастотных обновлений кода, автоматических процессов качества и методов быстрого восстановления. Взгляните на обнимающееся лицо — GitHub of AI — и вы увидите, как быстро развиваются основополагающие модели. Наборы данных для переподготовки или поколения в поисках (RAG) постоянно обновляются. Обратная техника является итерационной и может вызвать изменения в вашей кодовой базе ИИ.
Если вы не выяснили DevOps для вашего «обычного» не-авочного кода, вы столкнетесь с еще большим количеством проблем, реализуя ИИ. Там нет «прыжков с трендом DevOps».
Другими словами, если вы не выяснили DevOps для вашего «обычного» не-авочного кода, вы столкнетесь с еще большим количеством проблем, реализуя ИИ. Там нет «прыжков с трендом DevOps». Если вы хотите развернуть обновления модели на высокой частоте, начните с знакомых, не-кодовых баз, не связанных с AI.
И это просто «быстрее и чаще» части DevOps. Возможность доставить «более качественный» код AI имеет аналогичное первостепенное значение. Никто не хочет, чтобы код ИИ уязвился, чтобы вызвать инъекцию. Каждый хочет, чтобы модели ИИ были проверены и выровнены. Если практика, которые у вас есть для обеспечения работы кода ИИ и безопасны, расходятся в том, что они быстро предоставляют обновления, то у вас будет либо устаревший ИИ, либо сломанный ИИ. Итак, убедитесь, что у вас есть методы качества кода, которые позволяют быстро развернуть код.
(Кроме: как насчет MLOP? И AIOPS? Да, MLOPS развивался, чтобы применить принципы DevOps к жизненному циклу моделей машинного обучения. И есть несколько отличных достижений от MLOPS, которые помогут вам расширить практику DevOps до AI. Но давайте посмотрим на это: MLOP Помогите ИТ -операциям.
Тема исследования: ИИ на грани требует DevOps на краю
DevOps и облако выросли вместе. Агрегация и абстракция вычислений в облаке является отличным дополнением к автоматизации DevOps. Целые экосистемы возникли вокруг «облачных нативных» инструментов, большая часть которых поддерживает достижение результатов DevOps. Практика DevOps созрела во многих организациях, внедренных при развертывании кода в облаке.
И многие рабочие нагрузки перешли в облако. В частности, пользовательские приложения перешли от неуклюжих, локальных развертываний в SaaS, управляемого продуктом. За любым приложением SaaS вы найдете некоторых из лучших практикующих в отрасли DevOps. Предприятия упорно трудились, чтобы догнать цифровые милые, и многие крупные банки и медиа -компании теперь могут похвастаться лидерством с ограждением.
Но есть целые категории программного обеспечения, которые не могут перейти в облако или центр обработки данных. И будет написано больше программного обеспечения, которое должно работать на краю. Почему? Потому что данные, полученные на краю — на нефтяных выборах, заводские полы, судоходные суда, даже розничные магазины — могут быть слишком дорогостоящими и слишком медленными, чтобы отправлять в облако для обработки.
Например, рассмотрим фабрику с видеокамерами по всей его сборочной линии, чтобы сканировать производственные дефекты. Отправка всех этих данных в облако будет стоимостью. Затем рассмотрим масляную установку с датчиком давления на важнейшем клапане. К тому времени, когда данные отправляются в облако, проанализированы, и команда отправляется обратно для исправления проблемы, клапан мог бы катастрофически провалиться.
Интенсивность данных края обладает большим потенциалом для вариантов использования искусственного интеллекта. Они могут выглядеть иначе, чем ИИ в облаке, но недавний опрос показал, что 90% ИТ -директоров увеличивают инвестиции в Edge AI. Вернемся к нашим предыдущим примерам: заводы могут использовать ИИ для анализа каналов камеры и немедленно принимать корректирующие действия на дефектные детали. Энергетические компании могут проанализировать данные с участка бурового участка локально, чтобы немедленно обнаружить надвигающийся отказ или оптимизировать операцию бурового. Это всего лишь пара способов, которыми Edge и AI растут вместе.
DevOps не ушел, но это важнее, чем когда -либо в эпоху искусственного интеллекта
Почти как это ни парадоксально, DevOps на краю не созрели в темпах DevOps в облаке. Это связано с тем, что многие из «облачных нативных» практик и инструментов основаны на наборе предположений, которые не верны на грани. Доступность обильного вычисления, питания и хранения. Относительно стабильная и подключение к высокой пропускной способности. Физическая безопасность вокруг стоек серверов. Привлечение облачных систем, созданных для DevOps и разветвления в Edge Environments, не работает.
Это создает загадку на краю. Край выполняет такое обещание ИИ, и все же не хватает зрелости DevOps, чтобы быстро и часто увидеть высококачественный код, развернутый на краю. Как мы это преодолели? Начните с оснований:
- Не относитесь к краю как к облаку. Принимайте реалии края, даже когда вы продвигаете к облаку, похожие на облачные переживания. Edge Native не является облачным нативным.
- Используйте Дора метрик для края кода. Базовая линия, где вы находитесь сегодня на четырех ключевых показателях. Ваше улучшение в этих показателях — ключевые показатели эффективности.
- Принять платформу подход. Не решайте одну рабочую нагрузку за раз на краю. Каждая рабочая нагрузка приносит «друзей» (в частности, безопасность и подключение). ИИ ничем не отличается: у вас могут быть Python, Tensorflow, Pytorch, Docker и многое другое. Убедитесь, что вы решаете все компоненты и все слои стека.
- Всегда приносите наблюдение за поездкойПолем Не летите вслепую. Будь то код приложения, одна модель или агент ИИ, есть способ понять, как ведет себя код в производстве. Наблюдение за моделью отличается от кода наблюдения; Вы захотите измерить время вывода, использование графических процессоров и количество запросов на вывод и показатель успеха.
- Не забывайте о безопасности. Ваши приложения Edge AI должны будут не только работать в нулевой трастовой среде, но и должны вести себя надлежащим образом, если устройство, на котором они запускаются, физически украдено. Такие возможности, как безопасные анклавы и геозоны, имеют решающее значение.
- Добавить на MLOPS. AI на Edge требует, чтобы MLOPS управлял моделью ML/AI, используемой в приложении, охватывающей все, от сбора наборов данных и обучения до моделирования версий, упаковки и моделирования модели. После того, как у вас есть солидный фонд DevOps, MLOPS представляет дополнительные специфичные для AI/ML практики и шаблоны, такие как хранилища функций, реестры моделей и хранилища наборов данных.
DevOps не ушел, но это важнее, чем когда -либо в эпоху ИИ. Меры успеха и здоровья DevOps по -прежнему остаются полезными руководствами для развертывания ИИ. Там, где практики DevOps не являются сильными, как на краю, сначала Harden DevOps, прежде чем представить ИИ.
Zededa позволяет клиентам беспрепятственно управлять инфраструктурой Edge Computing, обеспечивая видимость, безопасность и масштабируемость в этих средах и поддерживает такие варианты использования, как компьютерное зрение, консолидация рабочей нагрузки, контекстуализация данных IIOT и прогнозирующее обслуживание, все в производстве сегодня. Узнайте больше последних из Zededa Trending Stories YouTube.com/ThenewStack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Dormain Drewitz — вице -президент по маркетингу в Zededa, лидере Edge Computing Platerds. До прихода в Zededa Dormain был вице -президентом по маркетингу продуктов и отношениям с разработчиками в Pagerduty и лидировал маркетинг продуктов и контент -стратегию для VMware Tanzu …. Подробнее от Dormain Drewitz
