Как оптимизировать развертывания Edge AI с помощью автоматизации

Зедеда спонсировала этот пост.

Организации, развертывающие вычислительные приложения Edge AI, сталкиваются с значительными проблемами, включая обеспечение согласованности между распределенными устройствами, управление обновлениями и оптимизацию использования оборудования.

Без оптимизированного решения организации сталкиваются с сложными и трудоемкими ручными развертываниями, затруднением поддержания согласованности между устройствами края, проблемами в обновлении и управлении версиями приложений и недостаточным использованию аппаратных ресурсов, таких как графические процессоры. Это может привести к увеличению эксплуатационных затрат, более медленных циклом развертывания и задач в области масштабирования инициатив AI.

Эта проблема усугубляется в организациях, управляющих вычислительными приложениями с географически распределенной инфраструктурой. Это может включать компании в таких отраслях, как розничная торговля, производство, транспорт и любой сектор, использующий преимущества для обработки и анализа данных в реальном времени. Роли, стоящие перед этой проблемой, вероятно, будут включать в себя команды ИТ или оперативных технологий (OT), инженеры DevOps и ученые для данных, ответственные за развертывание и обслуживание приложений по краям.

Демо -обзор

Эта демонстрация демонстрирует, как Zededa, централизованная платформа оркестровки и управления краями, решает эти проблемы путем упрощения процессов развертывания и управления. Эта платформа обеспечивает централизованное управление, автоматизированное вложение ресурсов и бесшовные обновления в эфире для приложений с краями, обеспечивая оптимизированное решение для этих сложных задач.

Посмотрите на полную демонстрацию, чтобы увидеть, как централизованная платформа оркестровки и управления Edge автоматизирует проблемы развертывания Edge AI.

Требования к настройке

Чтобы выполнить эту демонстрацию, необходимо несколько технических предпосылок:

  • Устройства Edge Clange Eve-OS, операционная система на основе Linux для распределенных краев вычислений
  • Счет Zededa Andunt
  • Доступ к реестру контейнеров для изображений Docker
  • Приложения, требующие оборудования графического процессора, таких как двигатели свода или инструменты мониторинга, такие как Grafana и Prometheus

Демонстрационная установка включает в себя регистрацию в пользовательском интерфейсе Zededa, выбор устройств Edge, определение политик развертывания для проектов и наблюдение за автоматическим развертыванием приложений и конфигураций ресурсов.

Ключевые возможности в демонстрации

Эта демонстрация подчеркивает несколько ключевых функций:

  • Развертывание на основе политики: Централизованное управление и управляемое политикой развертывание контейнерных приложений для групп устройств с краями. Связывая устройства с проектами на основе тегов, пользователи могут автоматизировать развертывание приложений по распределенной инфраструктуре.
  • Автоматизированное вложение ресурса: Ресурсы графического процессора автоматически прикрепляются к указанным приложениям во время развертывания, обеспечивая эффективное использование аппаратного обеспечения для рабочих нагрузок искусственного интеллекта.
  • Обновления в эфире: Обновления приложений упрощаются с помощью изменений тегов контейнера в пользовательском интерфейсе (пользовательский интерфейс). Эти обновления автоматически распространяются на Edge Devices, демонстрируя гибкость в управлении жизненными циклами приложений.
  • Демонстрация демонстрирует использование графических процессоров (32%) с помощью видеопотоков обработки двигателя вывода в режиме реального времени. Он также демонстрирует бесшовные обновления приложений, изменяя теги контейнеров с немедленным визуальным подтверждением в пользовательском интерфейсе. Кроме того, развертывание Grafana и Prometheus иллюстрируют способность платформы эффективно управлять сложными стеками приложений.

    Как работает технология

    Вычислительная платформа Zededa Edge состоит из трех компонентов: Eve-OS с открытым исходным кодом, контроллера облака Zededa и рынка для управления рабочими нагрузками для развертывания на грани. Эта комбинация централизованных инструментов управления и специфичных для краев способностей поддерживает различные рабочие нагрузки (включая контейнеры, виртуальные машины и кластеры K3S) на разнообразных оборудовании на краю. Эта демонстрация выделяет:

    • Используются технологии: Контейнеры Docker (включая Docker Compose), интеграция с графическим процессором, Grafana для визуализации и Prometheus в качестве базы данных временных рядов
    • Протоколы: Протоколы безопасной связи обеспечивают надежное развертывание и управление приложениями на устройствах с краями

    Шаги выполнения

  • Войдите в пользовательский интерфейс Zededa, чтобы получить доступ к спискам устройств и панели мониторинга.
  • Просмотреть спецификации устройств и метрики (например, присутствие графического процессора).
  • Определите полисы развертывания в рамках проектов по автоматизации развертывания приложений.
  • Мониторинг развернутых приложений и проверить использование графических процессоров через Secure Shell (SSH).
  • Использование платформы проектов и политик позволяет масштабируемые развертывания на парках устройств. Возможность обновлять приложения по воздуху, просто изменяя теги -контейнеры дальнейшие оптимизации операций по сравнению с традиционными ручными методами.

    Преимущества этого подхода

    Непосредственные преимущества для организаций, внедряющих вычислительную платформу, включают:

    • Упрощенные процессы развертывания для приложений Edge AI
    • Централизованная видимость и контроль над распределенной инфраструктурой
    • Эффективное использование аппаратного обеспечения с помощью автоматического вложения ресурсов
    • Уменьшенная оперативная сложность при оптимизированных обновлениях

    Со временем преимущества включают:

    • Масштабируемость для управления растущим количеством устройств края
    • Последовательные конфигурации приложения в развертываниях
    • Ловкость в развертывании новых моделей или функций искусственного интеллекта
    • Снижение общей стоимости владения (TCO) с помощью автоматизации
    • Продолжающаяся инфраструктура, готовая к развитию потребностей в вычислениях

    Варианты использования

    Эта демонстрация актуальна для различных отраслей и применений рабочих нагрузок искусственного интеллекта в распределенных средах:

    • Розничная торговля: Анализ поведения клиентов с использованием видео -аналитики для оптимизации макетов магазина и персонализации маркетинговых усилий
    • Производство: Контроль качества на производственных предприятиях с помощью обработки изображений в реальном времени для выявления дефектов и обеспечения качества продукта
    • Транспорт: Автономные системы, требующие быстрого вывода на краю для таких задач, как обнаружение объектов и планирование пути
    • Умные города: Управление трафиком с использованием обнаружения объектов с AI для оптимизации транспортного потока и повышения общественной безопасности

    Zededa предлагает надежное решение для развертывания и управления контейнерными рабочими нагрузками в масштабе. Его ориентированный на политику подход, автоматизированное прикрепление ресурсов и бесшовные возможности для поддержки обновлений, полагаясь на обработку данных в режиме реального времени на грани. Узнайте больше о том, как разблокировать силу распределенного ИИ с Zededa.

    Zededa позволяет клиентам беспрепятственно управлять инфраструктурой Edge Computing, обеспечивая видимость, безопасность и масштабируемость в этих средах и поддерживает такие варианты использования, как компьютерное зрение, консолидация рабочей нагрузки, контекстуализация данных IIOT и прогнозирующее обслуживание, все в производстве сегодня. Узнайте больше последних из Zededa Trending Stories YouTube.com/ThenewStack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Серхио является архитектором растворов предварительных продаж в Zededa с 2024 года, платформы SaaS, которая позволяет выпустить края в масштабе. Базирующийся в Лиссабоне, Португалия, он взаимодействует с клиентами и перспективами по всему региону EMEA в различных секторах: включая энергию, нефть и газ, … Подробнее от Серхио Сантос

    Добавить комментарий

    Ваш адрес email не будет опубликован. Обязательные поля помечены *