Рабочее место переопределяется. Рабочие нагрузки ИИ, взрыв подключенных устройств и изменение рабочих шаблонов заставляют организации переосмыслить свои кампусные и филиалы сети для поддержки бизнес -целей и предоставления отличного цифрового опыта для клиентов и сотрудников.
За последнее десятилетие ИТ -командам пришлось управлять значительными изменениями с принятием облачных вычислений, широко распространенного использования мобильных устройств и приложений SAAS, становящихся критическими для основных бизнес -операций. Теперь трансформация, которая является ИИ, дает возможность получить основное конкурентное преимущество и множитель производительности для тех организаций, которые успешно его придерживаются.
Когда дело доходит до роста моделей малых языков (SLM) и агентского ИИ, сложные возможности ИИ приближаются к тому, где происходит бизнес — в филиале и в кампусе. Этот переход к «Edge AI» обещает захватывающие возможности, но также приносит значительные последствия для сетевой инфраструктуры, с которой сейчас должны обращаться сетевые архитекторы и лица, принимающие решения.
Понимание местных малых языковых моделей (SLM) на краю
Локальные SLM предназначены для того, чтобы быть достаточно компактными и достаточно эффективными, чтобы работать на локальных серверах или даже специальных устройствах. Для таких задач, как отвечать на простые вопросы или обобщение документов с использованием локальных данных, эти модели выполняют вывод прямо на месте.
Рассмотрим, например, розничную сеть, развертывающую местные SLM в киосках в магазине, чтобы помочь клиентам с запросами на продукты, проверки акций и основными часто задаваемыми вопросами. Это допускает мгновенные ответы без необходимости отправлять каждый запрос в центральное облако, значительно снижая задержку и непрерывное потребление полосы пропускания в филиале. В то время как ежедневное трафик вывода минимальна, планировщикам сети все равно необходимо учитывать менее частые, но потенциально более крупные передачи данных для обновлений моделей.
Сложный сетевой след агента
Агентные агенты ИИ делают съемки, на шаг вперед. Они не просто отвечают; Они действуют. Агент -агент ИИ может воспринимать свою среду, задачи плана, использовать инструменты (например, базы данных или приложения) и даже сотрудничать с другими агентами для достижения целей. Эта возможность представляет более сложный сетевой профиль, чем простое вывод SLM.
В то время как основные рассуждения агента могут использовать локальный SLM, его действия часто требуют взаимодействия с ресурсами вне локальной сети — доступа к облачным сервисам, внешним API или системам центрального предприятия. Каждое внешнее взаимодействие потребляет драгоценную интернет или пропускную способность WAN. Например, в Smart Manufacturing Agentic Systems может автономно отслеживать производственные линии и прогнозировать сбои с оборудованием, инициируя такие действия, как заказа запасных деталей от внешних поставщиков или обслуживание планирования со сторонними поставщиками услуг. Эти действия требуют частых, часто непредсказуемых внешних взаимодействий, таких как облачные системы планирования ресурсов предприятия (ERP) и API-интерфейсы внешнего поставщика, непосредственно влияя на пропускную способность завода и требует динамического распределения полосы пропускания.
Как многоагентные системы влияют на сетевой трафик
Вместо одного гиганта, Do-IT-All AI, тенденция для сложных задач на краю относится к многоагентным системам. Здесь несколько специализированных агентов работают вместе. Один агент может справиться с взаимодействиями с клиентами, другим управлением запасами и третьими системами безопасности монитора. Они общаются и сотрудничают для достижения более широких целей.
Рассмотрим умную космическую среду, такую как офис или университетский кампус. Многоагентный подход может включать специализированных агентов, управляющих автоматизацией здания, энергетической оптимизацией и наблюдением за безопасностью. Например, один агент корректирует HVAC на основе занятости, другой контролирует подачу CCTV для аномалий и третьи координаты с локальной утилитой для экономии энергии. Многоагентные системы предлагают преимущества с точки зрения специализации, модульности (легче обновлять или устранять устранение неполадок отдельных агентов) и улучшения устойчивости. Тем не менее, это также означает больше организаций, потенциально генерирующих сетевой трафик — как внутренне, поскольку агенты сотрудничают, так и внешне, поскольку они взаимодействуют с различными инструментами, такими как данные о погоде или службы безопасности.
Ключевые соображения для вашей сети, управляемой искусственным интеллектом
Рост агентского ИИ и многоагентных систем на грани значительно увеличит потребности в сети. Прогнозируется, что трафик данных, управляемый ИИ, увеличит потребность в большей полосе пропускания, как восток-запад, в кампусе или филиале, и север-юг с участков к внешним ресурсам. В ответ сети должны стать более динамичными для обработки взрыва в области ИИ и обеспечить низкую задержку для чувствительных во времени агентских задач.
С точки зрения производительности сети, есть несколько аспектов, которые принимают решения, и сетевые архитекторы должны учитывать:
- Общая зона связи: Какова готовность, когда дело доходит до управления существенным увеличением пропускной способности Интернета/WAN для управления увеличенным трафиком агентов, взаимодействующих с внешними ресурсами?
- Edge Compute: Какие локальные вычислительные ресурсы представляют собой как можно больше обработки ИИ и обмена данными в кампусе или филиалах?
- Видимость сети: Являются ли инструменты для мониторинга трафика, генерируемых различными агентами, как для распознавания образцов, так и для профилактики отключения?
- Низкая задержка: Как будут выполняться требования с низкой задержкой между агентами? Способны ли ваши текущие сети поддерживать качество обслуживания, которое может потребоваться?
- Безопасность: Когда дело доходит до развертывания Edge AI, как можно обеспечить контроль сегментации и доступа для агентов?
В будущем филиала и кампусной сети станут центр деятельности ИИ. Понимая отдельные сетевые потребности локальных SLM и агентского искусственного интеллекта и планируя совместную природу многоагентных систем, организации будут на пути к созданию сетевого основания, необходимого для разблокировки потенциала Edge AI.
Trending Stories youtube.com/thenewstack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Лоуренс Хуант — старший вице -президент и генеральный директор, наблюдая за бизнесом Cisco Network Platform и Wireless. До прихода в Cisco он занимал различные роли, в том числе в качестве инженера по радиочастотной схеме (RFIC) в стартапах … Подробнее от Lawrence Huang
