Tigera спонсировала этот пост. Insight Partners является инвестором Tigera и TNS.
Поскольку организации все чаще внедряют генеративный искусственный интеллект, Kubernetes стал идеальной платформой для управления этими ресурсоемкими рабочими нагрузками. Однако рост количества приложений на основе искусственного интеллекта вносит новый уровень сложности в среду безопасности.
Отчет Cloud Native Computing Foundation (CNCF), опубликованный в апреле, показал, что 76% организаций считают безопасность своей самой большой проблемой при использовании Kubernetes, при этом несанкционированный доступ и неправильные настройки являются главными рисками.
При применении к высокоценным рабочим нагрузкам GenAI эти уязвимости могут привести к краже интеллектуальной собственности или утечке данных, подчеркивая, что гибкость Kubernetes, идеальная для ИИ, создает критические слепые зоны, которые традиционные модели безопасности не могут устранить.
Хотя Kubernetes предлагает масштабируемость и гибкость, необходимые приложениям GenAI, он также создает сложные проблемы безопасности и соответствия требованиям, для решения которых традиционные модели безопасности не были созданы. Его динамичный и эфемерный характер затрудняет поддержание постоянной видимости и контроля.
Для рабочих нагрузок ИИ, которые часто включают конфиденциальные данные и собственные модели, отсутствие прозрачности является не только проблемой производительности. Это создает критические «слепые зоны», которыми могут воспользоваться злоумышленники, особенно во время горизонтального перемещения или кражи данных.
Почему GenAI работает в Kubernetes
Рабочие нагрузки GenAI, такие как обучение моделей, выводы и точная настройка, общеизвестно требовательны. Эти конвейеры часто включают в себя массовую обработку данных, координацию распределенных вычислений и высокодинамичное масштабирование. Для их эффективной поддержки необходимо:
- Высокопроизводительные вычисления (особенно графические процессоры): Например, обучение большой языковой модели, такой как GPT-J, может потребовать параллельной работы сотен графических процессоров в течение нескольких дней или недель.
- Распределенный доступ к данным: Рассмотрим механизм рекомендаций, который собирает данные о поведении из нескольких источников (клики пользователей, покупки и потоки активности в реальном времени), разбросанных по регионам.
- Эластичное масштабирование на основе непредсказуемых моделей использования: Чат-бот в сфере здравоохранения, работающий на базе GenAI, может столкнуться с внезапным всплеском спроса во время мероприятий в области общественного здравоохранения, что потребует быстрого автоматического масштабирования между кластерами.
Kubernetes предлагает все это, позволяя командам развертывать рабочие нагрузки ИИ в кластерах, охватывающих общедоступное облако, частные центры обработки данных и периферийные местоположения. Но та же самая гибкость открывает новые возможности для атак и значительно усложняет защиту окружающей среды.
Корень проблемы лежит в временной и децентрализованной природе Kubernetes. Поды постоянно вращаются вверх и вниз, сервисы эфемерны, а сетевой трафик, особенно трафик между сервисами, может быть трудно отслеживать и еще труднее контролировать. Это затрудняет обнаружение угроз в режиме реального времени или применение согласованных политик между кластерами и командами.
Разрушение жизненного цикла GenAI и его рисков. Этап 1: прием и подготовка данных
Этот этап включает сбор и предварительную обработку больших объемов данных из внешних репозиториев или API. Основной угрозой здесь является риск выхода. Если меры безопасности слишком либеральны, конфиденциальные данные могут быть непреднамеренно утекли или украдены.
Элементы управления исходящим трафиком должны быть достаточно детализированными, чтобы различать законные вызовы API и несанкционированные внешние коммуникации. Общие правила брандмауэра не помогут; Рабочим нагрузкам ИИ часто требуется выборочный доступ на основе полного доменного имени (полного доменного имени) к API-интерфейсам, таким как OpenAI или Hugging Face.
Этап 2: Обучение модели
Модельное обучение — это то место, где происходит взрыв внутреннего трафика. Десятки или сотни модулей могут координировать свои действия для уточнения и проверки моделей, одновременно получая доступ к хранилищам конфиденциальных данных.
Эта боковая связь создает отличные возможности для злоумышленников. Если один модуль скомпрометирован, злоумышленник может переместиться в сторону кластера, чтобы получить доступ к ценным обучающим данным или учетным данным. Это делает необходимым микросегментацию и мониторинг трафика с востока на запад.
Этап 3: Развертывание модели и вывод
После запуска модели она становится конечной точкой API для пользователей и приложений. Это открывает двери для угроз в стиле OWASP, таких как внедрение SQL, внедрение подсказок или несанкционированные запросы на вывод. Без строгого контроля доступа и защиты WAF к моделям можно получить доступ, манипулировать ими или реконструировать.
Почему встроенной безопасности Kubernetes недостаточно
Kubernetes предоставляет базовые примитивы безопасности, такие как NetworkPolicy. Но эти инструменты не были разработаны с учетом ИИ. Им не хватает:
- Осведомленность на уровне приложений.
- Фильтрация на основе полного доменного имени.
- Применение политики в кластерах.
- Видимость моделей трафика, специфичных для ИИ.
По мере масштабирования рабочих нагрузок ИИ эти пробелы становятся проблемой.
Например, обучающему модулю может потребоваться доступ к внешнему репозиторию моделей, но ему следует заблокировать загрузку данных в неавторизованные домены. Сетевая политика Kubernetes не может отличить эти два понятия. Аналогично, Kubernetes изначально не поддерживает унифицированные политики для нескольких кластеров, что затрудняет обеспечение согласованного уровня безопасности от разработки до производства.
Что нужно: безопасность Kubernetes с поддержкой искусственного интеллекта
Чтобы по-настоящему защитить GenAI в Kubernetes, решения безопасности должны выйти за рамки IP-брандмауэров. Они должны понимать, как ведут себя конвейеры ИИ, с какими сервисами они взаимодействуют, какие данные обрабатывают и как масштабируются.
Некоторые необходимые ключевые возможности включают в себя:
- Микросегментация с нулевым доверием это ограничивает взаимодействие модулей только тем, что необходимо — даже между разными пространствами имен или арендаторами.
- Детальный контроль выхода с фильтрацией на основе домена для предотвращения кражи данных и защиты интеллектуальной собственности.
- Централизованные шлюзы как для входящего, так и для исходящего трафика для мониторинга и управления всеми внешними точками связи.
- Управление многокластерной политикой для обеспечения последовательного применения в распределенных средах обучения, вывода и разработки.
- Инструменты наблюдения, специфичные для ИИ которые регистрируют DNS-запросы, вызовы API и взаимодействия служб для обнаружения аномалий и поддержки реагирования на инциденты.
Ставки слишком высоки
Последние отраслевые данные подчеркивают растущие риски, связанные с рабочими нагрузками ИИ. Согласно отчету IBM «Цена утечки данных» за 2025 год, 13% организаций столкнулись со взломами, связанными с моделями или приложениями ИИ, и 97% из них не имели надлежащего контроля доступа, специфичного для ИИ. Среди этих инцидентов 60% привели к компрометации данных, а 31% — к сбоям в работе.
Поскольку GenAI все чаще используется в критически важных системах, от финансового прогнозирования до поддержки клинических решений, влияние этих нарушений невозможно переоценить. Интеграция ИИ в основные рабочие процессы повышает риск утечки данных, кражи интеллектуальной собственности и несоблюдения нормативных требований.
Kubernetes может стать движущей силой этой революции в области искусственного интеллекта, но без средств контроля безопасности с поддержкой искусственного интеллекта его гибкость становится обузой. Традиционные инструменты безопасности Kubernetes никогда не предназначались для защиты динамических и ценных конвейеров искусственного интеллекта, в результате чего организации подвергаются рискам, которые они могут даже не предвидеть.
Путь вперед: безопасность ИИ за пределами встроенного Kubernetes
GenAI предлагает трансформационный потенциал для бизнеса, но только если он построен на безопасной и совместимой основе. Kubernetes обеспечивает такую трансформацию, хотя и не без компромиссов. Сочетание скачкообразных рабочих нагрузок, межкластерной сложности и перемещения конфиденциальных данных означает, что конвейеры GenAI требуют новой модели безопасности.
Используя инструменты безопасности, выходящие за рамки того, что предлагает Kubernetes изначально, инструменты, специально созданные для конвейеров ИИ, организации могут безопасно масштабировать свои инициативы в области ИИ, не жертвуя контролем, прозрачностью или целостностью.
Tigera предоставляет Calico, унифицированную платформу сетевой безопасности и наблюдения для предотвращения, обнаружения и устранения нарушений безопасности в кластерах Kubernetes. Предложение Tigera с открытым исходным кодом, Calico Open Source, является наиболее широко распространенным решением для контейнерных сетей и безопасности. Узнайте больше Последние новости от Tigera ТЕНДЕНЦИОННЫЕ ИСТОРИИ YOUTUBE.COM/THENEWSTACK Технологии развиваются быстро, не пропустите ни одной серии. Подпишитесь на наш канал YouTube, чтобы смотреть все наши подкасты, интервью, демонстрации и многое другое. ПОДПИСАТЬСЯ Группа, созданная в Sketch. В качестве директора по маркетингу Tigera Утпал Бхатт отвечает за общую маркетинговую стратегию и ее реализацию. Он имеет более чем 20-летний опыт руководства в области маркетинга и управления продуктами в быстрорастущих стартапах и крупных компаниях. До появления Tigera Утпал руководил маркетингом… Подробнее от Утпала Бхатта
