VMware Tanzu спонсировал этот пост.
ИИ больше не просто модное слово — это является основным для того, как работают современные предприятия. Но в то время как компании участвуют в внедрении ИИ в продукты, процессы и поездки с клиентами, на заднем плане происходит тихой сдвиг: Shadow AI.
Это не всегда злонамеренно. На самом деле, это часто противоположное — признак инноваций, пытающихся двигаться быстрее, чем управление, может не отставать. Но оставленная без контроля, Shadow AI вводит риск, отходы и воздействие, к которым большинство предприятий просто не готовы.
Если вы пытаетесь оставаться впереди принятия ИИ в своей организации, вы должны быть в состоянии заметить, где ваши команды собираются мошенничество — и как превратить AI Shadow AI от ответственности в стратегический рычаг.
Что такое AI Shadow?
Shadow AI — это использование инструментов, моделей или услуг ИИ без одобрения от центральных ИТ, безопасности или данных. Подумайте о разработчиках, использующих общественные модели крупных языков (LLMS) или бизнес -команды, внедряющие генеративный ИИ (Genai) в рабочие процессы, никому не рассказывая. Это быстро, эффективно — и часто невидимо.
Точно так же, как Shadow, десять лет назад, Shadow AI происходит, когда люди отодвигают официальные каналы, чтобы добиться цели. Инструменты просты в доступе, быстро тестируют и часто обеспечивают реальную ценность. Но без надзора они несут реальный риск.
Почему происходит Shadow AI
Shadow AI не о восстании — это скорость.
Команды находятся под давлением, чтобы двигаться быстро, создавать более умные функции и реагировать на потребности клиентов. Современные инструменты ИИ находятся всего в нескольких кликах, и они работают. Разработчики уже используют их в личных проектах. Зачем ждать красную ленту?
Проблема в том, что корпоративные системы медленно реагируют. Если официальный путь к использованию ИИ занимает недели или месяцы, люди будут строить свои собственные. Это не неспособность дисциплины — это признак того, что внутреннее способность слишком медленно. Зрелая команда инженеров платформы и культура DevOps, основанные на автоматизации, управлении и прозрачности, имеют решающее значение для использования теневого ИИ и ускорения инноваций.
Настоящий риск теневого ИИ
То, что начинается как ярлык, может быстро стать серьезным риском. Результаты предстоящего опроса, проведенного Broadcom, указывают на стоимость, безопасность и сложность как наиболее распространенные проблемы для выполнения полноценной стратегии ИИ. Почти половина респондентов сообщили о сложности и о необходимости лучшей безопасности и соответствия требованиям как препятствуя их способности доставлять приложения ИИ.
Некоторые из наиболее заметных рисков и проблем, которые мы видим, включают:
- Утечки данных: Конфиденциальные данные могут быть переданы в общедоступные модели без шифрования или контроля.
- Без аудиторской тропы: Вы не можете доказать, кто использовал что, как или почему — кошмар для соответствия.
- Отверстики безопасности: Функции ИИ могут разоблачить внутреннюю логику, принимать нефильтрованные входные данные или создавать отверстия для атак.
- Скрытые затраты: Специальное использование инструментов Cloud AI означает, что заряда использования заряжается без отслеживания.
- Воздействие на клиента: Если несанкционированные инструменты искусственного интеллекта идут не так — предвзятые ответы, галлюцинации или сломанная логика — это ваш бренд на линии.
Один респондент подытожил это таким образом: «Наша самая большая проблема заключалась в том, что модели обучались данным, к которым они не должны иметь доступа».
Shadow AI пытается что -то сказать
Shadow AI не враг — это сигнал.
Shadow AI говорит вам, что ваши команды хотят ИИ, им нужен ИИ, и они готовы двигаться без тебя, если им это нужно. Это не просто риск. Это дорожная карта. Это ваш шанс построить что -то лучшее: безопасное, управляемое благоприятное способность ИИ, которое работает так, как и ваши команды.
Шесть требований к ответственному принятию ИИ
Вот что нужно делать, если они хотят опередить теневой ИИ и включить его ответственно:
Теневой пробуйный звонок
Сопротивление теневого искусственного интеллекта только увеличит трение и замедлит вашу способность быстрее доставлять лучшее программное обеспечение. Тем не менее, оптовые объятия без рассмотрения столь же опасны. Умный шаг состоит в том, чтобы сформировать то, как он используется — чтобы дать командам свободу строительства, поддерживаемые системами, которые обеспечивают безопасность.
Победители не будут теми, кто сильнее всего зажимает. Они будут теми, кто отвечает с ясностью, строит лучшие платформы и создаст среды, где инновации и соответствие действительно работают вместе.
Недавние десятилетия достигли больших успехов в инфраструктуре; Теперь пришло время создать приложения, которые используют максимальную пользу из этих новых инструментов. Решения VMware Tanzu ускоряют разработку и поставку приложений с помощью оптимизированных путей к производству, автоматизированным операциям платформы и улучшению затрат, производительности и безопасности. Узнайте больше последних из VMware Tanzu Trending Stories YouTube.com/thenewstack Tech, которые движутся быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Орен Пенсо является опытным ИТ -исполнительным и старшим стратегом по продукту с более чем 25 -летним опытом работы в области автоматизации, безопасности, наблюдаемости, местных общественных облаков и инженерии платформы. Его руководящие должности охватывают государственные финансовые компании и VMware. Помимо его … Подробнее от Орен Пенсо
