Зиллиз спонсировал этот пост.
Ландшафт усыновления ИИ резко изменился за 18 месяцев с момента дебюта CHATGPT. Согласно глобальному опросу McKinsey 2024 года по искусственному искусству, организационное принятие ИИ выросло с 50% до 72%, причем половина опрошенных организаций внедрила ИИ по нескольким бизнес -функциям, по сравнению с менее чем третьей в 2023 году.
Тем не менее, эта волна усыновления ИИ представляет уникальные проблемы для регулируемых отраслей, таких как финансы и здравоохранение. В то время как эти сектора признают преобразующий потенциал ИИ для повышения производительности и поддержания конкурентного преимущества, они сталкиваются с значительными препятствиями при реализации решений ИИ в масштабе.
Задача не просто внедряет технологию — она делает это при сохранении строгих стандартов безопасности и соответствия. Например, 49% организаций здравоохранения полностью ограничивают использование генеративного ИИ из -за конфиденциальности данных и проблем с безопасностью.
Дилемма реализации ИИ
Представьте себе типичный сценарий, разыгрываемый в залах заседаний в регламентированных отраслях: Источник представляет результаты их пилотной программы искусственного интеллекта. Волнение ощутимо, поскольку они демонстрируют, как их система ИИ -прототипа сократила время отклика обслуживания клиентов на 40% при повышении точности. Члены правления впечатлены, и генеральный директор стремится развернуть решение по всей организации. Затем возникает ключевой вопрос: «Как скоро мы можем развернуть это в производстве?»
Здесь энтузиазм поражает стену. ИТ -директор объясняет, что переход от прототипа к производству не просто вопросом масштабирования — речь идет о навигации по сложному лабиринту требований безопасности, правил соответствия и оперативных ограничений. Доступные пути вперед по идут со значительными недостатками.
Общественная дилемма SaaS
Один из, казалось бы, простой вариант — это принятие общественных решений SaaS AI, таких как общественные услуги API для моделей внедрения, модели крупных языков (LLMS) и полностью управляемые векторные базы данных. Эти платформы предлагают надежные возможности с минимальными операционными накладными расходами для пользователей.
Тем не менее, недостаток является значительным: данные находятся в облачной учетной записи поставщика, а не с клиентами, и общение с общественными API Services должно проходить через общественные сети. Для регулируемых отраслей этот вариант часто не является незарядным. Группы безопасности отмечают опасения по поводу данных клиентов, путешествующих по общественным сетям, сотрудники по соблюдению требований беспокоятся о требованиях к месту жительства данных, а менеджеры по рискам подчеркивают трудности в поддержании аудиторских маршрутов и подотчетности при рассмотрении сторонних услуг.
Задача локаций
Альтернативой является развертывание всего в помещениях с помощью программного обеспечения с открытым исходным кодом. При правильном выполнении этот подход обещает полный контроль и соответствие, но он также представляет свой собственный набор проблем.
Во-первых, это требует значительных инвестиций в специализированную команду DevOps для управления локальными развертываниями, устранения проблем и обработки постоянного обслуживания. Оперативные накладные расходы могут быть сложными, и риск перебоев выше по сравнению с полагаться на услуги, управляемые экспертом. С развитием технологии ИИ, развивающимися в головокружительном темпе, невозможно, чтобы обновления программного обеспечения и новые выпуски модели становятся практически невозможными для внутренних команд. Кроме того, организации могут столкнуться с задержками и сбоями из -за отсутствия специализированной поддержки при столкновении с производственными проблемами.
Это создает то, что один технический директор здравоохранения описывает как «Чистилище ИИ». Организации оказываются застигнутыми между многообещающими прототипами и развертыванием производства, наблюдая за тем, как другие гонятся вперед с реализацией ИИ. Сборник для ИИ ясен, и технология доказана, но путь к безопасному и совместимому развертыванию остается разочаровывающим.
Ключевые проблемы безопасности в развертывании ИИ
Предприятия сталкиваются с уникальными препятствиями при принятии ИИ в масштабе. Конфиденциальные данные должны оставаться в безопасных контролируемых средах, избегая общественных сетей или общей инфраструктуры. Традиционные модели SaaS часто не соответствуют этим строгим требованиям суверенитета и соответствия данных.
Помимо этого, организациям требуется гранулированный контроль, комплексный аудит и полную прозрачность, чтобы отследить каждое решение для ИИ и доступ к данным. Это гарантирует, что поставщики не могут взаимодействовать с конфиденциальными данными без явного одобрения и документации. Эти неудовлетворенные потребности создают значительный пробел, предотвращая развертывание решений для ИИ при сохранении соответствия и безопасности.
Byoc: третий путь вперед
Концепция принесения вашего собственного облака (BYOC) не нова. Он стал средним уровнем между традиционными SaaS и локальными развертываниями, обещающими объединить лучшие из обоих миров: удобство управляемых услуг с контролем и безопасностью локальной инфраструктуры. Тем не менее, его история в отрасли была отмечена как успехами, так и предостерегающими рассказами.
Ранние реализации BYOC часто не смогли выполнить свои обещания. Некоторые поставщики просто развернули свое программное обеспечение в облачные учетные записи клиентов без надлежащего архитектурного планирования, что привело к тому, что по сути было удаленно управляемым локальной средой. Более того, хостинг данных только в облачной учетной записи клиента не гарантирует безопасность. Поставщик по -прежнему должен войти в учетную запись клиента для устранения неполадок, что может сломать много предположений. Достижение истинной безопасности в BYOC — уникальная проблема. Как один из ветеранов отрасли удачно описал это, этот подход стал «архитектурным тупиком» — сначала кажущимся многообещающим, но в конечном итоге создает больше проблем, чем он решил.
Переосмысление BYOC для рабочих нагрузок
История BYOC на этом не заканчивается. Рост рабочих нагрузок AI Enterprise создал новый контекст, в котором BYOC, когда он вдумчиво реализован, предлагает четкую ценность. Новое поколение архитектур BYOC эффективно решает предыдущие проблемы безопасности посредством четкого разделения управления и плоскостей передачи данных. В этой модели вся бизнес -логика и обработка данных остаются в частной сети клиента, в то время как плоскость управления поставщиком управляет рабочими задачами, такими как планирование ресурсов и обновления системы без доступа к конфиденциальным данным. Этот подход выходит далеко за рамки простого развертывания программного обеспечения в VPC клиента (виртуальное частное облако). Хорошо продуманная реализация BYOC обычно включает в себя эти ключевые характеристики:
Суверенитет данных в сетях клиентов: Все обработки данных и потоки остаются строго в пределах VPC клиента, обеспечивая полное управление данными.
Специальная архитектура: Вместо того, чтобы переоборудовать безопасность в существующую конструкцию, весь поток управления архивируется безопасностью как основополагающим принципом.
Ограниченный, контролируемый доступ поставщика: Доступ к поставщику строго ограничен операциями, одобренными клиентом на временном времени, с комплексным регистрацией всех действий.
Полная оперативная видимость: Система поддерживает подробные аудиторские следы всех взаимодействий между управлением и плоскостями передачи, особенно во время устранения неполадок. Подход Zilliz к Byoc
Zilliz разработал решение BYOC, разработанное явно для векторного поиска для удовлетворения безопасности корпоративного уровня. Архитектура разделяет системные операции на две различные области: управление и данные. Каждый служит конкретной цели при сохранении границ безопасности.
Четкое разделение введения и данных
Плона управления, управляемая Zilliz, действует как уровень управления, выполняет такие задачи, как планирование ресурсов и обновление системы. Думайте об этом как о руководителе, который контролирует здоровье системы и управляет инфраструктурой, но никогда не взаимодействует с фактическими данными. Самолет данных полностью работает в пределах VPC и облачной учетной записи клиента, гарантируя, что связь между серверами приложений клиента и векторной базой данных содержалась в VPC клиента. Все данные защищены стандартом отрасли, как при транспортировке, так и в состоянии покоя.
Безопасность сети предприятия
Чтобы соответствовать требованиям безопасности корпоративной сети, административный трафик зашифруется и только исходящий от плоскости данных в плоскость управления, не позволяя поставщику непосредственно получить доступ к VPC клиента. Поддержка AWS PrivateLink обеспечивает безопасную связь между плоскостью управления и плоскостью данных, не подвергая ее публичному Интернету. Соединение использует TLS 1.2+ над портом 443/HTTPS и может быть инициирован только из плоскости данных клиента по умолчанию.
Гранулированный контроль доступа
Мелкозернистые настройки разрешения обеспечивают наименее привильный доступ к плоскости управления. Каждое разрешение, предоставленное для кросс-аккунтирования IAM, для управления кластером в облачной учетной записи клиента, тщательно курируется и рассмотрено в соответствии с принципом наименьшей привилегии. Доступ также ограничен конкретными именами ресурсов или определенными клиентами тегами ресурсов, предотвращая воздействие на другие данные в облачной учетной записи клиента.
Доступ к поставщикам и вдал
Доступ поставщика к плоскости данных для устранения неполадок зависит от согласия клиента и строго контролируется. Все аспекты доступа, включая детали аутентификации, выполненные действия, авторизацию, контекстную информацию, внесенные изменения и любые аномальные или подозрительные действия, тщательно регистрируются и непрерывно контролируются. Команда безопасности Zilliz проводит регулярные проверки и проверки рисков, чтобы обеспечить соблюдение стандартов безопасности и быстро решить любые потенциальные проблемы.
Этот подход позволяет организациям продолжать инновации в области искусственного интеллекта с готовыми к производству возможностями поиска вектора, не ставя под угрозу контроль и безопасность, необходимые для удовлетворения строгих требований соответствия.
Глядя в будущее
Хотя для каждого развертывания искусственного интеллекта нет единого решения для каждого развертывания ИИ, предлагает практическую среднюю почву. Это позволяет предприятиям использовать управляемые услуги искусственного интеллекта, сохраняя при этом контроль и безопасность, необходимые для соблюдения требований в регулируемых отраслях. Поскольку внедрение искусственного интеллекта продолжает ускоряться во всех секторах, такие подходы, как BYOC, будут иметь важное значение для организаций, стремящихся сбалансировать инновации со строгими требованиями безопасности и соответствия требованиям. Если вы заинтересованы в предоставлении векторной базы данных с безопасностью корпоративного уровня в ваше приложение, рассмотрите возможность проверки документации по облачным данным Zilliz Cloud BYOC для получения более подробной информации.
Zilliz является ведущей компанией векторной базы данных, предлагающей высокопроизводительные и масштабируемые решения. Мы работаем от Milvus, популярной векторной базы данных с открытым исходным кодом, которая помогает компаниям из любого масштаба построить поисковые решения с AI. Узнайте больше последних из Zilliz Trending Stories YouTube.com/thenewstack Tech Moving быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Цзян Чен является главой платформы ИИ и экосистемы в Zilliz. Имея многолетний опыт работы в области инфраструктуры данных и поиска информации, Цзян ранее работал в качестве технологического руководителя и менеджера по продукту для индексации поиска в Google. Цзян держит … Подробнее от Цзян Чена
