Хотя LLM были легко доступны в течение последних нескольких лет, вторжения в сектор ИТ были минимальными. Мы видели успешное проникновение модели генеративного искусственного интеллекта (Genai) в SaaS Solutions и области, такие как Help Stys; Тем не менее, успешная интеграция Genai в программное обеспечение для безопасности было немного и далеко друг от друга.
Вообще говоря, нелегко повторить LLM для работы в области безопасности. LLM оптимизированы для естественного языка; Они не могут сразу понимать или обрабатывать элементы безопасности, такие как пакеты потоков, журналы, оповещения и графики знаний.
Чтобы создать эффективную интеграцию Genai в сфере безопасности, пришло время принять на заказ, основополагающий ИИ для ИТ -рабочих процессов.
Эффективность модели ИИ
Недавняя тенденция к более эффективному созданию моделей, в отличие от масштабирования любой ценой, является естественным развитием инструментов Genai в корпоративном пространстве. Несмотря на всю шумиху LLM, не каждая бизнес -проблема требует решения LLM. Если вы используете LLMS в своей инфраструктуре, лучше всего их размер (раздавите их в более мелкие модели, которые решают конкретные бизнес-проблемы), сосредоточившись на конфиденциальности, безопасности и объяснениях.
Правильное размеры ваших моделей, Compute содержится до минимума, что предотвращает передачу затрат на ваших клиентов. В процессе правого размера важно рассмотреть, где проживают болевые точки ваших клиентов.
Агент ИИ и контекстные интеграции
Шумиха вокруг агентского ИИ оправдана. Во -вторых, наиболее эффективными инструментами искусственного интеллекта являются те, которые пользователи даже не замечают, и это может быть достигнуто с помощью контекстных интеграций между приложениями.
Комбинируя двигатели рассуждений — модели Genai, которые объясняют их вывод — с конкретными данными и контекстом, вы можете повысить ценность. Агенты могут эффективно собирать данные в реальном времени с помощью API и баз данных; Они могут фильтровать и сортировать эти данные, контекстуализировать их, а затем автоматизировать рабочие процессы. Конечно, у нас есть много разных агентов в ИТ -среде для наших различных рабочих процессов.
Объединение LLM правого размера с моделями на заказ
Хотя LLM оптимизированы для естественного языка и испытывают трудности с мониторингом мета-информации и понимания пакетов потоков, они могут быть правильными размером и в сочетании с моделями на заказ для ИТ-рабочих процессов, чтобы создать большую ценность в безопасности и ИТ-операциях.
Безопасность. Давайте посмотрим на быстрый пример безопасности, чтобы увидеть это на практике. Организация может иметь модель машинного обучения (ML) для обнаружения аномалий в трафике электронной почты на основе исторических моделей и динамических порогов. Эта модель обнаружения аномалий ML, в сочетании с моделью на основе дерева решений (которая ищет переменные из заголовков электронной почты для установления контекста), подтверждает потенциально подозрительную электронную почту.
В этот момент небольшая языковая модель оценивает «призыв к действию» в тексте подозрительной электронной почты. Агенты ищут ссылки в электронном письме и соскребают их для дальнейшей обработки. Затем модель обнаружения фишинга просеивает информацию о домене, веб -заголовках и других переменных; Проверки вредоносных программ выполняются на вложениях в песочнице; И, наконец, массовое дерево решений приходит к выводу, что электронное письмо подозрительно.
ИТ -операции. Эта стратегия на заказ также может быть использована в рамках ИТ -операций для оптимизации затрат на сервер без влияния на качество обслуживания клиентов. Организации могут создать динамическую систему управления затратами на эксплуатацию с помощью LLM правого размера наряду с графами причинно-следственных связей и моделями для него.
Например, организация может использовать модель ML для прогнозирования спроса (анализируя модели использования и данные о трафике в реальном времени). Эта модель ML может предложить сокращение ресурсов и избежать чрезмерного предоставления, экономя деньги организации на расходах на облачные данные при сохранении хорошего пользовательского опыта.
Статистические модели ML также могут указывать, когда в настройке ИТ завальено. Такие модели ML работают совместно с графами знаний, созданных по всей ИТ -инфраструктуре (с причинными силами, изученными с течением времени). Агент по рассуждениям в реальном времени может помочь инженерам интерпретировать график знаний.
Используя деревья решений с адаптивными порогами и агентами, которые отслеживают эксплуатационные процессы, анализируют данные в реальном времени, синтезируют идеи и дают рекомендации, ваша организация может сэкономить затраты, сократить MTTR и реализовать общее увеличение стоимости бизнеса.
Использование моделей с открытым исходным кодом и сохранение данных в вашей экосистеме
Создавая индивидуальные модели ИИ для ИИ, важно иметь сильный уровень управления. По общему признанию, это проще всего, если у вас есть весь технический стек. Благодаря контролю над всеми слоями в стеке вы не зависите от третьих лиц, и все данные остаются в экосистеме вашей компании.
Если вы решите создать самостоятельные модели с открытым исходным кодом, такие как DeepSeek, Llama, Qwen или AISTRAL AI, ваши данные никогда не должны покидать вашу базу данных. Опять же, поскольку у вас есть весь стек, контекст вашей организации остается в экземпляре вашей организации. Конфиденциальные данные никогда не будут переданы извне, и ваши разрешения на безопасность будут хранить контекстную информацию в вашей собственной среде.
Используя добычу в поисках (RAG) с LLM, которые не содержат никаких данных клиента, вы можете убедиться, что конфиденциальность данных ваших клиентов защищена. Этот подход намного лучше, чем модели фундамента с общественными каналами или анонимизированными данными клиентов.
Проще говоря, с точки зрения безопасности, если у вас есть весь технический стек, агенты становятся отличным органическим дополнением — не только к уровню разрешений, но и к уровню поиска, а также другим уровням доступа, такими как идентичность и управление доступом (IAM) и привилегированное управление доступом (PAM).
Вообще говоря, ваши инструменты искусственного интеллекта всегда должны работать над данными, которые у вас уже есть в вашей защищенной сети; Все разрешения должны соблюдаться, и должен быть аудиторский след всех вызовов, выполненных агентами.
Ключевые выводы
Компании должны принять на заказ решения для агента, при включении инструментов Genai в рабочие процессы ИТ. Мы переходим от автоматизации процессов к автоматизации решений и гипер-контуризации как отрасли.
При этом мы должны потратить правильную сумму денег на вычисление, сохранить всю обработку данных в наших защищенных средах и расставить приоритеты для конфиденциальности данных клиента. Я считаю, что это лучше всего достигнуто с помощью моделей ИИ на заказ для рабочих процессов ИТ.
Trending Stories youtube.com/thenewstack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Ramprakash Ramamoorthy возглавляет усилия по ИИ и блокчейну для управления и Zoho. Он отвечает за внедрение стратегических, мощных функций искусственного интеллекта в ManageEngine, чтобы помочь предоставить множество продуктов управления ИТ, хорошо подходящими для предприятий любого размера. Ramprakash … Подробнее от Ramprakash Ramamoorthy
