Firefly спонсировал этот пост.
Несмотря на все достижения в области автоматизации облаков, большинство инженерных команд по -прежнему взаимодействуют со своей инфраструктурой посредством билетов, панелей мониторинга или похороненной документации. Хотите проверить, является ли производственное ведро AWS S3 общедоступным? Приготовьтесь открыть облачную консоль и перемещаться по лабиринту вкладок. Нужно знать, вызвал ли недавний коммит Terraform Drift? Время начать копаться через журналы и электронные таблицы.
Рост генеративного ИИ предлагает более естественный интерфейс для облачных нативных операций (важно, что говорит о языке инженеров и интерфейсов с системами, которые они уже используют). Введите Intelligent Slackbot: ассистент разговора, который понимает облако вашей команды, интегрируется с вашей документацией и API и может в реальном времени отвечать на вопросы о состоянии инфраструктуры, соответствия и автоматизации.
Вот разбивка того, как создать свой собственный Slackbot с AI с AI: тот, который подключается к вашей облачной среде, плюс использует инструменты с открытым исходным кодом и внутреннюю базу знаний для предоставления ответов, пониманий и исправлений на всем естественном языке.
Зачем строить AI Slackbot для вашего облака?
Команды сегодня имеют множество инструментов — инфраструктура как код (IAC), политические двигатели, платформы наблюдаемости и инструменты управления облаком. Но большая часть этих знаний заблокирована в бункерах или требует доступа к племенным ноу-хау. Разработчики по-прежнему полагаются на инженеров платформы на ответы, которые могут (и должны) быть самообслуживаемыми.
Создавая разговорной интерфейс, который интегрируется с документацией вашей команды платформы и облачными API, вы разблокируете более доступный, удобный для разработчиков способ запрашивать и действовать в области облачной инфраструктуры. Думайте об этом как Chatops для эпохи управления: Спросите о конфигурациях активов, запустите рабочие процессы или обнаружите дрейф, и все это не знает, в каком репо или панели приборной панель нужно смотреть.
Шаг 1: Постройте базу знаний
Первый шаг — позволить вашему Slackbot понять облачную среду вашей организации. Это означает проглатывание документации вашей команды платформы — например, Runbooks, Architecture Notes, определения политики и модули IAC — в формат, который можно запрашивать на естественном языке.
Это может быть достигнуто с помощью векторных баз данных и загрузчиков документов. Такие инструменты, как Langchain, Lmamaindex или Hay Stack, позволяют вам вбрасывать и внедрить документацию в семантические индексы поиска. Эти инструменты обрабатывают все, от пансирования маркировки, страниц слияния или Google Docs, до того, чтобы сделать запрос данных с помощью подсказок на основе крупной языковой модели (LLM).
Ключевые соображения на этом этапе:
- Размер куски и перекрытие влияют на то, насколько точны ваши ответы.
- Вы захотите регулярно повторно индектировать свои документы, чтобы отразить изменения.
- Документы по маркировке или размещению имен улучшают актуальность для средств с мультикозой или многочисленными командами.
Шаг 2: Реализация разговорного двигателя
Как только ваша база знаний на месте, пришло время построить интерфейс Slackbot. Это означает подключение API сообщения Slack с помощью рамки с открытым исходным кодом, которая позволяет вам направлять вопросы к языковой модели, обогащать запросы с контекстуальными знаниями и обрабатывать ответы в разговорном потоке.
Такие рамки, как Langchain и Semantic ядра, предоставляют предварительно построенные агенты, которые могут объединять несколько источников данных, включая ваш векторный хранилище, внутренние API и статические инструменты. Вы настроите приложение Slack, подпишитесь на события сообщений и запросы пользователей труб в своем разговорном агенте.
Некоторые лучшие практики:
- Используйте оперативные шаблоны, чтобы направить помощника к языку, специфичной для инфраструктуры, и избежать галлюцинаций.
- Журнал запросов и ответов на точную производительность и чехлы с краями.
- Добавьте аутентификацию пользователя, поэтому только авторизованные инженеры могут получить доступ к конфиденциальной информации.
Шаг 3: интегрируйте с облачными API
Теперь, когда ваш Slackbot может понимать и реагировать на основе документации, пришло время сделать его динамичной, подключив его к инфраструктуре Live Cloud, используя API.
API, такие как Firefly, обеспечивают единую видимость в облачных активах, определениях IAC и соответствия политике, с API, которые позволяют программно запросить все, от групп безопасности до владения ресурсами. Интегрируя эти конечные точки в инструментарий вашего Slackbot, вы включаете такие вопросы, как:
- «Какие экземпляры EC2 имеют негренные объемы?»
- «Наша политика Центра затрат нарушается в средах разработки?»
- «Покажи мне дрейф между развернутой инфраструктурой и нашей базовой линейкой МАК».
Ключ состоит в том, чтобы отобразить подсказки естественного языка с вызовами API, а затем обрабатывать ответы обратно в разговорные ответы. Например, «Есть ли дрифт в постановке?» может быть направлен в API обнаружения дрифта Firefly и вернуть список затронутых ресурсов.
Вам не нужно использовать Firefly конкретно. Инструменты, такие как AWS Config, открытый агент политики или внутренние API-интерфейсы метаданных, могут выполнять ту же роль. Но ключом является создание слоя абстракции между вашим ботом и облачными API, чтобы вы могли обменять или расширять интеграцию по мере необходимости, а Firefly делает это хорошо.
Шаг 4: Добавьте действия автоматизации и самообслуживания
С работой только для чтения запросов, следующим шагом является расширение возможностей инженеров с контролируемыми действиями записи. Это может включать в себя запуск предварительно одобренных сценариев исправления, обновление тегов или начало рабочих процессах инфраструктуры.
Чтобы сделать это безопасно, ваш Slackbot должен:
- Проверьте запрос (например, разрешайте только исправление на некоммерческом счетах).
- Подтвердите с пользователем (например, «Хотите применить исправление для XYZ Drift?»).
- Воберите все действия и ответы на аудиторский след.
Вы можете подключить эти действия в трубопроводы CI/CD, потоки Gitops или платформы автоматизации, такие как Rundeck или Themalal. Магия заключается в переводе намерения («исправить политику S3») в оркестрированное бэкэнд -действие — и отражение пользователю, что было сделано.
Соображения для доверия и управления
Интеллектуальный облачный бот полезен только в том случае, если ему доверяют. Это означает обеспечение соблюдения ограждений и прозрачности:
- Отображение ссылок источников для любых ответов на основе документации.
- Включите журналы аудита для любых запускаемых действий.
- Используйте контроль доступа на основе ролей (RBAC) для ограничения чувствительных запросов.
- Позвольте администраторам переопределить или исправить галлюцинированные ответы.
Строительство доверия также означает четкое определение ожиданий: ваш Slackbot не заменяет команду платформы, он усиливает его, превращая свою документацию и рабочие процессы в нечто более открытое, действенное и удобное для пользователя.
Smart Slackbots = операционные выгоды
Что бы вы сделали с мощным интерфейсом для операций платформы? Объединяя контекст, управляемый AI, с визуальностью облака в реальном времени и крючками автоматизации, ваш Slackbot становится больше, чем инструмент чата. Это становится входной дверью в вашем облаке.
По мере того, как генеративный ИИ созревает, ожидайте, что этот шаблон повторится: интерфейсы становятся более простыми, интеллектуальными инструментами, встроенным в инструменты и автоматизацию, обусловленные человеческими намерениями, а не сложными сценариями. Если вы ждали способ принести ИИ в свой инженерный стек платформы, это практическое и высокое место для начала.
Ваше облако много знает. Пришло время сделать это, чтобы ваша команда могла спросить об этом и учиться на этом.
Firefly-это плоскость управления облаком, которая позволяет DevOps и командам инженеров платформы сканировать и обнаруживать весь свой облачный след, обнаружение облачных конфигураций, классифицировать активы с использованием политики как код и управлять одним инвентаризацией облачных ресурсов в разных кластерах и Kubernetes Clusters. Узнайте больше последних из Firefly Trending Stories YouTube.com/ThenewStack Tech Moving быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Эран Биби является соучредителем и директором по продукту в Firefly. Имея многолетний опыт работы в чем -либо DevOps/SRE и безопасности, он заработал репутацию эксперта CI/CD и SRE и заядлый администратор облачных платформ и контейнерных сред …. Подробнее от Eran Bibi
