CNCF спонсировал этот пост. Dynatrace спонсировала этот пост.
Переросла ли эра облачных технологий в эпоху искусственного интеллекта? Если да, то что это означает для будущего как облачных технологий, так и технологий искусственного интеллекта? Эти вопросы группа экспертов рассмотрела на KubeCon + CloudNativeCon North America в Атланте в начале этого месяца.
Поводом стал один из фирменных блинных завтраков The New Stack, спонсируемый Dynatrace. Основатель и издатель TNS Алекс Уильямс исследовал нынешние навязчивые идеи участников дискуссии в это время стремительных перемен.
Джонатану Брайсу, новому исполнительному директору Cloud Native Computing Foundation, в наши дни вывод требует большого внимания.
«Как будут выглядеть будущие компании, использующие искусственный интеллект? Потому что не все будут чат-ботами», — сказал Брайс. «Если вы просто посмотрите на основы и на то, как вы строите каждую форму производительности ИИ, у вас должны быть модели, в которых вы берете большой набор данных, превращаете его в интеллект, а затем у вас должен быть уровень вывода, на котором вы обслуживаете эти модели, чтобы отвечать на вопросы и делать прогнозы.
«И на каком-то уровне мы как бы пропустили этот уровень», — добавил он, потому что внимание теперь сосредоточено на чат-ботах и агентах.
«Лично я всегда был водопроводчиком и специалистом по инфраструктуре, и выводы — моя одержимость».
Выводы выходят на первый план, поскольку организации все больше зависят от периферийных вычислений и персонализации веб-сайтов, говорит Кейт Голденринг, старший инженер-программист Fermyon Technologies. WebAssembly, технология, на которой фокусируется Фермион, может помочь пользователям, которые обнаруживают, что им теперь необходимо делать «дополнительные переходы», как она выразилась, из-за новой потребности в быстром выводе.
«Там [are] существуют интерфейсы, где вы можете в основном упаковать свою модель с помощью компонента WebAssembly, а затем развернуть ее на каком-либо оборудовании с графическим процессором и напрямую выполнять логические выводы и другие типы вычислений ИИ, и все это будет объединено и безопасно», — отметил Голденринг.
«Всякий раз, когда вы получаете новую технологию, следующий вопрос заключается в том, как мы можем использовать ее действительно очень быстро? И затем следующий вопрос: как [do] мы делаем это безопасно? И WebAssembly предоставляет возможность сделать это, помещая эти исполнения в песочницу».
Наблюдаемость и инфраструктура
Вопрос безопасности поднимает вопрос наблюдаемости. По мнению участника дискуссии Шона О’Делла, главного менеджера по маркетингу продуктов Dynatrace, цунами данных, которые ИИ использует и генерирует, имеет серьезные последствия для того, как мы подходим к наблюдаемости в эпоху искусственного интеллекта.
«Если вы обучаете свои данные прогнозным образом уже восемь, девять, 10 лет, у нас есть возможность добавить [large language model] и в этой ситуации разведка превыше всего, а не умозаключения», — сказал О’Делл.
По его словам, эта «добавочная стоимость» имеет свои плюсы и минусы. «Очень приятно иметь возможность, по крайней мере, сказать, что у нас есть эта информация с точки зрения наблюдаемости. Однако, с другой стороны, это очень много данных. Итак, теперь произошел фундаментальный сдвиг: что мне нужно, чтобы получить правильную информацию о конечном пользователе?
По мнению Шона О’Мира, технического директора Mirantis, одно из самых больших различий между эпохой облачных технологий и эпохой искусственного интеллекта заключается в инфраструктуре. «Одна из ключевых вещей, о которой постоянно забывают обо всем этом, — это то, что все это должно куда-то бежать», — сказал он. «Нам необходимо организовать инфраструктуру, на которой будут работать все эти компоненты».
По его словам, большая тенденция, которую он замечает, заключается в том, что «мы отходим от абстракции, которую мы начали воспринимать как норму в облачных средах. Вы знаете, мы переходим в публичное облако. Мы запускаем наши рабочие нагрузки. Мы понятия не имеем, какая инфраструктура находится под этим. С… рабочими нагрузками [running on GPUs]«Мы должны знать о глубокой инфраструктуре», включая скорость и производительность сети.
«Одна из вещей, которая нам надлежит, когда мы начинаем смотреть на все эти замечательные инструменты, которые мы используем на этих платформах, — помнить о том, что их нужно безопасно использовать, чтобы они были эффективными и эффективно управляли инфраструктурой».
Это, по словам О’Мира, «станет одной из ключевых задач на ближайшие несколько лет. У нас проблема с электроэнергией. У нас заканчивается мощность для работы этих центров обработки данных, и мы строим их так быстро, как только можем. Мы должны эффективно управлять этой инфраструктурой».
Посмотрите полную запись, чтобы услышать, как экспертная группа изучает вопросы, возможности и проблемы, которые принесет эпоха «нативного искусственного интеллекта».
Dynatrace переопределяет опыт разработчиков, объединяя журналы, метрики, трассировки, телеметрию моделей искусственного интеллекта, инфраструктуру и данные безопасности в единую масштабируемую платформу, которая интегрируется непосредственно в IDE и конвейеры CI/CD. Узнайте больше Последние новости Dynatrace ТЕНДЕНЦИОННЫЕ ИСТОРИИ YOUTUBE.COM/THENEWSTACK Технологии развиваются быстро, не пропустите ни одного эпизода. Подпишитесь на наш канал YouTube, чтобы смотреть все наши подкасты, интервью, демонстрации и многое другое. ПОДПИСАТЬСЯ Группа, созданная в Sketch. Хизер Джослин — главный редактор The New Stack, специализирующаяся на вопросах управления и карьеры, которые актуальны для разработчиков программного обеспечения и инженеров. Ранее она работала главным редактором Container Solutions, консалтинговой компании Cloud Native… Подробнее от Хизер Джослин
