Далее в Google Cloud я сел с Бобби Алленом из Google. В то время как он описывает себя как «облачного терапевта», его официальным названием является менеджер по продукту группы для двигателя Google Kubernetes. И хотя текущее внимание Google, кажется, почти на 100% на ИИ, именно эти облачные нативные технологии, такие как Kubernetes, лежат в основе того, что заставляет эти системы работать.
GKE как платформа ИИ
«GKE — это феноменальная платформа для ИИ во многих отношениях, прямо и косвенно», — сказал Аллен. «Итак, давайте сначала ударимся по косвенному. GKE приводит к тому, что Vertex AI. Итак, Vertex AI работает непосредственно на GKE, что для меня является частью нашей сверхдержавы, потому что, когда вы думаете о том, что мы пьем собственное шампанское, если хотите, у нас есть клиенты, такие как DeepMind и Like Vertex AI, что используете, прямо или не поддаются, нашим технологиям и технологии.
Эти группы проводят свое модельное обучение и вывод помимо GKE, а также множество игр, здравоохранения, финансовых услуг, наук о жизни и других предприятий.
«Многие цифровые туземцы и стартапы действительно доверяют GKE, чтобы они организовали множество новых типов ресурсов, которые им нужны», — сказал он.
Этот текущий акцент на ИИ также меняет то, как команда думает о будущем GKE. Со временем, утверждал Аллен, Google перешел от специализированного оборудования в коммодитизированное оборудование и теперь вернулся к специализированному оборудованию с появлением ускорителей искусственного интеллекта. По его словам, для всего этого вам нужен оркестратор, который может помочь управлять этими ресурсами.
«ИИ особенный, но это не так», — сказал он. «Я как бы противоречал себе, потому что мы рассматриваем ИИ как еще один тип современной рабочей нагрузки. Поэтому, если вы думаете о вещах, которые являются местными облаками, которые являются масштабируемыми, которые должны быть эластичными — у искусственного искусства есть много этих характеристик, но у него также есть некоторые другие отличительные характеристики, такие как использование оборудования, такие как GPU и TPUS, на всеобщие, что -то вполне доступности Потому что многие вещи, которые GKE естественно делает, буквально создано для многих видов вещей, которые мы хотим сделать ».
По его словам, многие из примитивов, встроенных в Kubernetes, созданы специально для тех пользователей, которые хотят настроить свои системы для рабочих нагрузок искусственного интеллекта.
Аллен отметил, что благодаря многим ранней работе, которая вошла в Kubernetes, инженеры решали проблемы, связанные с масштабированием этих платформ и их защиту. А поскольку диапазон пользователей сегодня также чрезвычайно широкий, такие сервисы, как GKE, имеют встроенные инструменты для обработки практически любой рабочей нагрузки, с смежными системами для хранения, сетевых баз данных и т. Д.
«GKE — самый контроль с наименее техническим долгом, на мой взгляд», — сказал он. «Потому что он защищен в будущем во многих отношениях. Потому что мы знаем, что это может масштабироваться. Мы знаем, что это может расти. Мы знаем, что приверженность, которую мы имеем в сообществе с открытым исходным кодом, где Google продолжает инвестировать с очень агрессивным скоростью».
GKE как модельный маршрутизатор
Заглядывая в будущее, Аллен и его команда думают о том, как лучше интегрировать модели ИИ в общий рабочий процесс. Он утверждал, что большинство предприятий не будут тренировать свои собственные модели, но они захотят выбор модели.
«На этой модели в качестве предложения услуг GKE поддержат возможность направлять вас к модели на основе этой цели, а не на названии», — сказал он. «Так что, может быть, вы хотите мета. Может быть, вы хотите Джемму или Близнецы. Может быть, вы просто хотите сказать: ударите эту конечную точку вывода, если вы разработчик, для генерации изображений, и мне все равно, что находится под ним, верно? GKE позволит вам настроить эти леса, чтобы дать людям выход, который они хотят, не зная бренда или версию модели».
Trending Stories youtube.com/thenewstack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Прежде чем присоединиться к новому стеку в качестве старшего редактора для ИИ, Фредерик был редактором предприятия в TechCrunch, где он освещал все, от роста облака и самых ранних дней Kubernetes до появления квантовых вычислений …. Подробнее от Frederic Lardinois
