Google Today опубликовал новую статью, которая направлена на количественное определение воздействия на окружающую среду на моделях Близнецов. Исследователи обнаружили, что «медиана приложения Близнецов приложения» (подробнее об этом позже) потребляет 0,24 ватт-часов (WH) энергии и 0,26 миллилитра воды-или ту же энергию, которая используется путем просмотра девяти секунд телевизора и эквивалента пяти капель воды.
Год назад, говорит Google, использование энергии все еще было в 33 раза выше (и выброс углерода в 44 раза выше). Он приписывает выгоду от своего полного подхода к оптимизации всего, от его индивидуального кремния до самих моделей.
Поначалу эти цифры использования энергии и воды кажутся небольшими, но также стоит отметить, что в своем последнем вызове доходов Google сказал, что его мобильное приложение Gemini, которое представляет собой только одну поверхность для использования Gemini, теперь имеет 450 миллионов активных пользователей в месяц, и его центры обработки обработки обработки в месяц.
Google не предоставил никаких данных о том, как это сравнивается со средним поисковым запросом, и какой энергии потребляют его аудио, фото и видео -модели. Компания также не определила размер «медианного приложения приложения Близнецов» и количество токенов, которые он генерирует. Неясно, почему Google не может просто поместить эти данные с точки зрения того, сколько власти и использования воды на миллион токенов потребляют центры обработки данных.
Кредит изображения: Google.
Только текстовое приглашение
Когда его задают связанный вопрос о влиянии использования мощности моделей изображений и видео — или использования глубоких исследований Gemini — Саванны Гудман, главы Advanced Energy Labs Google, заявил, что «в центре внимания этой статьи — приложения Gemini Apps, а часть нашей стратегии отчетности — постоянно оценивать, как мы можем повысить прозрачность этих эффектов».
Google также утверждает, что модели и их возможности сильно изменились в прошлом году (включая, например, добавление глубоких исследований), что означает, что средний запрос также изменился, как и базовое оборудование.
Что касается того, почему Google не предоставит сравнительные цифры для медианного запроса и поискового запроса Google, Парта Ранганатан, который возглавляет команду, проектирующую свои системы и центр следующего поколения, утверждал, что это «сравнение яблок и апельсинов».
«Люди, которые приходят в приложение Близнецов, имеют совершенно иной метод взаимодействия, чем люди, которые ходят в поиск в Google», — сказал он. «И поэтому я не думаю, что очень легко сравнить это и учитывая, что у нас была техническая методология — мы старались быть очень строгими в отношении технической и науки, стоящей за методологией — и поэтому мы не чувствовали, что мы можем сделать надлежащее сравнение научных яблок с яблоками для этого. Так что у нас нет такого числа».
Кредит изображения: Google.
И действительно, прошло много времени с тех пор, как Google предоставил какие -либо данные о том, сколько энергии потребляет один поисковый запрос, но в 2009 году это было 0,3 ч. Компания никогда не обновляла это число, и оно все еще широко цитируется, но, скорее всего, что если Google смог сделать Gemini в 33 раза более энергоэффективным за последний год, ее поисковая команда также получила некоторые выгоды за последние 16 лет.
Тем не менее, стоит отметить, что цифры Google значительно ниже, чем в большинстве общественных оценок, которые мы видели за последние два года, но не так далеко от утверждения Сэма Альтмана в начале этого года, что средний запрос CHATGPT потреблял 0,34 Вт энергии и 0,3 мл воды. Неясно, как Openai прибыл на это число и какие части системы она включает. Google специально исключает сети, устройства конечных пользователей и мощность, используемую для обучения своих моделей и, например, хранить данные.
Несмотря на то, что было бы неплохо увидеть другой вид метрики, чем «приложения срединных приложений для Близнецов», отчасти потому, что это затрудняет сравнение текста, аудио, изображения и видео, а также использование API и другие методы, все еще приятно видеть Google, выпускающую эту работу и предоставляют некоторую конкретную метрику и ее методологию.
Trending Stories youtube.com/thenewstack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Прежде чем присоединиться к новому стеку в качестве старшего редактора для ИИ, Фредерик был редактором предприятия в TechCrunch, где он освещал все, от роста облака и самых ранних дней Kubernetes до появления квантовых вычислений …. Подробнее от Frederic Lardinois
