Q & A: Как Google использует свою модель Biemini на большой языке

FiveTran спонсировал этот пост.

В этом году на конференции Google Next выступило большое количество объявлений, и, возможно, неудивительно, что многие были связаны с новыми разработками вокруг ИИ.

Итак, мы были любопытны: все ли инструменты разработки искусственного интеллекта, которые сама Google развил, уже помогали компании ускорить свой собственный цикл разработки?

На конференции в Лас -Вегасе, состоявшейся на прошлой неделе, мы задали этот вопрос о Пейдже Бейли, которая является ведущим менеджером по продуктам Google для продуктов Generative AI (Genai), а также руководителям по связям с разработчиками искусственного интеллекта для офиса Google DeepMind компании Google. DeepMind — это лаборатория Google AI, которая создала Google Gemini, в настоящее время главная крупная языковая модель компании (LLM), используемая в ряде услуг от NoteBooklm до Code Assist.

Оказывается, что Близнецы и его приложения используются по всем направлениям в компании, не только с завершением кода, но и планированием проекта, документацией и даже на устаревшей миграции. Во время основного доклада генеральный директор Alphabet/Google Sundar Pichai отметил, что уже 25% кода в алфавите теперь генерируется ИИ.

Мы также рассказали о том, как заставить вашу собственную компанию, начавшись с пути использования ИИ. Разговор был отредактирован для ясности.

Как Google использует свой Gemini LLM внутри?

Близнецы определенно используются во всем жизненном цикле разработки программного обеспечения в Google.

Мы используем Близнецы, чтобы помочь в написании самого кода — Близнецы интегрируются в IDE, чтобы помочь создать новые функции, исправить вещи, отлаживать все, что может пойти не так. Мы используем его, чтобы помочь с процессом проверки кода. Мы только недавно включили действие GitHub, основанное на Code Assist, чтобы помочь просмотреть новые записные книжки и PR на GitHub всякий раз, когда они добавляются.

Мы используем его, чтобы помочь в написании документации, хотя более индивидуальная документация по -прежнему становится немного более человеческим прикосновением. Мы используем его, чтобы помочь в написании некоторых наших обзоров партнерских отношений. Мы используем его для помощи во всем в качестве обычного управления проектами и электронных писем.

Вы обнаружите, что использование разработки программного обеспечения скорости искусственного интеллекта? Или приносит новую глубину работы?

Количество [of acceleration] Мы видели на жизненном цикле разработки программного обеспечения, я не уверен, что мы публично раскрыли, но, лично, я чувствую, что это немного ускоряет мою работу. Я могу пройти через много более обыденных вещей генерации кода.

Я могу быстро мигрировать от одного дот -выпуска API на другой, а затем я могу сосредоточиться на творчестве, на самом деле на работе с людьми, что является интересной частью, чтобы быть честным, разговаривая с людьми, помогая понять некоторые из их проблем.

Там, очевидно, много движущихся частей для самой команды Близнецов, а затем для всех новых выпусков, которые мы разрабатываем. Но Близнецы даже помогают с суммированием некоторой сложности.

Например, в качестве примера у нашей команды есть несколько различных чатов для каждой новой функции, которая выпускается, но у нас также есть интеграция Близнецов в чатах, которые могут помочь с резюме. Так что, если вы вернетесь через шесть часов, вы можете быстро увидеть, какие главные предметы обсуждались, а затем, если есть что -то действенное, что вам нужно иметь возможность обратиться.

У нас есть сообщение в блоге о том, как Близнецы уменьшают время для миграции от одной версии SDK в другую. Итак, мы используем это внутри. Я думаю, что самая важная часть — спрашивать инженеров, сколько это спасло их, с точки зрения времени и энергии. И они обнаружили, что для этого рабочего процесса 80% модификаций кода были AI-уполномоченными. И опять же, это просто использует более старую версию Близнецов. И тогда время, потраченное на миграцию, было сокращено примерно на 50%. Который дикий. Это совершенно неожиданно.

Итак, для менеджера по продукту в этой роли много ли предварительной работы? Если вы хотите использовать Близнецы или услугу, связанную с Близнецами, должен ли менеджер проекта настраивать все в начале, так сказать?

Мы стараемся сделать это как можно проще. Были объявлены некоторые функции, объявленные в ключевом докладе разработчика, который перешел от документа требований к продукту [PRD] к ряду проблем с GitHub, а затем просто обращение к Близнецам решить каждую из проблем, чтобы в реальном времени вы могли видеть, что они исправлены по всему совету Канбан.

И поэтому для менеджера по продукту, например, все, что вам нужно сделать, это сосредоточиться на том, чтобы сделать правильные PRDS, а затем Близнецы позаботятся о том, чтобы превратить их в истории и выполнить больше этой роты. Честно говоря, это была одна из моих наименее любимых частей, когда я был менеджером по продукту.

Близнецы действительно великолепны в том, чтобы помочь в том, чтобы ввести ваше видение в состояние, которое будет легко обратиться к модели, или инженера -программиста для решения, и это не требует много предварительной работы вообще.

С точки зрения разработки программного обеспечения, если вы генерируете ключ API для Близнецов, все, что вам нужно сделать, это перейти к курсору или виндсурфу или получить Copilot, или любой из многих идентификаторов кодирования с открытым исходным кодом или расширений, таких как Cline или Root Code, добавьте свой ключ API Gemini, и вы отправляетесь в гонки.

У вас есть какие -либо советы для людей, у которых нет видения? Это для того, кто может работать для компании, которая хочет ИИ, но не уверен, как начать работать с ней? Как начать работать с Близнецами?

Я знаю, что ИИ определенно на вершине для многих разных компаний сегодня. Конечно, есть много людей, которые хотят выяснить, как интегрировать его в свою работу как можно быстрее.

Но я думаю, что что -то, что было бы очень полезно для людей, это сделать шаг назад, понимая, что вы знаете свой бизнес лучше, чем кто -либо другой. Вы знаете, что вы пытаетесь сделать лучше, чем кто -либо. Вы знаете своих пользователей, клиентов или людей, которых вы помогаете лучше, чем кто -либо другой.

И поэтому я люблю делать, когда я пытаюсь рассмотреть, как я должен интегрировать ИИ в свою работу, — это какие части работы, которые являются наименее радостными, и я хотел бы, чтобы я мог автоматизировать больше всего, будь то такие вещи, как отвечать на электронные письма, чтобы планировать встречи или отвечать на электронные письма, чтобы просто указывать на человека на конкретную документацию или что -то в этом роде, или подобное, конкретный док, верно?

Это то, что ИИ может быть действительно, очень полезным, и очень, очень просты.

Часто я получаю действительно очень длинную ветку по электронной почте, вы знаете, 35 сообщений о обратном и отрядах. Вы можете взять эту ветку, дать ее Близнецам, а затем [tell IT]«Я действительно хочу иметь возможность понять эту ветку. Я хочу иметь возможность реагировать на это таким образом, «таким образом, что он движется по разговору, не вдаваясь слишком много в деталях. Близнецы могут помочь даже с такими более нюансированными ответами.

Мы все ответственны за широкий спектр задач каждый день. Мы все целые, полные люди, вы знаете, делаем много разных вещей. Так что просто определите кусочки вашей работы, которые наименее радостны, которые вы хотите автоматизировать.

Как вы можете повысить точность результатов, которые вы получаете от Близнецов?

Notebooklm — это фантастика. Вы можете добавить много различных цитируемых источников, и тогда они могут указать вам, где в документе он используется, чтобы дать эту дополнительную информацию. Мы также включили заземление с поиском Google в наши API-интерфейсы Gemini, если вы хотите получить актуальную информацию и источники проверки фактов.

У нас также есть что -то, называемое выполнение кода, что дает вам возможность выполнять некоторую математику или построить некоторые данные. Это дает возможность Близнецам иметь возможность писать код, запустить его, а затем рекурсивно исправить его, если это необходимо. Таким образом, это отличные возможности, чтобы дать человеку дополнительную уверенность в ответах на модель ИИ и помочь заземлить его реальными данными.

Для других технологических компаний, которые хотят поддержать помощь в коде Gemini, хорошая документация должна быть более важной, чем когда -либо …

Абсолютно. Если документация устарела, то это приводит к действительно плохому пользовательскому опыту, поэтому важно автоматизировать это как можно больше.

Одна из вещей, которая настолько сложна для команд разработки программного обеспечения, это то, что вы делаете новый выпуск своего SDK — так что, возможно, вы переходите от 1,2 до 1.3, и поведение могло измениться, и, возможно, вы добавили некоторые новые функции — действительно сложно иметь возможность обновлять все места в документации, которая затрагивает эту старую SDK и новые функции, которые вводятся.

Агенты документирования намного лучше у людей, чем вроде просмотра всех этих разных мест и поиск всех случаев, которые необходимо обновить.

Как промышленность, как мне думать о Близнецах как о продукте? Я имею в виду, что есть все эти API, приложения и плагины, которые создаются от LLM. Но что такое сама Близнецы?

В DeepMind мы вкладываем значительное время и энергию в возможные лучшие модели. Наша последняя версия Близнецов [version 2.5] включает в себя мышление изначально, поэтому у него есть эти характеристики рассуждений. И он мультимодальный, поэтому он понимает видео, изображения, аудио, текст, код — все вышеперечисленное — понимает все это сразу.

Но еще более примечательно, или, по крайней мере, для меня, это также может вывести разные методы. Таким образом, вы можете вывести текст, код, аудио, изображения, а также редактировать изображения с одной и той же моделью. Исторически, вам нужно было иметь около пяти разных моделей, чтобы делать все эти вещи.

Мы пытаемся поместить как можно больше информации и возможностей в одну модель, потому что у людей также есть много разных возможностей.

Вот как вы можете думать о модели как об этом двигателе, который остальная часть стека приложений может использовать для выполнения своей работы.

Я скажу, однако, что настоящая липкость и настоящая инновация поступают из этого уровня приложения сверху. Люди могут создавать такие вещи, как ноутбук, курсор или AI Studio. Во всех этих случаях они интегрируют модель в места, где находятся пользователи. Это то, что на самом деле действительно имеет значение в конце дня.

Google много инвестирует как в модельный процесс, так и в уровень приложений, так и даже такие вещи, как воплощенный интеллект.

Мы только что поместили Близнецы на нашу робототехнику. У нас есть семейство открытых моделей, наши открытые модели Gemma. Таким образом, мы инвестируем не только в проприетарные модели, но и больше открытых моделей, ориентированных на сообщество.

В дополнение к моделям, которые мы размещали на серверах, таких как наше семейство моделей Gemini, мы также принимаем наши небольшие модели и интегрируем их на пиксельные устройства, с нано Близнецов, а также внедряем их в браузер Chrome.

Таким образом, вместо того, чтобы отправлять данные на какое -то место, чтобы вернуть ответ, вы можете выполнять всю эту работу локально, просто используя свой собственный локальный вычислитель. Это действительно демократизирует крупные языковые модели.

FiveTran, мировой лидер в области движения данных, расширяет возможности таких компаний, как OpenAI, Pfizer и Morgan Stanley, для аналитики Power и AI и достигать преобразующих результатов бизнеса. Узнайте больше последних из FiveTran Trending Stories YouTube.com/ThenewStack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Joab Jackson является старшим редактором нового стека, охватывающего облачные нативные вычисления и системы системы. Он сообщил об инфраструктуре и развитии IT более 25 лет, в том числе в IDG и государственных компьютерных новостях. До этого он … читал больше от Джоаба Джексона

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *