Pytorch является одним из главных проектов с открытым исходным кодом AI. Теперь, его правящий фонд, Фонд Pytorch объявил о крупном расширении. Группа недавно объявила, что это станет зонтичным фондом для других программ ИИ с открытым исходным кодом. Первым из этих проектов высшего уровня являются VLLM и Deepspeed.
Виртуальная большая языковая модель (VLLM) — это библиотека с открытым исходным кодом, ориентированная на вывод крупной языковой модели (LLM) и служить значительно быстрее и эффективнее. Первоначально разработанный в Калифорнийском университете в Беркли, VLLM предназначен для решения проблемы скорости и памяти запуска крупных моделей искусственного интеллекта в производственных средах.
Алгоритм Pagegatattureation
Самая интересная особенность VLLM, по крайней мере, для меня — алгоритм Pagegatationation. Вдохновленная виртуальной памятью в операционных системах, Pagegatattureation оптимизирует использование памяти, управляя клавишами внимания и значениями в нерегинных блоках, уменьшая отходы памяти и обеспечивая большие размеры партий.
В своем заявлении Simon MO, проект, соавтор в VLLM, сказал: «Мы взволнованы тем, что VLLM является одним из первых платформных проектов, присоединяющихся к Фонду Pytorch. VLLM построен на вершине Pytorch с глубокой интеграцией, такими как компиляция факела и многоуровневая поддержка. Мы с нетерпением ждем возможности продолжить сотрудничество с экосистемой, которые Powers Innovations In Open и Vendor-neaTrar-neaTrary.
DeepSpeed - это распределенная учебная библиотека, которая упрощает масштабирование рабочих нагрузок ИИ. Это происходит путем предоставления методов оптимизации, таких как оптимизатор нулевой избыточности (ноль), трехмерное параллелизм и ускорение вывода, что обеспечивает эффективное обучение чрезвычайно крупных моделей. Он широко используется как в академических исследованиях, так и в производственной среде.
Как и VLLM, DeepSpeed имеет свои корни в Pytorch. Как заявил в своем заявлении Олатунджи Рувасе, руководитель проекта Deepspeed, он «рад стать проектом размещенной платформы в Фонде Pytorch». С самого начала Deepspeed основан на Pytorch, с критическими зависимостью от таких функций, как модуль, тензор, распределенный и компилятор. Мы стремимся использовать эту более тщательную интеграцию с экосистемой Pytorch, чтобы достичь нашей цели предоставления открытого и демократизированного доступа к современным технологиям искусственного интеллекта для всех ».
Платформы и вертикали
Заглядывая в будущее, в рамках своей новой зонтичной структуры Фонд Pytorch будет курировать две категории проектов. Первый — это платформные проекты. Это домен-агрессические программы поддерживают весь жизненный цикл ИИ, включая обучение, вывод, оптимизацию модели, развертывание и агентские системы. Другие, вертикальные проекты, как следует из названия, являются инструментами, адаптированными для конкретных отраслей и применений, таких как биоинформатика, геопространственный интеллект и складывание белка.
Проекты, принятые в фонд, выгода от управления, стратегической поддержки, повышенной видимости и доступа к глобальному сообществу участников. Фонд различает «экосистемные проекты», которые остаются самостоятельно управляемыми, и «проектами, проведенными фондом», которые принимают модель открытого управления Фонда и получают всестороннюю оперативную поддержку. Как VLLM, так и DeepSpeed являются основанными на основе проектов.
Открытие зонтика
С момента своего создания в Foundation Linux два с половиной года назад Фонд Pytorch стал включать более 30 организаций -членов и 120 экосистемных проектов. Эти новейшие шаги являются естественной эволюцией его быстрого роста и глобального импульса.
«Это захватывающая новая глава для Фонда Pytorch и более широкой экосистемы AI с открытым исходным кодом», — сказал Мэтт Уайт, исполнительный директор Фонда Pytorch. «Переходя к зонтичному фонду, мы не только формализуем импульс, который мы создали в экосистеме Pytorch; мы создаем пространство для новых проектов и новаторов, чтобы преуспеть в нейтральной среде открытого управления поставщиком».
Для получения дополнительной информации о присоединении к Фонду Pytorch или отправке проекта посетите официальный веб -сайт и следите за обновлениями и возможностями для участия.
Trending Stories youtube.com/thenewstack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Стивен Дж. Воган-Николс, известный как SJVN, пишет о технологиях и технологии, так как CP/M-80 был передовой операционной системой ПК, 300BPS был быстрым подключением к Интернету, WordStar был современным текстовым процессором, и нам понравилось. Подробнее от Стивена Дж. Вогана-Николса
