Лас-Вегас — Сегодня на ежегодной конференции re:Invent компания AWS представила новые версии своих моделей Nova, которые сопоставимы с последними выпусками моделей из передовых лабораторий, таких как Anthropic, OpenAI и Google. Но во многих случаях готовые модели больших языков (LLM) не решают конкретные случаи использования и могут оказаться не в состоянии обеспечить надежность, необходимую для запуска заданной рабочей нагрузки ИИ в производство. Точная настройка существующих моделей с открытым весом часто является единственным вариантом, но это требует большого опыта и может иметь свои подводные камни (например, регрессии модели).
Для этих компаний сегодня AWS запустила Nova Forge, новый сервис, который позволяет предприятиям переносить свои собственные данные в собственные модели AWS Nova, начиная с Nova 2 Lite (он не будет работать ни с какими другими моделями). Однако за эту привилегию им придется платить 100 000 долларов в год.
AWS называет эту идею «открытым обучением», хотя стоит отметить, что модели Nova не являются моделями с открытым исходным кодом или открытым исходным кодом.
Изображение предоставлено: AWS.
Nova Forge предоставляет пользователям доступ к моделям Nova до, в середине и после обучения и позволяет им смешивать свои собственные данные и наборы данных, курируемые Amazon, на каждом из этих этапов. В идеале это означает, что модель сохранит все существующие знания, но теперь также лучше понимает конкретные потребности и базу знаний данной организации.
Это полезно, особенно для случаев использования, когда база знаний не меняется часто, и в этом случае более традиционная архитектура RAG, вероятно, будет иметь больше смысла. Во всяком случае, эти новые пользовательские модели (AWS называет их «новеллами») предоставят даже системам на базе RAG более индивидуализированную основу для старта.
Используя обучение с подкреплением (RL), пользователи могут дополнительно настроить реакцию моделей. Пользователи также будут иметь возможность создавать меньшие, очищенные модели, которые будут более экономичными в эксплуатации, и все это поддерживается ответственным набором инструментов искусственного интеллекта AWS, который помогает предприятиям обеспечить наличие в моделях необходимых средств контроля безопасности.
AWS Nova Forge (Фото: AWS).
«Работа с Nova Forge позволяет нам улучшить модерацию контента на Reddit с помощью более унифицированной системы, которая уже дает впечатляющие результаты», — сказал Крис Слоу, технический директор Reddit. «Мы заменяем ряд различных моделей одним, более точным решением, которое делает модерацию более эффективной. Возможность заменить несколько специализированных рабочих процессов машинного обучения одним целостным подходом знаменует собой сдвиг в том, как мы внедряем и масштабируем ИИ в Reddit. Увидев эти первые успехи в наших усилиях по обеспечению безопасности, мы стремимся изучить, как Nova Forge может помочь в других областях нашего бизнеса».
Однако на данный момент единственным местом для развертывания этих моделей является Amazon Bedrock. Не похоже, что они смогут вытащить их из этих сред и запустить где-то еще. AWS, конечно, утверждает, что это обеспечивает безопасность, масштабируемость и конфиденциальность данных, но я не удивлюсь, если со временем компания позволит пользователям Forge использовать свои модели и в других местах.
ТЕНДЕНЦИОННЫЕ ИСТОРИИ YOUTUBE.COM/THENEWSTACK Технологии развиваются быстро, не пропустите ни одной серии. Подпишитесь на наш канал YouTube, чтобы смотреть все наши подкасты, интервью, демонстрации и многое другое. ПОДПИСАТЬСЯ Группа, созданная в Sketch. Прежде чем присоединиться к The New Stack в качестве старшего редактора по искусственному интеллекту, Фредерик был корпоративным редактором в TechCrunch, где освещал все, от появления облака и первых дней Kubernetes до появления квантовых вычислений…. Подробнее от Фредерика Лардинуа
