Все, что удалось в производстве, работает именно так, как ожидалось: надежно, прозрачно и не ломается под высоким давлением. То же самое должно быть справедливо и для генеративного ИИ (GenAI). Вы создаете приложение, тестируете его и подвергаете нагрузке. Но запустить его в производство редко бывает просто. Лишь около 5% пилотов доходят до производства. Среды разработки и производства часто не совпадают.
Более ранние модели ИИ (традиционный ИИ) было легче тестировать и развертывать. Сегодняшние системы GenAI, напротив, требуют гораздо большего сотрудничества, постоянной проверки и надежного конвейера CI/CD для запуска в производство. По мере роста сложности командам требуется мышление «сдвиг влево», чтобы раньше тестировать, непрерывно отслеживать и управлять моделями, такими как код.
Для финансовых учреждений проблема еще более серьезная. Многие из них имеют многообещающие доказательства концепции, но лишь немногие освоили операционную строгость, необходимую для производства. ГенИИ создает множество новых рисков, таких как галлюцинации, непредсказуемое поведение и неясная ответственность. Это как беспилотные автомобили: даже если аварии происходят реже, все равно все спрашивают, кто был за рулем. Внедрение GenAI в производство требует дисциплины, правильных людей, четкого распределения ролей и контроля, чтобы гарантировать, что он работает в реальном мире.
От сборки к производству
Когда организации масштабируют GenAI за пределы пилотных проектов, зачастую первое, что нужно сломать, — это не технология, а готовность с ней справиться. Без подходящего таланта, организационной структуры и ясности относительно того, кто руководит переходом, становится трудно перейти к производству.
Слишком часто команды создают модель и предполагают, что она готова к развертыванию. Затем кто-то поднимает красный флаг из-за опасений риска, или же оценка не удалась, и организация отступила. Это достаточно большое изменение и достаточно большая выгода, поэтому его нельзя сделать наполовину. Инвестиции растут, но еще недостаточно глубоки и единообразны, чтобы осуществить весь спектр преобразований, необходимых для создания GenAI.
Ранние инициативы GenAI также испытывают трудности с интеграцией и надзором. Поскольку технология затрагивает каждую функцию — данные, риски, операции и соблюдение требований — требуемая координация/сотрудничество выше, чем большинство команд готовы.
GenAI меняет способ выполнения работы. Благодаря автоматизации процессов, которые ранее выполнялись вручную, роли и обязанности меняются. Успешное внедрение зависит от кросс-функциональной координации команд и готовности перестроить рабочие процессы. Например, такие компании, как Apple, JP Morgan, Samsung и многие другие, запретили сотрудникам использовать общедоступные чат-боты из-за опасений по поводу утечки данных, что показывает, как быстро могут возникнуть риски.
На организационном уровне многие команды упускают из виду воспроизводимость и взаимозависимость между системами. Традиционные конвейеры машинного обучения (ML) более линейны и их легче контролировать. Системы GenAI, напротив, включают в себя множество агентов, конвейеры данных и параллельные петли обратной связи. Это делает оркестровку и отслеживаемость не только полезными, но и необходимыми для надежности производства.
Как обеспечить бесперебойную работу GenAI
Для оркестрации требуется общая среда, в которой команды могут работать независимо, сохраняя при этом прозрачность на протяжении всего жизненного цикла. Специалистам по обработке данных, инженерам, представителям регулирующих органов и специалистам по соблюдению нормативных требований каждому требуется собственное независимое пространство для внесения своего вклада, но вся система должна оставаться проверяемой и связанной. Цель состоит не в том, чтобы автоматизировать все, а в том, чтобы предоставить командам инструменты, повышающие эффективность при сохранении контроля. Такая среда необходима для масштабной организации GenAI.
Конечно, одни только технологии не могут решить организационные проблемы. Настоящая трансформация должна произойти в компании в целом. Инструменты не могут устранить дефицит талантов, но они могут помочь командам быстрее учиться и более эффективно сотрудничать. В крупных компаниях управление знаниями становится лучшей практикой, когда каждый может получить доступ к тому, чему другие уже научились, и использовать его.
Учитывая новизну GenAI, участие человека в процессе является лучшей практикой. Человеческий надзор должен осуществляться на каждом этапе. При создании решений, подобных тем, которые взаимодействуют с клиентами, экспертам необходимо проводить их стресс-тестирование и предоставлять живую обратную связь в процессе сборки. Это называется «красная команда».
При развертывании GenAI важно понимать, как будет реагировать модель большого языка (LLM). Это выявляет слабые места и подтверждает защитные меры. После развертывания системы должны подвергаться постоянному мониторингу с частыми проверками. Каждая проверка должна регистрироваться в системе для укрепления доверия и подотчетности.
Долгая игра
Прелесть GenAI в том, что мощные и комплексные модели доступны каждому. Раньше, чтобы сделать что-то новое, нужно было построить модель с нуля. Вот что делает этот момент таким трансформационным.
Поддерживать производство GenAI означает поддерживать его соответствие как бизнес-целям, так и этическим стандартам. Лидерам необходимо заранее определить, как выглядит ответственное использование GenAI: как измерять риск, какой уровень ошибок является приемлемым и когда требуется человеческий анализ. Эти разговоры не могут происходить после развертывания. Это необходимо сделать сейчас, в сотрудничестве с регулирующими органами, коллегами по отрасли и даже клиентами, чтобы гарантировать, что выгоды перевешивают риски. Правильные петли обратной связи помогают постоянно совершенствовать GenAI.
Лидерство и путь вперед
Ближайшие годы будут преобразующими. LLM развиваются такими темпами, которые удивляют даже самые опытные команды, и два-три года могут показаться вечностью. Больше не существует такого понятия, как «быстрый последователь». Лидерами внедрения GenAI станут те, кто сочетает техническое исполнение с организационным предвидением.
Лидеры должны заранее решать проблемы управления и организации. Привлекайте к процессу специалистов по соблюдению требований и рискам как можно раньше, но не в качестве проверяющих, а в качестве партнеров. Крайне важно, чтобы руководители разработки и обеспечения соответствия требованиям учились вместе. Именно так строится доверие к рабочим процессам GenAI.
Поезд движется быстро. Если вы не начнете сейчас — учиться, повторять и вовлекать свои команды — вы останетесь позади.
ТЕНДЕНЦИОННЫЕ ИСТОРИИ YOUTUBE.COM/THENEWSTACK Технологии развиваются быстро, не пропустите ни одной серии. Подпишитесь на наш канал YouTube, чтобы смотреть все наши подкасты, интервью, демонстрации и многое другое. ПОДПИСАТЬСЯ Группа, созданная в Sketch. Маниш Гупта — генеральный директор и соучредитель компании Corridor Platforms, где он создает расширенные возможности принятия решений на основе искусственного интеллекта, которые сочетают автоматизацию с соблюдением нормативных требований. Гупта — опытный лидер в области управления рисками на основе искусственного интеллекта, автоматизации принятия решений и инноваций в сфере финансовых услуг. Ранее главный… Подробнее от Маниша Гупты
