Поскольку организации участвуют в реализации инициатив искусственного интеллекта (ИИ), они сталкиваются с неожиданным узким местом: огромные затраты на инфраструктуру данных, необходимую для поддержки приложений ИИ.
В то время как Gartner прогнозирует увеличение расходов на ИТ на 9,8% за 2025 год, реальная история не о моделях или вычислении ресурсов — речь идет о экспоненциальном росте затрат на инфраструктуру данных, которые угрожают сделать инициативы ИИ экономически неустойчивыми.
Масштаб финансовой проблемы
Традиционные архитектуры данных не были предназначены для обработки объема и скорости данных, которые требуются приложения ИИ. В потоковых сценариях только сетевые затраты могут составлять до 80% от общих расходов на инфраструктуру. Это становится особенно проблематичным, когда организации должны перемещать данные между различными зонами или регионами для обработки или обучения.
Рассмотрим типичную инициативу Enterprise AI: компании часто начинают с скромных пилотов с одной конкретной бизнес -задачей, такой как реализация ИИ для обнаружения мошенничества или прогнозирующего планирования. Эти проекты изначально кажутся управляемыми с точки зрения затрат. Тем не менее, по мере того, как объемы данных растут и расширяются варианты использования, затраты на инфраструктуру масштабируются в геометрической прогрессии, а не линейно. Это особенно верно для критически важных приложений, таких как автономные датчики вождения или производства, где обработка данных в реальном времени не подлежит обсуждению, а время простоя не может.
Задача стоимости проистекает из трех основных факторов:
ПервыйТрадиционные архитектуры часто требуют нескольких копий одних и тех же данных в разных системах — одна копия для потоковой передачи, другая для переработки партии, а другая для обучения искусственного интеллекта.
ВторойПеремещение этих данных между различными зонами в облачных средах вызывает значительные сетевые затраты.
Третийподдержание отдельной инфраструктуры для обработки в режиме реального времени и партии создает операционные накладные расходы и неэффективность.
Это умножение данных и инфраструктуры приводит к «налогу на данные искусственного интеллекта» — скрытые затраты, которые возникают при масштабировании инициатив ИИ помимо пилотных проектов. Для многих организаций эти затраты могут превышать расходы моделей ИИ и сами вычислять ресурсы.
Переосмысление архитектуры данных
Я вижу, как организации решают эти проблемы с помощью инновационных архитектурных подходов. Одним из перспективных направлений является принятие архитектур без лидера в сочетании с хранением объектов. Этот подход устраняет необходимость дорогостоящего перемещения данных, используя облачные решения для хранения, которые одновременно служат нескольким целям.
Другая ключевая стратегия включает в себя переосмысление того, как данные организованы и доступны. Вместо того, чтобы поддерживать отдельные инфраструктуры для потоковой передачи и партийной обработки, компании движутся в направлении единых платформ, которые могут эффективно обрабатывать обе рабочие нагрузки. Это снижает затраты на инфраструктуру и упрощает управление данными и модели доступа.
Ценовые модели облачных поставщиков значительно влияют на экономику инфраструктуры ИИ. В то время как облачные сервисы предлагают гибкость и масштабируемость, их плата за выходные сети и затраты на передачу данных могут быстро стать непомерно высокими для рабочих нагрузок искусственного интеллекта. Организации должны тщательно архитектировать решения для минимизации перемещения данных между зонами и регионами.
Экономическая эффективность в движении
По мере того, как мы переходим в 2025 году, успешные инициативы по ИИ будут меньше зависеть от выбора правильных моделей и большего от строительства экономически эффективной инфраструктуры данных.
Организации должны сосредоточиться на:
Реализация архитектур, которые минимизируют дублирование данных и движение; Использование хранения объектов и проектов без головы для снижения затрат на инфраструктуру; Объединение потоковой и пакетной обработки для упрощения операций и оптимизации использования облачных ресурсов для управления сетевыми затратами.
В то время как прогнозируемое увеличение расходов на ИТ Гартнера отражает растущую важность искусственного интеллекта, организации, которые не устраняют эти проблемы с инфраструктурой, рискуют видеть, как их инициативы ИИ заталкиваются из -за неустойчивых затрат. Ключ к успеху заключается не в том, чтобы бросить больше ресурсов в эту проблему, а в фундаментальном переосмыслении, как мы архитешируем инфраструктуру данных для эпохи ИИ.
Следующая волна инноваций ИИ не будет поступить исключительно из лучших моделей — она также будет происходить из более эффективных способов хранения, перемещения и обработки огромных объемов данных, которые делают возможным ИИ. Организации, которые решают эту проблему с инфраструктурой, будут наилучшим образом, чтобы успешно масштабировать их инициативы по ИИ.
Trending Stories youtube.com/thenewstack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Сиджи Го является основателем и генеральным директором Streamnative. Путешествие Сиджи с Apache Pulsar началось в Yahoo! где он был частью команды, работающей над разработкой глобальной платформы обмена сообщениями для компании. Затем он отправился в Твиттер, где … Подробнее от Сиджи Го
