Почему так сложно заставить инженерную команду рассказать, сколько стоит инструменты искусственного интеллекта?
Ну, это не на самом деле о каменных инженерах. (Большую часть времени это не так.)
Речь идет о том, как разные группы в организации управляют своей работой и KPI, которые они устанавливают для себя. Команды DevOps чувствительны к посягательствам. Команды Finops сталкиваются с критикой за то, что они настаивают на том, чтобы контролировать расходы на работу, которые инженерная команда считает важной.
DevOps и Finops Groups могут сотрудничать, и они часто делают это в организациях, которые имеют структурированные подходы, позволяя каждой группе достигать своих целей и соответствовать наилучшим интересам предприятия.
Команда DevOps управляет конвейером доставки, чтобы обеспечить развертывание программного обеспечения в производство с скоростью и эффективностью. Команда Finops оптимизирует облачные расходы и ищет ценность для организации.
В Finopsx на прошлой неделе в Сан -Диего реальность ИИ открывает новый лабиринт, который является бесконечно более сложным, чем управление традиционными затратами на облако и стоимостью, которое он приносит.
KPI DevOps не соответствуют усилиям практикующих Finops, сказал Роберт Ривз, независимый консультант и один из основателей Liquibase, компании по управлению изменениями в базе данных с подходом, который она называет «DevOps базы данных».
Как многие из наших читателей знают, KPI для инженерии включают в себя среднее время для восстановления, скорости и количества толчков, которые команда делает в производство.
«Вот где инженерная инженерия, вот как руководство смотрит на них, для KPI», — сказал Ривз новому стеку. «И это не совпадает с тем, что мы видим от наших друзей на стороне финопс дома. Вот почему есть это разрыв.
«Инжиниринг смотрит на практикующих Finops и говорит:« Почему вы говорите мне, как выполнять мою работу? Я не скажу вам, как выполнять свою работу ». И вот в чем конфликт ».
Ограниченная видимость затрат
В Finopsx Ривз стоял у бассейна в Marriott Marquis San Diego Marina, объясняя, что то, что должно произойти, не выглядит красиво. Команды Finops имеют ограниченную видимость в инструментах и платформах, используемых инженерными командами для интеграции генеративных возможностей AI (Genai) в свои продукты.
«Они оба пытаются сделать хорошие вещи для организации», — сказал Ривз. «Но они идут по -другому, и обе стороны говорят:« О, так сложно работать с другими ». И теперь у нас есть эта новая динамика с принятием ИИ ».
Команды разработчиков могут получить больше инвестиций для разработки ИИ. Тем не менее, команды Finops часто имеют ограниченную видимость в затратах на эти инструменты и платформы, а также ценность, которую они предоставляют.
И хотя инвестиции продолжают входить, команда продуктов может даже не взимать больше; Вместо этого это иногда поглощает стоимость по стратегическим причинам.
Команды Finops смотрят на инженерные команды и говорят: «Ну, какие модели вы используете?» Задавать все эти вопросы могут стать неудобными.
«Я думаю, что ИИ тратит — это бомба временного времени», — сказал Ривз.
JR Storment, исполнительный директор Finops Foundation, заявил в интервью перед конференцией, что профессионалы Finops в настоящее время должны сосредоточиться на сборе данных. Только зная данные, что возникает оптимизация.
К его чести, Фонд Finops разработал значительный объем информации для команд, входящих в мир Finops AI. Например, он создал структуру для количественной оценки ИИ и его воздействия на предприятие. Фонд объявил о сертификации под названием «Finops для AI».
Ривз сказал, что сообщество знает, что возврат инвестиций (ROI) потратил на облачные расходы. Он зачистил Finops Foundation с выпуском Finops Open Story и спецификацией использования (Focus) и стандартной моделью данных для оценки облачных расходов для всех поставщиков. В Finopsx фонд объявил о выпуске Focus версии 1.2.
Давление со стороны корпоративного набора
Исполнительная команда хочет извлечь выгоду из возможностей, которые он видит в ИИ. Команды продуктов получают давление, и они также видят, что их конкуренты добавляют возможности ИИ, подпитывая гонку.
Кроме того, компании тратят небольшие состояния на графических процессоров. Один клиент авиакомпании для одной из облачных сервисов, согласно презентации Finopsx, имеет инженеры на три восьмичасовые смены, 24 часа в день.
И это оставляет практикующего Finops в привязке. Они наконец достигли точки, где они могут оптимизировать облачные расходы, но теперь наступает ИИ и его натиск.
«Теперь им нужно беспокоиться о том, чтобы потратить ИИ, будь то графические процессоры или LLM [large language model] Использование или что -то еще », — сказал Ривз.
Команды продуктов вкладывают ИИ в услуги, которые они предлагают. Тем не менее, инженерные команды не совсем прозрачны в отношении моделей, которые они используют.
Кроме того, облачные провайдеры не раскрывают свои собственные внутренние стеки, платформы, инструменты и другие компоненты и возможности, которые поставляются с их предложениями искусственного интеллекта. Они, конечно, не обсуждают свои аппаратные конфигурации или какие пользовательские чипы они используют. Для них было бы довольно необычно обсудить свои методологии обучения или источники данных.
Тем не менее, деньги течет для ИИ. Компании так сильно требуют, что большие консультации просят для ИИ что -нибудь от клиентов, которые сталкиваются с их внутренними мандатами. Они хотят чего -то ИИ. Таким образом, они используют AI, автоподобный сервис, основанный на стандартном LLM.
«И поэтому у вас есть разные части организации, которые тратят кучу денег», — сказал Ривз. «Похоже, что не все, кто хочет потратить деньги на ИИ, одобрит свой бюджет, и это вызовет проблемы, потому что бизнес не знает, в каком отделе есть лучшая рентабельность инвестиций для этих расходов».
Trending Stories youtube.com/thenewstack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Алекс Уильямс является основателем и издателем нового стека. Он давний технологический журналист, который занимался TechCrunch, Siliconangle и тем, что сейчас известно как ReadWrite. Алекс был журналистом с конца 1980 -х годов, начиная с … Подробнее от Алекса Уильямса
