Гитлаб спонсировал этот пост.
Команды безопасности всегда должны были адаптироваться к изменениям, но новые разработки, которые будут разыграны в этом году, могут сделать 2025 год особенно сложным. Ускоряющиеся темпы инноваций искусственного интеллекта, все более сложные киберугрозы и новые регулирующие мандаты потребуют CISO для навигации по более сложному ландшафту.
Поставщики быстро добавляют функции с поддержкой AI в существующие продукты, а основополагающие LLMS, которые они используют, представляют новую поверхность атаки, которую вредоносные актеры попытаются использовать. CISO должны будут понять их уровень воздействия на эти угрозы и как их смягчить.
Одновременно, динамический ландшафт правил кибербезопасности, особенно в таких регионах, как Европейский Союз и Калифорния, требует расширенного сотрудничества между командами безопасности и юридическими группами для обеспечения соответствия и снижения рисков. Эта сближение новых технологий и законов означает, что CISO должны сбалансировать потребности на уровне соблюдения на уровне совета директоров с новыми проблемами безопасности для защиты своих организаций.
Несмотря на потенциальные проблемы безопасности, связанные с генеративным ИИ, он также предлагает возможности для повышения безопасности процессов разработки программного обеспечения. Упорно выявляя уязвимости и обеспечивая большую автоматизацию, ИИ поможет сократить разрыв между разработчиками и группами безопасности.
Вот три тенденции, которые доминируют в ландшафте безопасности предприятия в 2025 году.
LLMS создает потенциал для широко распространенных инцидентов безопасности
Поставщики программного обеспечения стремятся добавить функции с поддержкой AI в свои продукты, часто используя фирменные основополагающие LLMS. Поскольку злоумышленники начинают находить уязвимости в этих моделях, они откроют новый вектор атаки с потенциально широкомасштабными последствиями. Консолидация отрасли увеличивает риск.
Собственные модели раскрывают мало информации об их происхождении или внутренних ограждениях, что затрудняет их понимание и управление их. Таким образом, злоумышленники могут встраивать вредоносные программы или использовать менее известные поверхности атаки в пространство функций модели.
Поскольку отрасль в значительной степени зависит от нескольких проприетарных LLM, эти атаки могут оказывать каскадные эффекты на протяжении всей экосистемы программного обеспечения, что может привести к широкомасштабным отключениям или воздействиям.
Организации нуждается в высоко адаптивной идентичности
Рост облачных приложений и приложений искусственного интеллекта создает новые проблемы для систем управления идентификацией. В следующем году контроль доступа должен стать более адаптивным для решения повышения нечеловеческих идентификаторов, основанных на обслуживании.
Системы, которые управляют идентичностью и разрешениями, уже переходят от своего традиционного статического состояния в более эфемерную и адаптируемую структуру, отражая ловкость, необходимую для современных цифровых взаимодействий. Эти потребности станут еще больше в предстоящем году.
Приложения, управляемые ИИ, в частности, требуют надежного понимания переходной идентичности. Эти приложения требуют систем, которые обеспечивают безопасный и эффективный доступ, даже когда роли и потребности постоянно развиваются.
Команды безопасности будут масштабировать защиту DevOps с использованием искусственного интеллекта
В недавнем опросе 58% разработчиков заявили, что они чувствуют некоторую степень ответственности за безопасность применения. Тем не менее, спрос на квалифицированные специалисты DevOps в безопасности все еще опережает предложение.
ИИ продолжит демократизирующий опыт безопасности в командах DevOps, автоматизируя рутинные задачи, предоставляя рекомендации по интеллектуальному кодированию и дальнейшее преодоление разрыва в навыках. Безопасность будет интегрирована на протяжении всего конвейера сборки, что позволяет ранней идентификации потенциальных уязвимостей на стадии проектирования путем использования повторных шаблонов безопасности, которые могут быть интегрированы в рабочие процессы разработчиков.
Аутентификация и авторизация также будут улучшены, при этом AI автоматически назначает роли и разрешения, поскольку услуги развернуты в облачных средах.
Чистыми результатами будут улучшенные результаты безопасности, снижение риска и улучшение сотрудничества между разработчиками и их коллегами по безопасности.
Внедрить передовые системы ИИ для борьбы с развивающимися угрозами
Поскольку технологический ландшафт продолжает развиваться, и кибер-угрозы становятся все более изощренными, CISO должны признать новые угрозы, которые ИИ может представлять, принимая решения, используемые с ИИ, чтобы оставаться впереди.
Используя ИИ для автоматизации задач безопасности, выявления уязвимостей и реагировать на угрозы в режиме реального времени, организации могут укрепить свою позицию в области безопасности и оставаться впереди быстро развивающейся ландшафта угроз.
Gitlab является самой полной платформой Devsecops с AI Devsecops для инноваций в программном обеспечении. Gitlab позволяет организациям повысить производительность разработчиков, повысить эффективность эксплуатации, снизить риск безопасности и соответствия, а также ускорить цифровые преобразования. Узнайте больше последних из Gitlab Trending Stories YouTube.com/ThenewStack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Джош Лемос является главным информационным безопасностью в Gitlab Inc., где он приносит 20 -летний опыт ведущего команд информационной безопасности на свою роль. Джош возглавил команды безопасности в многочисленных технологических компаниях с высоким ростом, включая ServiceNow, Cylance и совсем недавно … Подробнее от Josh Lemos
