Дэнни Аллан видит пивоварение «идеального шторма», когда дело доходит до разработки ИИ и программного обеспечения.
«У вас есть больше кода с более высокой скоростью, чем когда -либо прежде», — сказал новый стек Аллан, технический директор по безопасности разработчиков Snyk Snyk. «У вас есть более сложный код, потому что это AI-нынешние приложения и привлечение новых поверхностей атаки, и, по иронии судьбы, на стороне безопасности у вас также есть злоумышленники, использующие ИИ более опасным образом».
Snyk работает над тем, чтобы сделать бизнес по разработке кода более безопасным для программистов и их организаций с момента его основания 10 лет назад. Компания предлагает одноименную платформу безопасности разработчика, которая охватывает почти все аспекты жизненного цикла разработки программного обеспечения (SDLC), выявляя и решает проблемы безопасности в коде, зависимости с открытым исходным кодом, изображения контейнеров и конфигурации кода (IAC).
«Мы всегда были большими верующими, что вам нужно создать безопасность с самого начала, будь то традиционное программное обеспечение, которое вы создаете, или ваши AI-коленные приложения»,-сказал он.
Учитывая свою историю в Appsec, неудивительно, что Снайк увидел идеальный шторм и решил летать в его сердце. Компания сегодня выпускает свою платформу Trust Snyk AI, тесно интегрированную коллекцию AI-коренных возможностей, которые используют инструменты тестирования, которыми она известна.
Платформа Trust Snyk AI
«Это самый большой запуск в истории компании на сегодняшний день, и он даже не близок», — сказал Аллан. «Один из основных аспектов этого заключается в том, что это платформа для нас.… Когда вы покупаете на платформу, вы, благодаря естественному расширению, получаете все возможности, которые включены в нее. Если я вернусь назад, у нас были Snyk с открытым исходным кодом и код Snyk и Snyk IAC и Snyk Container, и все эти способы обеспечения традиционных приложений, которые эволировали в течение последних лет, есть некоторые, что, по -настоящему, есть некоторые, что -то, что, по -настоящему. Очень настроенный на мир ИИ ».
Безопасная среда разработки
Новая платформа искусственного интеллекта имеет аналогичные функции:
- Snyk Assist: Чат-бот с AI, который включает в себя понимание функций поставщика, рекомендаций по следующему шагу и интеллекта безопасности.
- Агент Snyk (ниже): Агенты безопасности безопасности безопасности, которые управляют автоматическими действиями и исправлениями, основанными на тестирующих двигателях компании.
- Snyk Guard: Обеспечивает управление искусственным интеллектом через ограждения, которые используют изменение факторов риска и автоматически оценивают, применяют и адаптируют политики безопасности в реальном времени.
- Snyk AI Framework: Дает организациям рабочую модель для создания стратегии для безопасной разработки программного обеспечения на основе искусственного интеллекта.
Снежный агент
Лаборатории и студия
Наряду с платформой AI Trust, компания запускает Snyk Labs и Snyk Studio. Snyk Labs станет центральным местом для исследования и экспериментов с генеративными решениями по безопасности искусственного интеллекта, а также будет служить инкубационной средой для связанных технологий. В первых исследовательских усилиях будет рассмотрено управление положениями по безопасности ИИ, включая анализ бил -бил -билля с искусственным интеллектом (AI BOM), чтобы показать модели искусственного интеллекта, встроенные в программное обеспечение.
Snyk также строит реестр рисков -моделей Genai для решения таких рисков, как джейлбрейк, что происходит, когда плохие субъекты создают подсказки, которые позволяют им проскользнуть или переопределять гарантии в моделях крупных языков (LLMS).
Snyk Studio дает разработчикам и поставщикам технологий место для работы со специалистами по безопасности Snyk для внедрения контекста безопасности и контроля в их код и рабочие процессы на основе искусственного интеллекта.
Платформа Snyk повторяет усилия других поставщиков технических технологий, таких как Dell Technologies, с ее летней фабрикой Dell AI, которые стремятся дать разработчикам и другим пользователям инструментов ИИ централизованное место, где они могут найти инфраструктуру и программное обеспечение, в котором они нуждаются, чтобы более легко запускать сборку, развертывание и управление своими инициативами ИИ.
Шторм приближается
Это будет важно, поскольку AI Perfect Storm входит, сказал Снайк Аллан. Первый элемент шторма — широкое использование инструментов ИИ — уже «полностью и полностью на нас», сказал он. Большинство разработчиков используют ИИ в своей работе до той или иной степени, и Аллан говорит, что в рамках клиентской базы Snyk от 85% до 90% приняли помощников по кодированию на основе искусственного интеллекта. Фирма по навыкам разработчиков Hackerrank в отчете в марте, заявила, что 97% разработчиков — от глубоких усыновителей до случайных пользователей — используют эту технологию.
Согласно исследованию рынка Statista, создание кода является наиболее популярным использованием ИИ разработчиками, причем 82% говорят, что они уже делают это, а еще 9,2% говорят, что они заинтересованы. За этим следует поиск ответов: 67,5%программистов используют технологию для таких задач, как отладка и получение помощи (56,7%), документирование кода (40,1%) и создание контента (34,8%).
Второй элемент-разработка AI-нынешних приложений-находится на его более ранних этапах, и Аллан говорит, что где-то между 20% и 50% организаций создают такое программное обеспечение.
«Они балуются с этим, почти все из них, но если вы полностью говорите в производстве, приложения, поддерживаемые LLMS, мы все еще — и, к счастью, — раньше, чем мы бы», — сказал он. «Это не 100% приложений, которые поддерживаются диффузионными моделями или LLMS».
Третий элемент, в котором участвуют злоумышленники, использующие ИИ, труднее понять в широком масштабе, хотя Аллан сказал, что «это не равномерно».
«Мы явно видим ИИ в некоторых атаках, таких как Фишинг», — сказал он. «Мы видим атаки AI-слоистых, идущие за программным обеспечением? Вероятно, все еще первые дни на это. Так что это зависит от типа злоумышленника и типа сегмента или вертикали, в котором вы находитесь. Чтобы сказать, является ли этот шторм полностью накладным расходом, я склонен думать, что мы немного раньше, но мне труднее сказать, и я думаю, что он зависит от версии и индустрии».
Обеспечение ИИ, несмотря на спешку
По словам Сника, необходимо сосредоточиться на безопасности в среде разработки, управляемой ИИ. Компания в прошлом году опубликовала отчет, который обнаружил, что в стремлении присоединиться к рядам пользователей искусственного интеллекта некоторые организации, которые уже использовали инструменты генерации кода ИИ для ускорения разработки приложений либо прикованных, либо игнорируемых лучших практик безопасности.
Например, 58% опрошенных организаций сказали, что безопасность является главным препятствием для принятия инструментов разработчика ИИ, но только 20% из них провели доказательство концепции, прежде чем развернуть варианты кодирования ИИ. Кроме того, только 44% дали своим разработчикам обучение инструментам кодирования искусственного интеллекта.
В то же время, CTO и CISO были в пять раз чаще, чем разработчики, чтобы быть уверенными в безопасности инструментов кодирования искусственного интеллекта и в два раза чаще полагали, что они «чрезвычайно» готовы их принять.
Аллан сказал, что как руководители, так и разработчики стремятся работать с инструментами ИИ, хотя они также чувствуют ответственность за обеспечение безопасности создаваемого кода.
«Быстро двигаться — очень хорошая вещь», — сказал он. «Тем не менее, вы абсолютно хотите соединить это с обоими элементами управления, чтобы убедиться, что вы решаете эти проблемы по мере их выхода, и видимость не только измерять производительность, но и безопасность созданного программного обеспечения».
Агенты ИИ здесь
Эта ответственность будет расти только в том, что в сцену появится все больше агентов искусственного интеллекта. Агенты-это небольшие кусочки кода, которые, в отличие от более известных чат-ботов ИИ, таких как CHATGPT OpenAI, Microsoft Copilot и Google Gemini, работают в основном автономно для решения сложных проблем с небольшим человеческим надзором. Они могут найти необходимые данные, сотрудничают с другими агентами, адаптироваться к изменениям и учиться на ошибках.
Аллан сказал, что агенты ИИ — точно так же, как традиционное программное обеспечение — должны быть в безопасности, отметив, что актеры угроз часто нацелены на личность и полномочия в своих атаках.
«Это особенно верно для агентов, потому что, когда вы попадаете в общение с агентом к агенту, разрешение становится реальной проблемой»,-сказал технический директор. «Как второй агент узнает, за что пользователь разрешен, если он не передается по агентам? Одна из проблем, которые у меня есть в агентском мире, это то, вы защищаете агентов, которых вы создаете для начала?»
Тем не менее, он сомневается в том, что мир готов принять полное исправление исправлений агентами ИИ без некоторого вмешательства человека. Аллан добавил, что «организации хотят, чтобы ручное принятие сгенерированного исправления, а не полностью агентские и полностью автономные для восстановления. По -прежнему не хватает полного доверия к системе ИИ».
Оставаясь на курсе в эпоху ИИ
Аллан сказал, что с помощью своей платформы для AI Trust Snyk, по сути, делает то, что всегда делается — позволяет организациям быстро развиваться и оставаться в безопасности. Только сейчас это делается в эпоху ИИ. Теперь они могут принять инструменты ИИ и связанную скорость, производительность и возможности, и сделать это, доверяя как ИИ, который они используют, так и ИИ, который они создают.
«Если вы спросите меня, к концу этого года я бы сказал, что мы полностью в шторме вокруг помощи в кодировании», — сказал он. «Я ожидаю, что к концу этого года мы будем полностью в этом шторме программного обеспечения AI-немуж. То, что мы на самом деле предоставляем уверенностью, когда они идут в этом направлении, когда этот шторм наступает над головой, что организация может принять это ИИ без бессонных ночей и оказаться в очень неуверенном состоянии».
Trending Stories youtube.com/thenewstack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Джеффри Берт был журналистом более трех десятилетий, последние 20 с лишним лет охватывали технологии. В течение более 16 лет в Eweek и за годы, как в качестве независимого технического журналиста, он рассмотрел все из данных … Подробнее от Джеффри Берта
