Протокол контекста модели Anpropic (MCP) зарекомендовал себя как фактическое стандарт для подключения агентов ИИ к инструментам, данным и другим услугам. Но, по крайней мере, в первые годы, безопасность MCP всегда чувствовала себя немного запоздалой мыслью. На этой неделе подкаст The New Stack Agents мы поговорили с Цвикой Шнайдер, генеральным директором и соучредителем Pynt, стартапа, который был запущен с акцентом на обеспечение API, а теперь также включает в себя поддержку для обеспечения сквозной цепочки MCP.
Когда дело доходит до безопасности, Shneider видит MCP как естественную эволюцию API. “End of 90s, 2000-something, we started with web development. After that, around a decade ago, a bit more, a bit less, started moving to APIs. Some of them were old. After a couple years, more modern APIs. And now, in recent years, in the two and a half recent years, we see LLM APIs, and now we see the next jump to MCP and agents. But in the end, everything is a piece of code being compiled and being built,” Шейдер сказал.
Именно использование агентов искусственного интеллекта — и предоставление этим агентам доступ к нескольким серверам MCP — также увеличивает риск безопасности, недавно обнаружили исследования Pynt. Большинство плагинов MCP (72%), обнаружила компанию, раскрывает такие операции, как выполнение кода или вызов API высокопроизводительных аспектов, например, при отсутствии пропущенных контрольных точек и проверки времени выполнения. Реальный риск, однако, заключается в объединении одного агента, который получает ненадежный ввод от сервера MCP с другим, который затем имеет привилегированные права на выполнение. Неудивительно, что чем больше MCP вы добавляете, тем выше риск.
Изображение предоставлено: Pynt.
Частично это связано с тем, что в отличие от традиционных детерминированных API, вызовы MCP производятся агентами ИИ, что затрудняет ограждения вокруг их результатов.
Это не помогает, что у большинства компаний еще нет планов по безопасности MCP, хотя Shneider также отметил, что (к счастью), эксплуатация MCP по -прежнему является редким явлением.
«Основная проблема все еще заключается в безопасности API — она все еще находится вокруг API», — сказал он. «Я думаю, что MCP только что подчеркнул проблемы, потому что теперь у вас больше API, и если теперь есть действительно неконтролируемые данные, отправляющие от одного агента другому агенту, работая вместе со своими собственными рассуждениями, так что это может пойти разными способами. Я могу вам сказать, что прямо сейчас, организации, организации [are] Действительно начинаю работать над их планом. Я не вижу сегодня ни одной организации, которая еще имеет зрелый план безопасности MCP ».
Для нашей полной дискуссии с Shneider, включая сегменты о безопасности LLM и быстрых атак инъекций, как сбалансировать инновации и скорость развития с безопасностью и многое другое, выслушайте наш подкаст или посмотрите нашу запись на YouTube.
Trending Stories youtube.com/thenewstack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Прежде чем присоединиться к новому стеку в качестве старшего редактора для ИИ, Фредерик был редактором предприятия в TechCrunch, где он освещал все, от роста облака и самых ранних дней Kubernetes до появления квантовых вычислений …. Подробнее от Frederic Lardinois
