Выступая в Федеральной резервной системе сша в прошлом месяце, генеральный директор Openai Сэм Альтман предупредил о «кризисе мошенничества» в том, что ИИ скоро сможет обмануть методы аутентификации, встроенные в большинство заявлений.
«Что -то, что, по -видимому, путает, что все еще есть некоторые финансовые учреждения, которые примут голосовую печать в качестве аутентификации для вас, чтобы переместить много денег или сделать что -то еще — вы говорите фразу, и они просто делают это», — сказал Альтман, как сообщает CNN. «Это безумие, что все еще делать… ИИ полностью победил большинство способов аутентификации в настоящее время, кроме паролей».
Но если ИИ «победил» аутентификацию, как утверждал Альтман, генеральный директор/соучредитель платформы аутентификации Stytch не согласен.
В новом интервью Рид Макгинли-Стеймпель из Stytch рассказал нам, что работает (а что нет) прямо сейчас в секторе аутентификации. И да, если исторические тенденции повторяются, ИИ может дать плохим актерам несколько новых инструментов, но это только первый этап.
Таким образом, в то время как Альтман предсказывает «значительный надвигающийся кризис мошенничества», в этой истории есть другая сторона. ИИ также помог Stytch укрепить свои решения для аутентификации «под капюшоном», говорит их генеральный директор — и однажды может даже дать защитникам.
Худший и лучший
Генеральный директор Openai сначала предупредил, что некоторые финансовые учреждения по -прежнему используют голосовые отпечатки для аутентификации, несмотря на то, что исследователи обнаруживают способы обойти его. И генеральный директор Stytch сказал: «Я искренне согласен. Это один из худших методов аутентификации». (ИИ уже может генерировать реалистичные глубины — так как сложно было бы достаточно, чтобы познакомиться с образцами звука чьего -то голоса, чтобы обойти систему голосовой безопасности?)
Но он не согласен с утверждением Альтмана о том, что «ИИ полностью победил большинство способов аутентификации в настоящее время, кроме паролей…». Например, один общий способ аутентификации — «то, что у вас есть» — например, как финансовые сайты предлагают запомнить ваше устройство. Даже если ИИ может имитировать ваш голос или воспроизвести ваше лицо — было бы гораздо сложнее изготовить уникальную подпись IP -адреса вашего устройства и хранимых файлов cookie. И это особенно полезно, так как большая часть мошенничества происходит удаленно в Интернете.
«ИИ не сможет победить это…»,-говорит Макгинли-Стерпел. Независимо от того, насколько хорошими инструментами искусственного интеллекта станут: «Одна вещь, которую вы все еще можете контролировать с помощью только текущей технологии… вы можете решить:« Это аутентификация поступает с того же устройства, в котором она ранее была зарегистрирована? », А затем соединить это с биометрическими пассами — будь то связано с вашим устройством или просто синхронизирована с вашей учетной записью iCloud. Даже в нашем мире, ограниченном ресурсами, «Честно говоря, это довольно легко сделать для компаний».
Защитят ли вас пароли?
McGinley-Stempel не согласен с замечаниями Альтмана по-другому. «Я не согласен с ним, что пароли — последняя великая надежда — это не так». Дело не в том, что ИИ также имеет суперспособности для вычета вашего пароля. Но «проблема, которую я вижу, заключается в том, что фишинговые усилия становятся намного более изощренными».
Компания по кибербезопасности DarkTrace обнаружила один неожиданный побочный эффект от прибытия CHATGPT: фишинговые электронные письма внезапно начали становиться лучше. Они дольше, более лингвистически сложны и просто более убедительны. Контрольные сигналы, такие как плохая грамматика и общие английские ошибки, будут менее частыми, отмечает McGinley-Stempel.
Но ИИ помогает злоумышленникам другими способами. «Другая вещь, которую мы видим, — это больше фишинговых веб -сайтов, которые должны быть сняты, чем когда -либо — потому что любой может пойти на код атмосфера фальшивой целевой страницы« Банка Америки »!» И это не только веб-сайты, фишинговые для паролей или пас-коды, которые поставляются с телефонами, но также также сгенерированные AI электронные письма и текстовые сообщения. Были даже сообщения о новостях о фальшивых голосовых звонках с использованием инструментов голосовой клонирования с AI.
Stytch в основном работает над решениями аутентификации, поэтому McGinley-Stempel признает, что он просто не имеет хорошего понимания того, как другие игроки обеспечивают идентификации наших правительственных идентификаций. Хотя «если люди начнут создавать фальшивые свидетельства о рождении, паспорта, лицензии — я уверен, что правительство в какой -то момент наверстает упущенное. Но мне интересно, сколько времени это займет».
Когда мошенничество становится демократизируется …
Говоря в более общем плане, Макгинли-Стампель говорит, что с мошенничеством с AI-Power произошли большие изменения. «Это демократизирует кодирование, и поэтому он демократизирует злоупотребление». (Хотя трудно сказать, увеличатся ли мошеннические субъекты в 10 раз или 100 раза, существует явная возврат инвестиций, особенно в странах, где существует «низкое соблюдение» судебных преследований против мошенников, нацеленных на людей в других странах.)
«Я действительно думаю, что Крессендо собирается приземлиться»,-говорит он, хотя «я не знаю, будет ли это в следующем месяце, в следующем году…», но он обеспокоен тем, что выпуск CHATGPT-5 может принести «огромное изменение».
Безопасность — это проблема, которую люди склонны начинать путь, пока не произойдет серьезный инцидент, который «по всему циклу новостей… обычно меняется, а затем на самом деле происходит». Будь то правительственные агентства или компании, нуждающиеся в безопасности, «мне кажется, что мы находимся в той части кривой мошенничества, где на самом деле многие люди видят это, но многие люди также очень заняты другими вещами, которые они делают». Они могут делать вещи, которые «помогают в некоторой степени», говорит Макгинли-Стеймпел, но «они, вероятно, просто не решают конечный риск».
Это общий принцип многих новых технологий. «Как правило, мы находим, что мошенники принимают новые технологии быстрее, чем законные пользователи… и защитники в конечном итоге, как правило, доставляют его до достаточно хорошего застава, где все в порядке … после этого есть своего рода равновесие».
Часть, о которой он беспокоится, — это первый этап. Что происходит, когда мошенники принимают сегодняшние передовые инструменты, и «ИИ дает им сверхспособности-это расширяется, кто может быть актером мошенничества».
И даже тогда — исторический параллельный повтор с ИИ? «Я не знаю, что произойдет так или иначе»,-признает Макгинли-Стерпел, но ИИ «чувствует себя как другой зверь».
Просто чтобы проиллюстрировать этот момент, представьте себе сценарий, в котором мы наконец разработали искусственный общий интеллект — и где мошенники быстрее используют его, чем защитники. Есть вероятность того, что «даже если защитники догонят — вы знаете, через год, через шесть месяцев — это все еще много места для повреждений с точки зрения чего -то, что происходит очень, очень неправильно».
ИИ борьба с ИИ?
Но это не все плохо. «ИИ собирается создать кризис мошенничества, но он также удалит много скука из жизни людей»,-говорит Макгинли-Стерпел. «Один из инструментов, который мы имеем, позволяет конечным пользователям аутентифицировать агентов искусственного интеллекта, работать от их имени… как хорошие, санкционированные агенты ИИ!»
И что интересно, так это то, что Stytch на самом деле использует машинное обучение, чтобы помочь отразить нежелательные агенты ИИ (а также скребки, которые питают LLM).
Платформа аутентификации Stytch всегда позволяла создать «действительно, действительно безопасен, но также также регистрация и вход в систему». (Это включает в себя поддержку общих стандартов, таких как пароли Google, и Apple Face Id и Touch Id.) Но, помимо этого, есть также их дополнительная технология по мельнице бота, которую McGinley-Stempel говорит: «Помогает нам отпечатки пальцев каждый кусок трафика, который приходит на сайт нашего клиента-скажите вам, это то же самое устройство, которое вы видели ранее. Скрипт бот …?
Но теперь они обучают свою модель на каждой версии основных веб -браузеров — уходя за десятилетия — «на самом широком наборе возможных эмулированных устройств, на которых реальный пользователь запустит эти браузеры». По сути, это создает «проверенный набор для каждой версии каждого браузера — как выглядит точный профиль отпечатков пальцев?» Это позволяет Stych автоматически обнаружить любой подозрительный «дрейф» из их «проверенных доказательств».
Короче говоря, Макгинли-Стеймпель говорит: «ИИ и ML помогают нам создать лучший тест« детектора лжи »на трафик в Интернете».
В то время как некоторые другие компании могут использовать машинное обучение для таких вещей, как проверка ответов Captcha, «я не слышал, чтобы кто -то делал то, что мы делаем на стороне браузера. Мы приносим ML и AI… чтобы определить реальные и поддельные браузеры!»
Макгинли-Стерпель называет это с помощью AI «под капюшоном…
Безопасность против стоимости
По словам Макгинли-Стопеля, не вопрос того, будут ли у нас есть технология для аутентификации. «Я беспокоюсь о том, всегда будет ли он достаточно дешевым, чтобы каждое приложение и веб -сайт оставался в безопасности». Компании должны рассчитать свой бюджет безопасности-в конце концов, некоторые сайты не будут атакованы «так же горячо, как и другие…»,-признает Макгинли-Стерпел. «Это почти как будто вы являетесь андеррайтером для своего собственного риска. Если вы ошибаетесь в этом расчете, именно здесь вы все еще увидите нарушения в новостях и тому подобном…»
Между тем, злоумышленники также рассчитывают их предполагаемую отдачу от инвестиций. Таким образом, в середине этих двух расчетов «Потому что это дорого, если они хотят, чтобы мы использовали ИИ, чтобы постоянно защищаться от ИИ — это станет как проблема теории игры».
Но генеральный директор Stytch по -прежнему видит некоторую надежду на будущее.
Есть шутка, которая заканчивается: «Мне не нужно быть быстрее, чем медведь. Мне просто нужно быть быстрее, чем другой парень, бегущий от медведя». И вот как много компаний думают о безопасности, говорит Макгинли-Стеймпель,-надеясь, что кто-то еще в конечном итоге станет более легкой целью. «Это всегда было так, на самом деле».
Но на пороге чего -то лучшего? Как только мы внесли свои коррективы к нападающим с двигателем AI, «ИИ теоретически дает нам неограниченное человеческое время, если мы хотим инвестировать в это-для изучения проблем. Например, темные веб-форумы, где люди обычно говорят о том, как они обманывают разные сайты и разные люди».
И поэтому «я думаю, что это возможно», — говорит генеральный директор Stytch, глядя в будущее. «Хотя я не знаю, абсолютно ли мы сделаем это, возможно, мы в конечном итоге создадим гораздо более безопасный слой в Интернете в ближайшие несколько лет.
«Даже если у нас будет кризис мошенничества, этот воздушные шары в первые 6-12 месяцев…». ».
Короче говоря, ИИ может предложить все ресурсы, которые нам нужны — дешево и в масштабе — наконец -то построить мир, который аутентифицирован и безопасен для всех.
Мир, где оба человека могут, наконец, опередить медведя.
Trending Stories youtube.com/thenewstack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Дэвид Кассель — гордый житель района залива Сан -Франциско, где он освещал технологические новости более двух десятилетий. За эти годы его статьи появлялись повсюду от CNN, MSNBC и The Wall Street Journal Interactive … Подробнее от Дэвида Касселя
