Президент сигнала Мередит Уиттакер предупредил в пятницу, что агент AI может иметь риск для конфиденциальности пользователей.
Выступая на сцене на конференции SXSW в Остине, штат Техас, адвокат защищенных сообщений, называл использование агентов ИИ как «поместив ваш мозг в банку», и предупредил, что эта новая парадигма вычислений — где ИИ выполняет задачи от имени пользователей — имеет «чрезвычайную проблему» как с частной и безопасностью.
Уиттакер объяснил, как агенты ИИ продаются как способ повысить ценность вашей жизни, выполняя различные онлайн -задачи для пользователя. Например, агенты искусственного интеллекта смогут выполнять такие задачи, как поиск концертов, бронирование билетов, планирование мероприятия в вашем календаре и обмена друзьями, которые он забронирован.
«Таким образом, мы можем просто положить наш мозг в банку, потому что это делает это, и нам не нужно прикасаться к нему, верно?» — размышлял Уиттакер.
Затем она объяснила, какой тип доступа, который агент ИИ должен будет выполнять эти задачи, включая доступ к нашему веб -браузере и способ привлечь его, а также доступ к информации о нашей кредитной карте для оплаты билетов, нашего календаря и приложения для сообщений, чтобы отправить текст вашим друзьям.
«Это должно быть в состоянии управлять этим [process] Во всей нашей системе с чем -то, что выглядит как корневое разрешение, доступ к каждой из этих баз данных — вероятно, в ясном языке, потому что нет модели для этого зашифрованного », — предупредил Уиттакер.
«И если мы говорим о достаточно мощной… модели ИИ, которая питает это, на устройстве нет никакого способа», — продолжила она. «Это почти наверняка отправляется на облачный сервер, где он обрабатывается и отправляется обратно. Таким образом, существует глубокая проблема с безопасностью и конфиденциальностью, которая преследует эту шумиху вокруг агентов, и в конечном итоге угрожает преодолеть гематоэнцефалический барьер между уровнем приложения и слоем ОС, соединяя все эти отдельные услуги [and] Забив их данные », — заключил Уиттакер.
По ее словам, если бы приложение для обмена сообщениями, подобное сигналу, было бы интегрировано с агентами искусственного интеллекта, оно подорвало бы конфиденциальность ваших сообщений. Агент должен получить доступ к приложению, чтобы написать своим друзьям, а также вернуть данные, чтобы обобщить эти тексты.
Ее комментарии последовали за замечаниями, которые она сделала ранее во время панели о том, как была построена индустрия искусственного интеллекта на модели наблюдения с сбором массовых данных. Она сказала, что «чем больше, чем больше, парадигма ИИ» — что означает, что тем больше данных, тем лучше — имели потенциальные последствия, которые, по ее мнению, были хорошими.
С агентом ИИ Уиттакер предупредил, что мы еще больше подрым конфиденциальность и безопасность во имя «бота -магического джина, который позаботится о необходимости жизни», — заключила она.
