OpenAI сталкивается с еще одной жалобой на конфиденциальность в Европе из -за тенденции вирусного ИИ чат -бота галлюцинировать ложную информацию — и это может оказаться сложно для регуляторов игнорировать.
Группа по защите прав конфиденциальности Noyb поддерживает человека в Норвегии, который был в ужасе, обнаружив, что CHATGPT возвращается на выводящую информацию, которая утверждала, что он был осужден за убийство двоих своих детей и пыталась убить третью.
Более ранние жалобы на конфиденциальность на генерацию неверных личных данных CATGPT включали такие проблемы, как неверная дата рождения или биографические детали, которые неверны. Одна из проблем заключается в том, что OpenAI не предлагает людям, чтобы исправить неверную информацию, которую ИИ генерирует о них. Обычно OpenAI предложил блокировать ответы для таких подсказок. Но в соответствии с Общим правилом защиты данных Европейского Союза (GDPR) европейцы имеют набор прав доступа к данным, которые включают право на исправление персональных данных.
Другой компонент этого закона о защите данных требует от контроллеров данных, чтобы убедиться, что личные данные, которые они производят о людях, являются точными — и это касается Noyb, отмечая свою последнюю жалобу CHATGPT.
«GDPR ясен. Персональные данные должны быть точными», — говорится в заявлении Джоакима Сёдерберга, адвоката по защите данных в NOYB. «Если это не так, пользователи имеют право изменить его, чтобы отразить правду. Показывая пользователям CHATGPT крошечный отказ от ответственности, что чат -бот может сделать ошибки ясно недостаточно. Вы не можете просто распространять ложную информацию и в конце концов добавить небольшой отказ от ответственности, говоря, что все, что вы сказали, может просто не правдоподобно».
Подтвержденные нарушения GDPR могут привести к штрафам до 4% глобального годового оборота.
Принудительное исполнение также может привести к изменениям в продуктах искусственного интеллекта. Примечательно, что раннее вмешательство в GDPR, проведенное сторожевым псом в Италии, в результате которого CHATGPT был временно заблокирован в стране весной 2023 года, чтобы внести изменения в информацию, которую она раскрывает пользователям. Впоследствии сторожевой пейзаж продолжил точный Openai 15 миллионов евро для обработки данных людей без надлежащей юридической основы.
С тех пор, однако, справедливо сказать, что наблюдатели за конфиденциальностью по всей Европе приняли более осторожный подход к Genai, поскольку они пытаются выяснить, как лучше всего применить GDPR к этим жужвым инструментам искусственного интеллекта.
Два года назад Ирландия Комиссия по защите данных (DPC), которая играет ведущую роль по обеспечению соблюдения GDPR в предыдущей жалобе NOYB CHATGPT, например, настоятельно призывала спешить с запретом на инструменты Genai. Это говорит о том, что регулирующие органы должны понадобиться время, чтобы выяснить, как применяется закон.
И примечательно, что жалоба на конфиденциальность в отношении CHATGPT, которая была расследована наблюдением по защите данных Польши с сентября 2023 года, по -прежнему не приняла решения.
Новая жалоба Noyb Catgpt выглядит предназначена для того, чтобы погасить регуляторы конфиденциальности, проснувшись, когда дело доходит до опасностей галлюцинирования AIS.
«Дело шокировало местное сообщество…»
Некоммерческая организация поделилась (ниже) снимком экрана с TechCrunch, который показывает взаимодействие с CHATGPT, в котором ИИ отвечает на вопрос с вопросом: «Кто такой Арв Хьялмар Холмен?» — Имя человека, приносящего жалобу, — создавая трагическую фантастику, которая ложно заявляет, что он был осужден за убийство детей и приговорен к 21 год тюрьмы за убийство двух своих сыновей.
Хотя клеветническое утверждение о том, что Хьялмар Холмен является убийцей ребенка, является совершенно ложным, Нойб отмечает, что ответ Чатгпта включает в себя некоторые истины, поскольку у рассматриваемого человека есть троих детей. Чатбот также правильно понял пол своих детей. И его родной город правильно назван. Но это просто делает все более странным и тревожным, что ИИ галлюцинировал такую ужасную ложь на вершине.
Представитель NOYB сказал, что они не смогли определить, почему чат -бот произвел такую конкретную, но ложную историю для этого человека. «Мы провели исследование, чтобы убедиться, что это не просто смешивание с другим человеком»,-сказал представитель, отметив, что они изучали архивы газеты, но не смог найти объяснение того, почему ИИ сфабриковал детские убийства.
Большие языковые модели, такие как тот, который лежат в основе CHATGPT, по сути, выполняют предсказание следующего слова в обширном масштабе, поэтому мы могли бы предположить, что наборы данных, используемые для обучения инструмента, содержали множество историй о филицидке, которые повлияли на выбор слова в ответ на запрос о названном человеке.
Независимо от объяснения, ясно, что такие результаты совершенно неприемлемы.
Утверждение Нойба также заключается в том, что они незаконны в соответствии с правилами защиты данных ЕС. И хотя OpenAI действительно отображает крошечный отказ от ответственности внизу экрана, в котором говорится: «Чатгпт может совершать ошибки. Проверьте важную информацию», говорится, что это не может освободить разработчика ИИ своего обязанности при GDPR, чтобы не создавать вопиющую ложь о людях.
Openai связался для ответа на жалобу.
В то время как эта жалоба GDPR относится к одному названному человеку, NOYB указывает на другие случаи, когда Chatgpt Fabricing Legally Compromeming Information — такая как австралийский майор, который сказал, что он был замешан в скандале с взяточничеством и коррупцией или немецким журналистом, который был ложно назван в качестве обидчика ребенка — заявив, что это ясно, что это не является подготовленной проблемой для инструмента AI.
Одна важная вещь, которую следует отметить, заключается в том, что после обновления основной модели ИИ, питающей чат, Нойб говорит, что чат -бот перестал создавать опасную ложь о Хьялмаре Холмене — изменение, которое он связан с инструментом, ищущим Интернет, чтобы получить информацию о людях, когда они спрашивают, кто они (в то время как ранее, пустые в его наборе данных, предположительно, поощряли его на всеобщее решение).
В наших собственных тестах спрашивают ЧАТГПТ: «Кто такой Арв Хьялмар Холмен?» Первоначально CHATGPT ответил немного странным комбо, отображая несколько фотографий разных людей, по -видимому, полученных на сайтах, включая Instagram, SoundCloud и Discogs, наряду с текстом, который утверждал, что «не может найти никакой информации» на индивидууме с этим именем (см. Наш снимок экрана ниже). Вторая попытка обнаружила ответ, который идентифицировал Арв Хьялмар Холмен как «норвежский музыкант и автор песен», в которые входят альбомы «Хонки Тонк Инферно».
ЧАТГПТ Стрелок: Наташа Ломас/TechCrunch
В то время как CHATGPT, сгенерированная опасной ложью, о Хьялмаре Холмен, похоже, остановились, и Нойб, и Хьялмар Холмен по-прежнему обеспокоены тем, что неверная и клеветническая информация о нем могла быть сохранена в модели ИИ.
«Добавление отказов от ответственности, что вы не соблюдаете закон, не заставляет закон исчезнуть», — отметил в заявлении Kleanthi Sardeli, еще одного адвоката по защите данных в NOYB. «Компании ИИ также могут не просто« скрыть »ложную информацию от пользователей, в то время как они по -прежнему обрабатывают ложную информацию».
«Компании ИИ должны перестать вести себя так, как будто GDPR не относится к ним, когда это ясно», — добавила она. «Если галлюцинации не останавливаются, люди могут легко нанести репутационный ущерб».
Noyb подал жалобу на Openai в Норвежское управление по защите данных — и надеется, что сторожевой пейзаж решит, что он компетентен для расследования, поскольку OYB нацелена на жалобу на организацию Openai в сша, утверждая, что его офис Ирландии не несет исключительно ответственности за решения о продукте, влияющие на европейцев.
Однако ранее поддерживаемая NOYB жалоба GDPR на OpenAI, которая была подана в Австрии в апреле 2024 года, была направлена регулятором в DPC Ирландии из-за изменений, внесенных OpenAI в начале этого года, чтобы назвать его ирландское подразделение в качестве поставщика услуги CHATGPT для региональных пользователей.
Где эта жалоба сейчас? Все еще сижу на столе в Ирландии.
«Получив жалобу от австрийского надзорного органа в сентябре 2024 года, DPC начал официальную обработку жалобы, и она все еще продолжается», — сказал TechCrunch, когда его просили обновление.
Он не предложил никакого управления, когда ожидается, что расследование галлюцинаций CHATGPT DPC.
