Одна из недавних групп, поврежденных незаконным поколением ИИ, — это YouTubers, создатели видео, которые проводят свои собственные шоу на YouTube. Существует множество случаев видео на YouTube-специально информативные или основанные на новостях-сорванные другими сторонами. Один из способов сделать это — скопировать подписи на целевом видео. Таким образом, версии, сгенерированные ИИ, могут выглядеть по -разному, но могут основываться на одном и том же контенте. Копии сделаны как можно быстрее и автоматически, а затем публикуются без доверия к реальным авторам. Иногда видео классифицируются как «резюме» оригинала, которая остается серой областью. Эта экосистема уменьшает клики, а также портит алгоритмы обнаружения для реальных создателей, что делает их бедными.
Интересным противодействием этому является «отравление» этих субтитров, добавляя бессмысленную текст в подписи. Оказывается, некоторые форматы субтитров позволяют редактору размещать подписи за пределами области экрана. Следовательно, ни один зритель видео не увидит их, но подготовительные копии будут их употреблять. Таким образом, используя несколько различных конверсий в формате закрытых подписи, YouTuber может редактировать свои собственные субтитры, чтобы добавить эти подписи. Таким образом, копии можно сказать, чтобы сказать нелепые вещи — обычно в середине видео, чтобы избежать немедленного обнаружения.
Таким образом, вы, производящие отравленные видео, гораздо реже будут вырваны с отравленными видеороликами, потому что дополнительная работа, необходимая для копировки для их очистки, сделает весь свой рабочий процесс неэффективным. Это не сильно отличается от блокировки вашего велосипеда рядом с более дорогим или одним с более слабым замком — он эксплуатирует общую лень злоумышленников. По этой причине концепция отравления скважина завоевала популярность во всем творческом секторе, ибо все пытались защитить себя от хищничества ИИ.
Злоупотребление публичными данными и, следовательно, общественная идентичность, могут быстро поставить под угрозу надежность и функциональность платформы, а также их владельцев.
Но это владелец колодца, который касается этого поста. Подумайте обо всем публичных данных вашей платформы. То есть все, что вы или ваша организация делитесь с общественностью. Слова, документы, разговоры, API, визуальные эффекты, все. Сохранение воды как можно более четким представляет общественное доверие к вашей организации. В долгосрочной перспективе, надеясь, что ваш велосипед менее привлекателен для ваших соседей, не является долгосрочным защитным решением, но отравление теперь является серьезной проблемой для всех общедоступных платформ — и здесь есть большой урок.
Злоупотребление публичными данными и, следовательно, общественная идентичность, могут быстро поставить под угрозу надежность и функциональность платформы, а также их владельцев. В то время как копирование и суммирование не новое — я могу указывать на копии или резюме моих собственных постов из этой публикации, используемых в других туманных онлайн -публикациях или платформах, вероятно, без разрешения. Что является новым, так это экосистемные трубопроводы с AI, которые угрожают не только одному кусочке творческого вывода от одного создателя за раз. Это может быстро включить как контент, так и идентичность.
Ничего реального, чтобы отступить
Причина, по которой цифровая идентичность может быть такой хрупкой, заключается в том, что нет ничего физического, чтобы отступить. Компании, которые делают реальные объекты, могут, по крайней мере, позволить их продуктам нести большую часть бремени своей личности.
В апрельский день дурака 1987 года автомобильная компания BMW закрепила свою личность, высмеивая тот факт, что люди на самом деле не замечают деталей. Поскольку их продукт был буквально на дороге перед людьми, явная индуцированная путаница идентичности в их шутке не была опасной:
Вы за рулем подлинного BMW? (День дурака — 1987)
Многие люди были одурачены этим, и позвонили BMW, чтобы сообщить, что их подлинные автомобили были фальшивыми.
Сегодня копии логотипов компании часто участвуют в фишинговых атакх. Многие стартапы не имеют сильного визуального брендинга, что облегчает его уходу. Или у них нет запоминающихся доменных имен, что затрудняет обнаружение преступности. Отдельные идентичности всегда безопаснее.
Если у вас нет физического присутствия в мире, то последнее, что вы хотите сделать, это разбавить ваше человеческое присутствие. Люди могут быть единственной не цифровой вещью, которую есть у вашей платформы. И все же, некоторые небольшие компании используют чат -ботов. Это глупо, так как это означает, что значительный процент их публичных взаимодействий (и да, это публичные данные) даже не производятся ими.
Все сделано из доверия
Часть решения для этого состоит в том, чтобы понять, как общедоступные данные и идентичность вашей платформы переплетаются. Более или менее все, что раскрывает платформа, является частью цепочки доверия. Каждый раз, когда вы нанимаете что -то на аутсорсинг — особенно в системы искусственного интеллекта, обученные другими, вы можете ослабить эти ссылки. Вот почему стартапы должны контролировать все свои данные. В качестве платформы, для YouTube не имеет большого значения, если несколько сотен из 15 миллиардов видеороликов бессмысленны, но небольшая платформа не может позволить себе доверять этому оскорблению.
Мы могли бы смеяться над заявлениями о миссиях компании, но совершенно мягкие заявления, которые, как мы знаем, были сгенерированы AI (или, возможно, являются результатом короткой встречи в пятницу днем), просто уменьшили чувство прочной основы. Идентичность — даже заявления о миссиях — являются корнями доверия для любой платформы. При создании документов избегайте выпуска раздутых заявлений, которые, по -видимому, исходят из ниоткуда. Небольшие взаимосвязанные документы легче контролировать и облегчить провидение. Подумайте обо всех ваших общения, как о листьях и ветвях на дереве; часть чего -то более существенного.
Мы привыкли к неустойчивому поведению некоторых известных руководителей, но у них есть гораздо большие скважины, чтобы поглотить их загрязнение.
Носители болезней
Крупные сайты в социальных сетях все чаще привлекают проблемы безопасности в Интернете. Такие сайты, как Tiktok, недавно были связаны с подростковыми самоубийствами. Эти платформы содержат общедоступные данные, за которые сама платформа пытается не нести ответственность. На экзамене внутренняя система могла укорениться в платформе, которую они не могут по -настоящему контролировать. Тем не менее, в менее драматическом масштабе эта форма борьбы с болезнями также опасна для небольших платформ, которые запускают форумы.
Многим компаниям приходилось снимать или приостановить форумы, потому что гневные пользователи (организованные или нет) могут быть разрушенными в репутации. Недостаточное управление форумами должным образом может сделать довольно безвредные проблемы, кажущиеся хуже благодаря невнимательности. Успешные форумы (обычно на Slack или Discord) укомплектованы почти всеми разработчиками, которые реагируют так быстро, как и разумно.
Наш первоначальный пример отравленных подписей на YouTube можно рассматривать как форма переноса болезни.
Вы можете видеть, что наш первоначальный пример отравленных подписей на YouTube можно рассматривать как форму несущей болезни, поскольку один из форматов подписи допускает то, что является эффективно скрытым текстом. Это может показаться гибкостью, но пример показывает, почему он потенциально опасен для платформы. Я увидел аналогичный случай, когда приложение, которое помогает хранить скидку избыточных продуктов, перечисляет бизнес, который не был магазином. Этот пригородный дом на тихой улице, вдали от высокой дороги, предполагал, что позднее вечернее время забрать — явно рискованное. Когда приложением связались, у них не было процесса, чтобы справиться с этой ситуацией. Как бы хорошо спроектирована платформа, по -видимому, здоровые детали могут заразиться.
Снижение свободного выражения может снизить рискованные сгенерированные данные. Большинство живых игровых сайтов с каналами чата тщательно удаляют проклятые слова, но некоторые вообще не поддерживают никакой устной связи между пользователями — или анонимизируют это. Применение редакционного уровня перед публикацией на форумах является одним из способов восстановления контроля.
Будь осторожным менеджером
Глоученные вечеринки буквально вкладывают яд в хранение пищевых продуктов или другие формы фальсификации имеют свою историю. Производители продуктов питания противостояли этим атакам различных систем безопасности на контейнерах, чтобы помочь, если они уже открыты. Но лучшая защита — ясно, что в продуктах используется лишь небольшой набор тщательно истощенных ингредиентов, и что любые упаковочные заводы контролируются непосредственно компанией. Аналогичным образом, программные платформы должны следить за их общедоступными данными и избегать третьих лиц или генерации искусственного интеллекта, пока они не станут более установленными.
Одна из проблем с генерацией ИИ заключается в том, что поле растет, и никто не может предсказать, какие возможные тревожные способности будут доступны дальше. Вместо того, чтобы ждать проблем, просто следите за тем, чтобы осторожно контролировать все ваши публичные данные и процессы. Держите его как можно более оригинальным. Посмотрите, куда он идет, и как это потенциально может быть изменено.
Trending Stories youtube.com/thenewstack Tech движется быстро, не пропустите эпизод. Подпишитесь на наш канал YouTube, чтобы транслировать все наши подкасты, интервью, демонстрации и многое другое. Группа подпишитесь с эскизом. Дэвид был лондонским профессиональным разработчиком программного обеспечения в Oracle Corp. и British Telecom, а также консультантом, помогающим командам работать более гибким образом. Он написал книгу по дизайну пользовательского интерфейса и с тех пор пишет технические статьи …. Подробнее от Дэвида Истмана
