OpenAI меняет то, как он обучает модели ИИ, чтобы явно охватывает «интеллектуальную свободу… независимо от того, насколько сложной или спорной может быть тема», — говорит компания в новой политике.
В результате CHATGPT в конечном итоге сможет ответить на большее количество вопросов, предложить больше перспектив и уменьшить количество тем, о которых не будет говорить чат -бот искусственного интеллекта.
Изменения могут быть частью усилий Openai по приземлению в хорошей грации новой администрации Трампа, но, похоже, это также является частью более широкого сдвига в Силиконовой долине и того, что считается «безопасностью ИИ».
В среду Openai объявила об обновлении своей модели Spec, 187-страничного документа, который излагает, как компания обучает моделей искусственного интеллекта для ведения вести себя. В нем Openai обнародовал новый руководящий принцип: не лги, либо делая неверные заявления, либо путем пропущения важного контекста.
В новом разделе под названием «Ищите правду вместе», Openai говорит, что хочет, чтобы Chatgpt не занимал редакционную позицию, даже если некоторые пользователи считают это морально неправильным или оскорбительным. Это означает, что CHATGPT предложит несколько точек зрения на спорные предметы, все в попытке быть нейтральным.
Например, компания говорит, что Chatgpt должен утверждать, что «Black Lives Matter», но также и что «все жизни имеют значение». Вместо того, чтобы отказываться отвечать или выбирать сторону по политическим вопросам, Openai говорит, что хочет, чтобы Chatgpt подтвердил свою «любовь к человечеству» в целом, а затем предложил контекст о каждом движении.
«Этот принцип может быть спорным, так как это означает, что помощник может оставаться нейтральным по темам, которые некоторые считают морально неправильным или оскорбительным», — говорит Openai в спецификации. «Тем не менее, цель помощника ИИ — помочь человечеству, а не сформировать его».
Эти изменения можно рассматривать как ответ на консервативную критику о гарантиях CHATGPT, которые всегда казались левые в центре. Тем не менее, представитель OpenAI отвергает идею, что он вносит изменения в утилизацию администрации Трампа.
Вместо этого компания заявляет, что ее принятие интеллектуальной свободы отражает «давнюю веру Openai в предоставлении пользователям большего контроля».
Но не все видят это таким образом.
AI-censorship»>Консерваторы утверждают, что цензура ИИ
Ближайшие доверенные лица Трампа, в том числе Дэвид Сакс, Марк Андрейесс и Элон Маск, все за последние несколько месяцев обвинили Openai в преднамеренной цензуре ИИ в течение последних нескольких месяцев. В декабре мы написали, что команда Трампа создает основу для того, чтобы цензура ИИ стала следующей культурной войной в Силиконовой долине.
Конечно, Openai не говорит, что он занимался «цензурой», как утверждают советники Трампа. Скорее, генеральный директор компании, Сэм Альтман, ранее заявил в посте на X, что предвзятость Chatgpt была неудачным «недостатком», который компания работает над тем, чтобы исправить, хотя он отметил, что это займет некоторое время.
Альтман сделал этот комментарий сразу после распространения вирусного твита, в котором Чэтгпт отказался написать стихотворение, восхваляющее Трампа, хотя он выполнит действие для Джо Байдена. Многие консерваторы указали на это как пример цензуры ИИ.
Хотя невозможно сказать, действительно ли OpenAI подавлял определенные точки зрения, это совершенно факт, что чат -боты искусственного интеллекта наклоняются влево через доску.
Даже Элон Маск признает, что чат -бот Xai часто более политически корреклен, чем он хотел бы. Дело не в том, что Грок был «запрограммирован, чтобы разбудить», но, скорее всего, реальность обучения ИИ в открытом Интернете.
Тем не менее, Openai теперь говорит, что он удваивается на свободе слова. На этой неделе компания даже удалила предупреждения из CHATGPT, которые сообщают пользователям, когда они нарушают ее политику. Openai сказал TechCrunch, что это было чисто косметическим изменением, без изменений в результатах модели.
Компания заявила, что хочет сделать CHATGPT «чувствовать» цензуры для пользователей.
Было бы не удивительно, если Openai также попытался произвести впечатление на новую администрацию Трампа с помощью этого обновления политики, отмечает бывший лидер политики Openai Майлз Брундаж в посте в X.
Ранее Трамп предназначался для компаний Силиконовой долины, таких как Twitter и Meta, за то, что имели активные команды модерации контента, которые, как правило, закрывают консервативные голоса.
Openai может пытаться выйти перед этим. Но в Силиконовой долине и в мире искусственного интеллекта происходит больший сдвиг в отношении роли модерации содержания.
Генерируя ответы на все удовольствие
Открытые места, платформы социальных сетей и поисковые компании исторически изо всех сил пытались предоставить информацию своей аудитории таким образом, чтобы они чувствовали себя объективным, точным и интересным.
Теперь поставщики чат -ботов ИИ занимаются тем же информационным бизнесом по доставке, но, возможно, с самой сложной версией этой проблемы: как они автоматически генерируют ответы на любой вопрос?
Предоставление информации о спорных событиях в реальном времени является постоянно движущейся целью, и она включает в себя принятие редакционных позиций, даже если технологические компании не любят его признать. Эти позиции обязаны расстроить кого -то, пропустить точку зрения какой -то группы или дать слишком много воздуха какой -то политической партии.
Например, когда OpenAI обязуется позволить CHATGPT представлять все перспективы по спорным предметам, включая теории заговора, расистские или антисемитские движения или геополитические конфликты, что по своей сути является редакционной позицией.
Некоторые, в том числе соучредитель Openai Джон Шульман, утверждают, что это правильная позиция для Chatgpt. Альтернатива-анализ затрат и выгод, чтобы определить, должен ли AI чат-бот ответить на вопрос пользователя-может «дать платформе слишком много морального авторитета»,-отмечает Шульман в посте на X.
Шульман не один. «Я думаю, что Openai прав, чтобы продвигаться в направлении большего количества речи», — сказал Дин Болл, научный сотрудник Mercatus Center Университета Джорджа Мейсона, в интервью TechCrunch. «По мере того, как модели ИИ становятся умнее и более важны для того, как люди узнают о мире, эти решения становятся более важными».
В предыдущие годы поставщики моделей искусственного интеллекта пытались помешать своим чат -ботам для ответов на вопросы, которые могут привести к «небезопасным» ответам. Почти каждая компания по искусственному искусству помешала своим AI Chatbot ответить на вопросы о выборах в 2024 году для президента сша. В то время это широко считалось безопасным и ответственным решением.
Но изменения OpenAI в ее модель Spec предполагают, что мы можем вступить в новую эру для того, что на самом деле означает «безопасность ИИ», в которой позволяет модели ИИ отвечать на что -либо и все, что считается более ответственным, чем принятие решений для пользователей.
Болл говорит, что это частично потому, что модели ИИ сейчас просто лучше. OpenAI добился значительного прогресса в выравнивании модели искусственного интеллекта; Его последние модели рассуждений думают о политике безопасности ИИ в области ИИ, прежде чем отвечать. Это позволяет моделям ИИ давать лучшие ответы на деликатные вопросы.
Конечно, Элон Маск был первым, кто внедрил «свободу слова» в чат -бот Xai, возможно, до того, как компания действительно была готова справиться с чувствительными вопросами. Это все еще может быть слишком рано для руководства моделями ИИ, но теперь другие используют ту же идею.
Изменение значений для Силиконовой долины
Марк Цукерберг сделал волны в прошлом месяце, переориентируя предприятия Meta вокруг принципов Первой поправки. Он высоко оценил Элона Маск, заявив, что владелец X принял правильный подход, используя заметки сообщества-программу модерации контента, управляемая сообществом,-для защиты свободы слова.
На практике и X, и Meta в конечном итоге демонтировали свои давние команды доверия и безопасности, предоставив более спорные посты на своих платформах и усиливая консервативные голоса.
Изменения в X повредили его отношения с рекламодателями, но это может быть больше связано с Маск, который сделал необычный шаг, предъявляющий иск некоторым из них за бойкотирование платформы. Ранние признаки указывают на то, что рекламодатели Meta были невозмутимы от Pivot о свободе слова Цукерберга.
Между тем, многие технологические компании, выходящие за рамки X и Meta, пошли назад из политики левых, которые доминировали в Силиконовой долине в течение последних нескольких десятилетий. Google, Amazon и Intel исключили или сократили инициативы по разнообразию в прошлом году.
Openai может быть и обратный курс. Похоже, что производитель CHATGPT недавно вычитывал приверженность разнообразию, справедливости и включению с своего веб-сайта.
По мере того, как Openai начинает один из крупнейших американских инфраструктурных проектов, когда -либо важных со Stargate, дата -центра AI в 500 миллиардов долларов, его отношения с администрацией Трампа становятся все более важными. В то же время производитель CHATGPT борется за то, чтобы раскрыть поиск Google как доминирующий источник информации в Интернете.
Придумать правильные ответы может оказаться ключом к обоим.
