Anpropic спокойно удалил со своего веб -сайта несколько добровольных обязательств, которые компания взяла на себя в сочетании с администрацией Байдена в 2023 году по продвижению безопасного и «надежного» ИИ.
Обязательства, которые включали в себя обещания поделиться информацией по управлению рисками ИИ в разных отрасли и правительстве и исследованиях по предвзятости и дискриминации искусственного интеллекта, были удалены из центра прозрачности Антропика на прошлой неделе, согласно группе AI The Midas Project. Другие обязательства эпохи Байдена, связанные с сокращением сексуального насилия на основе изображений, остаются на основе изображений.
Антропический, по -видимому, не дал уведомления об изменении. Компания не сразу ответила на запрос о комментарии.
Антропический, наряду с такими компаниями, как OpenAI, Google, Microsoft, Meta и Inflection, объявила в июле 2023 года, что согласился соблюдать определенные добровольные обязательства по безопасности ИИ, предложенные администрацией Байдена. Обязательства включали внутренние и внешние тесты безопасности систем искусственного интеллекта перед выпуском, инвестируя в кибербезопасность для защиты конфиденциальных данных ИИ, а также разработку методов водяного содержимого ИИ.
Чтобы быть ясным, Anpropic уже принял ряд практик, изложенных в обязательствах, и соглашение не было юридически обязательным. Но целью администрации Байдена было указать о его политических приоритетах ИИ перед более исчерпывающим исполнительным приказом ИИ, который вступил в силу через несколько месяцев.
Администрация Трампа указала, что ее подход к управлению ИИ будет совершенно другим.
В январе президент Трамп отменил вышеупомянутое исполнительный приказ ИИ, который проинструктировал Национальный институт стандартов и технологий, чтобы авторизировать руководство, которое помогает компаниям идентифицировать — и исправить — недостатки в моделях, включая предубеждения. Критики, связанные с Трампом, утверждали, что требования к отчетности приказ были обременительными и эффективно вынуждены компании раскрывать свои коммерческие секреты.
Вскоре после отмены исполнительного распоряжения ИИ Трамп подписал приказ, направляющий федеральные агентства, способствовать развитию искусственного интеллекта «свободного от идеологической предвзятости», который способствует «процветанию человека, экономической конкурентоспособности и национальной безопасности». Важно отметить, что приказ Трампа не упоминал о борьбе с дискриминацией ИИ, которая была ключевым принципом инициативы Байдена.
Как отмечается в проекте MIDAS в серии постов о X, ничто в обязательствах эпохи Байдена не предполагало, что обещание было связано с временем или зависело от партийной принадлежности действующего президента. В ноябре, после выборов, несколько компаний искусственного интеллекта подтвердили, что их обязательства не изменились.
Антропик не единственная фирма, которая корректирует свою государственную политику в течение нескольких месяцев с тех пор, как Трамп вступил в должность. Openai недавно объявил, что охватит «интеллектуальную свободу… независимо от того, насколько сложной или спорной может быть тема», и будет работать над тем, чтобы его ИИ не подвергал цензуре определенные точки зрения.
Openai также вычистила страницу на своем веб -сайте, которая использовала для выражения приверженности стартапа разнообразию, справедливости и включению, или DEI. Эти программы подверглись критике со стороны администрации Трампа, что привело к тому, что ряд компаний устраняет или существенно переоценивает свои инициативы DEI.
Многие из советников Трампа в Силиконовой долине по ИИ, в том числе Марк Андрессен, Дэвид Сакс и Элон Маск, утверждают, что компании, включая Google и Openai, участвовали в цензуре ИИ, ограничивая ответы своих чат -ботов ИИ. Лаборатории, включая Openai, отрицают, что их политические изменения в ответ на политическое давление.
Как OpenAI, так и антроповые имеют или активно заключают государственные контракты.
Через несколько часов после публикации эта история Anpropic отправил TechCrunch следующее заявление:
«Мы по -прежнему привержены добровольным обязательствам по ИИ, установленным в рамках администрации Байдена. Этот прогресс и конкретные действия по -прежнему отражаются в [our] Центр прозрачности в контенте. Чтобы предотвратить дальнейшую путаницу, мы добавим раздел, непосредственно ссылаясь на то, где согласуется наш прогресс ».
Обновлено 11:25 Pacific: добавлено заявление от антропного.
