В своем заявлении во вторник Дарио Амодеей, генеральный директор AI Startup Antropic, назвал саммит AI ACT в Париже «упущенной возможностью» и призвал индустрию ИИ — и правительство — «двигаться быстрее и с большей ясностью».
«Мы были рады присутствовать на саммите по ACT ACT в Париже, и мы ценим усилия французского правительства по объединению компаний, исследователей и политиков ИИ вместе со всего мира», — сказал Амодеэй. «Тем не менее, больше внимания и срочности необходимы в нескольких темах, учитывая темпы, в которых технология прогрессирует».
Критика Amodei на саммите ACT Action, последняя из серии конференций, которые собрали компании и регулирующие органы, чтобы попытаться прийти к консенсусу по управлению ИИ, повторяет критику нескольких ученых в начале этой недели. Один из них сказал Transformer, что обязательства конференции, которые сша и Великобритания отказались подписать, говорится: «Эффективно ничего, кроме банальностей».
В комментариях на конференции вице -президент сша JD Vance принял совершенно другую позицию и осудил то, что он охарактеризовал как «массовые» и жесткие правила по ИИ, отстаиваемым Европой. Вэнс также не согласился с модерацией контента, намекая на «устойчивую» и «инклюзивную» формулировку в обязательствах конференции, которую он отверг как «авторитарную цензуру».
Амодеей предупредил в своем заявлении, что ИИ быстро становится все более изощренным, и что неспособность его регулировать может привести к катастрофическим последствиям.
«Возможности систем искусственного интеллекта будут лучше всего рассмотреть, как и совершенно новое государство, населенное очень умными людьми, появляющимися на мировой арене», — сказал Амодеей. «Advanced AI представляет значительные глобальные опасности безопасности, начиная от неправильного использования систем искусственного интеллекта со стороны негосударственных субъектов… мы должны обеспечить, чтобы демократические общества руководили ИИ, и что авторитарные страны не используют его для установления глобального военного доминирования».
Amodei призвал правительства развернуть свои ресурсы для измерения того, как используется ИИ, и принять политику, сосредоточенную на «обеспечении того, чтобы все делятся в экономике [uplift] очень могущественного ИИ ». Он также выступал за большую правительственную прозрачность, когда дело доходит до безопасности ИИ, а также планы по оценке рисков ИИ.
Оценка Амодея по разбирательству Парижского саммита AI соответствует в отличие от Openai, в котором говорилось в заявлении в эти выходные, что было уверено, что конференция станет «еще одной важной вехой для ответственного и полезного развития ИИ для всех».
В прошлом антроп, как правило, показал больше открытости регуляции искусственного интеллекта. Действительно, Amodei делал аналогичные заявления ранее, предупреждая, что беспрепятственный ИИ может иметь глубоко негативные экономические, социальные и безопасные последствия. Антропический был одной из немногих компаний ИИ, которая молчаливо поддерживала калифорнийскую SB 1047, всеобъемлющий — и горячо обсуждаемый — законопроект о регулировании ИИ. Openai выступил против законопроекта, который наложил вето губернатором Гари Ньюсом прошлой осенью.
Это не для того, чтобы предположить, что мотивы Антропика являются чисто благотворительными. Как и генеральный директор Openai Сэм Альтман в своем недавнем эссе, Amodei не предлагает конкретных рекомендаций для обеспечения преимуществ мощного ИИ, если он появится в ближайшем будущем, широко и равномерно распределены.
Прочитайте наше полное освещение саммита Action Intelligence Action в Париже.
