Когда говорит сооснователь OpenAI Андрей Карпати, даже Илон Маск реагирует.
Карпати только что записал двух с половиной часовое интервью с подкастером Дваркешем Пателем. И их широкомасштабная дискуссия бросила вызов общепринятому мнению: Карпати указывал на препятствия на пути к общему искусственному интеллекту (AGI) и утверждал, что до агентов ИИ осталось 10 лет.
Сразу же Карпати заявил, что «в отрасли происходят некоторые завышенные прогнозы». А позже на X.com он поделился своими ожиданиями:
«По сути, мои сроки ИИ примерно в 5-10 раз [as] пессимистичен в отношении того, что вы найдете на домашней вечеринке ИИ в вашем районе в Сан-Франциско или в своей ленте в Твиттере, но все же весьма оптимистичен в отношении растущей волны отрицателей ИИ и скептиков».
Разговоры неизбежно продолжались в социальных сетях — начиная с утверждения Капарти о том, что дошкольное образование должно включать физику, которую он изучал, потому что она исключительно хороша для «загрузки» мозга. В подкасте он сказал, что всякий раз, сталкиваясь с новой системой — будь то искусственный интеллект, физика или что-то среднее — «я пытаюсь найти, что имеет значение…? Как я могу это упростить?»
Вернувшись на X.com, Илон Маск вызвал Карпати, который также был старшим директором по искусственному интеллекту в Tesla, на «соревнование по программированию искусственного интеллекта или любую другую форму соревнования, которую вы предпочитаете: Андрей против Грока 5, а-ля Каспаров против Deep Blue?»
Но именно в этот момент Маск обнаружил, что, говоря об искусственном интеллекте, Карпати действительно проявлял оптимизм.
«Я предпочитаю использовать Grok 5 и сотрудничать с ним, чем соревноваться с ним».
Сложные прогнозы отрасли искусственного интеллекта
Карпати руководил разработкой беспилотных автомобилей Tesla с 2017 по 2022 год, поэтому он познал новые горизонты исследований в области искусственного интеллекта. Поэтому, когда подкастер Патель спросил его о том, какие узкие места агентам ИИ придется преодолеть за десятилетие, Карпати ответил: «На самом деле заставить это работать!»
В настоящее время Патель не заменяет сотрудников Клодом или Кодексом, отметил Карпати, — потому что «они просто не работают. У них недостаточно интеллекта. Они недостаточно мультимодальны, они не могут пользоваться компьютером и все такое… У них нет постоянного обучения. Вы не можете просто сказать им что-то, и они это запомнят. Им не хватает когнитивных способностей, и это просто не работает. Чтобы проработать все это, потребуется около десяти лет». проблемы».
Андрей Карпати (слева), соучредитель OpenAI, поговорил с подкастером Дваркешем Пателем о текущем состоянии агентов ИИ.
Почему десятилетие? Карпати сказал Пателю, что это «частично моя собственная интуиция и некоторая экстраполяция с учетом моего собственного опыта в этой области… Я чувствую, что проблемы разрешимы, преодолимы, но они по-прежнему трудны. Если я просто усредню это, для меня это просто десятилетие».
Он по-прежнему предсказывает, что будут некоторые сейсмические сдвиги, которые изменят все месторождение, «потому что они происходят с почти удивительной регулярностью».
Короче говоря, Карпати сказал: «Я все еще чувствую, что предстоит проделать очень много работы», но почти сразу же добавил, что «они поправятся, и это будет замечательно».
Итак, Карпати явно один из тех людей, которые отвечают «да» и «нет» — и на X.com он дал четкое представление о том, где мы находимся: «По моему мнению, мы одновременно 1) увидели огромный прогресс в последние годы с LLM, в то время как 2) еще предстоит много работы (черновая работа, работа по интеграции, датчики и исполнительные механизмы в физический мир, общественная работа, работа по обеспечению безопасности (взломы из тюрьмы, отравления и т. д.), а также исследования, которые нужно провести) прежде чем у нас появится организация, которую вы бы предпочли нанять на любую работу в мире, а не человека.
«Я думаю, что в целом 10 лет должны быть очень оптимистичным сроком для» AGI, — сказал он. Добавляя: «Это не так ощущается только в отличие от нынешней шумихи».
10-летний путь к ИИ-агентам
Вспоминая свою работу по созданию беспилотных автомобилей Tesla, Карпати сказал в подкасте, что столкнулся с «очень большим разрывом между демонстрацией и продуктом — когда демонстрация очень проста, но продукт очень сложен». (Особенно в сферах, где ошибки могут быть смертельными.)
Даже сегодня, по его словам, в некоторых беспилотных автомобилях есть телеоператоры, так что «в процессе задействовано больше людей, чем можно было ожидать… В каком-то смысле мы на самом деле не убрали человека, мы переместили его туда, где вы его не увидите».
А затем, предполагая, что мы достигнем мира с AGI, Карпати отметил на X, что «распространение такой системы, по моему мнению, все равно займет еще больше времени (например, базовые элементы технологического распространения, как это видно из вычислений/Интернета, вычислительные ограничения, датчики/исполнительные механизмы по сравнению с ограничениями физического мира, социальные, юридические)».
Карпати считает, что все это должно повлиять на наши сроки роли ИИ в нашей жизни.
Преодоление разрыва между демонстрацией и продуктом
«Я думаю, это сработает», — сказал Карпати в подкасте. «Я думаю, что это терпимо. Я говорю пессимистично, потому что, когда я захожу в свою ленту в Твиттере, я вижу все эти вещи, которые не имеют для меня никакого смысла… Честно говоря, многое из этого — просто сбор средств».
В подкасте Карпати даже рассуждал о том, как будет выглядеть сверхинтеллект — «фундаментально автоматизированный», но «чрезвычайно чуждый». Итак, что беспокоит в возможности появления по-настоящему автономных агентов, так это то, что он считает наиболее вероятным исходом. Существует то, что он описал как «постепенную потерю контроля и понимания того, что происходит» — мир, в котором мы «разложим все это повсюду, и будет все меньше и меньше людей, которые это понимают».
Если бы он писал научно-фантастические антиутопии, сказал Карпати, это выглядело бы как «множество конкурирующих сущностей, которые постепенно становятся все более и более автономными. Некоторые из них выходят из-под контроля, а другие отбиваются от них. Это тот горячий котел полностью автономной деятельности, которому мы делегировали свои полномочия. Я чувствую, что это имело бы такой оттенок».
Eureka Labs: подход к образованию на основе искусственного интеллекта
Но у Карпати есть свой ответ на эти опасения. В июле 2024 года он объявил о запуске образовательной компании Eureka Labs, «нового типа школы, основанной на искусственном интеллекте».
Если рассматривать только чистое исследование ИИ, «я не знаю, смогу ли я его однозначно улучшить», — сказал Карпати. Итак, теперь он нашел способ справиться с опасениями, что человечество будет «лишено сил» из-за ИИ.
«Я хочу, чтобы люди в будущем жили в благополучии», — сказал он, добавив: «Я считаю, что именно благодаря образованию вы можете достичь этого».
Eureka Labs в настоящее время разрабатывает свой первый курс, посвященный искусственному интеллекту — LLM101n. В октябре Karpathy выпустила nanochat, «полную реализацию LLM, такого как ChatGPT, в единой, чистой, минимальной, взломанной кодовой базе с облегченным зависимостями».
«Вы загружаете облачный графический процессор, запускаете один скрипт, и всего через 4 часа вы можете общаться со своим собственным LLM в веб-интерфейсе, похожем на ChatGPT», — объяснил Карпати в день запуска.
На X Карпати расширила возможности наночата. «Я хотел немного развлечься», — написал он, — «поэтому nanochat теперь обращается ко мне как к королю Андрею Карпати (смеется), просто чтобы проиллюстрировать, что это гигантский чистый холст — вы можете привнести в свой LLM совершенно произвольную идентичность, знания или стиль».
Проект Наночат и его влияние
Октябрьский выпуск реализации LLM наночата станет важной частью первого курса Eureka, ее «краеугольного» проекта. В его репозитории на GitHub есть соответствующая цитата нобелевского лауреата по физике Ричарда Фейнмана: «То, что я не могу создать, я не понимаю».
В подкасте Карпати описал проект наночата как «создание рампы к знаниям… Это очень упрощенная полнофункциональная вещь. Если вы дадите кому-то этот артефакт, и он его просмотрит, он узнает массу вещей.
«Это дает вам много того, что я называю эвриками в секунду, то есть понимания в секунду. Это то, чего я хочу». (Возможно, поэтому компания называется Eureka Labs.)
Скриншот из репозитория GitHub для первого (находящегося в разработке) класса искусственного интеллекта Eureka Labs.
И даже в будущем, когда ИИ будет принимать много решений, Карпати сказал: «Я думаю, что наступит переходный период, когда мы сможем быть в курсе событий и продвигаться вперед — если мы будем понимать много вещей». (Хотя он добавил: «В долгосрочной перспективе это, вероятно, исчезнет».)
Но по иронии судьбы, здесь, в настоящем, Карпати обнаружил, что сегодняшние инструменты искусственного интеллекта для «вибрационного кодирования» продолжают неправильно понимать код, который он пытался написать для наночата, «потому что у них слишком много памяти от всех типичных способов ведения дел в Интернете, которые я просто не принимал».
Инструменты кодирования ИИ также были «слишком чрезмерно оборонительными», отметил он. «Они делают все эти заявления о попытке поймать». И добавил он: «Они часто используют устаревшие API». Дополнительная работа означала, что этот опыт не привел к чистому увеличению производительности.
Возможно, именно поэтому Карпати прогнозирует более длительные сроки наступления бурного роста популярности ИИ, сказал он. Сегодня даже для убийственного варианта использования ИИ: «Они не очень хороши в коде, который никогда раньше не писался… именно этого мы и пытаемся достичь, когда создаем эти модели!»
«Мне кажется, что индустрия делает слишком большой скачок и пытается притвориться, что это потрясающе, но это не так. Это отстой».
«Они не смирились с этим и, возможно, пытаются собрать средства или что-то в этом роде».
ТЕНДЕНЦИОННЫЕ ИСТОРИИ YOUTUBE.COM/THENEWSTACK Технологии развиваются быстро, не пропустите ни одной серии. Подпишитесь на наш канал YouTube, чтобы смотреть все наши подкасты, интервью, демонстрации и многое другое. ПОДПИСАТЬСЯ Группа, созданная в Sketch. Дэвид Кассель — гордый житель района залива Сан-Франциско, где он освещает новости технологий уже более двух десятилетий. На протяжении многих лет его статьи появлялись повсюду на каналах CNN, MSNBC и Wall Street Journal Interactive… Читать далее Дэвида Касселя
