ТОКИО — Стоя между аудиторией и их обедом, Стефания Друга, научный сотрудник Sakana AI и бывший научный сотрудник ИИ в Google DeepMind, растянула комнату, прежде чем выступить с одним из самых отрезвляющих докладов Open Source Summit Japan: ясной оценкой того, как ИИ подрывает системы ученичества, наставничества и общих знаний, которые поддерживали компьютерное образование на протяжении десятилетий.
«В настоящее время мы наблюдаем потерю эпистемических агентов», — предупредила Друга во время своего основного выступления. Для тех из вас, кто не знаком с этим термином, он относится к людям, которые формируют, оценивают, пересматривают и действуют на основании того, что они узнали, а не просто пассивно получают информацию.
Или, как позже объяснил Друга в интервью: «С ИИ слишком много людей хотят сидеть на пассажирских сиденьях, а не управлять самолетом».
То есть вместо того, чтобы думать о том, как получить ответ, они хотят беспрекословно принять ответ, который дает им ИИ. Это плохие новости.
Видите ли, ее послание было не о замене программистов искусственным интеллектом. Речь шла о чем-то более глубоком и опасном: ИИ разрушает структуры, которые учат людей думать, задавать вопросы и достигать технического мастерства.
«Исчезающая лестница технического обучения»
Эта трансформация работы привела к тому, что Друга назвал «исчезающей лестницей технического ученичества». Она привела впечатляющую цифру, которая повисла в воздухе еще долгое время после того, как она это сказала: количество найма технических специалистов начального уровня в Великобритании упало на 46%.
В то же время инструменты искусственного интеллекта автоматизируют многие младшие задачи, которые когда-то служили трамплином для новичков. «Нам нужен опыт, чтобы получить работу, а работа — чтобы получить этот опыт», — сказала она. «Если ИИ собирается автоматизировать эти задачи начального уровня, как реальные люди должны освоить эти навыки?»
Кроме того, по словам Други, сообщества открытого исходного кода, которые исторически были тренировочной площадкой для начинающих разработчиков, перегружены. Специалисты по сопровождению сообщают о всплеске некачественных запросов на включение, многие из которых, вероятно, сгенерированы искусственным интеллектом. Для разработчиков ПО с открытым исходным кодом спам от ИИ является настоящей проблемой. Просто спросите специалиста по поддержке Curl Дэниела Стенберга. По словам Други, «на самом деле сейчас они не более продуктивны с ИИ».
Основная проблема, по ее мнению, заключается не в том, что ИИ пишет код, а в том, что люди все больше не знают, как его читать, проверять или оспаривать.
Это особенно плохо из-за, как отметил Друга, несовершенного интеллекта ИИ: эта новая фраза, придуманная основателем Eureka Labs и бывшим директором Tesla AI Андреем Карпати, относится к тому простому факту, что, хотя системы ИИ кажутся сверхчеловеческими в некоторых задачах, они также терпят неудачу в удивительно простых задачах.
По словам Други, осмыслить эту концепцию разработчиками «очень сложно… особенно новичкам. [an AI] это мощный инструмент для написания математических доказательств, но он, возможно, не сможет посчитать количество букв R в слове «клубника».
Почему разработчики должны развивать новые навыки
Эта непредсказуемость требует от разработчиков, особенно новичков, развития навыков, которые ИИ не может заменить: проверка, отладка, критические вопросы и системное мышление. Эти компетенции, отметил Друга, сейчас находятся в центре обсуждений реформы учебных программ в крупнейших программах по информатике во всем мире.
К сожалению, именно этими навыками часто пренебрегает высшее руководство, стремясь заменить программистов младшего уровня чат-ботами и агентами. Единственный способ овладеть этими навыками — начать с изучения простой, фундаментальной работы, ведущей к экспертным знаниям.
«Традиционно у нас был трубопровод», — заметил Друга. «У нас будут младшие разработчики, которые придут и учатся основам, люди среднего звена, которые будут их наставлять и понимать компромиссы в коде, а затем старшие специалисты, которые смогут контролировать архитектуру и процессы. Откуда сейчас берется этот опыт?»
Мы еще не знаем.
Друга считает, что ИИ может помочь. Она продемонстрировала исследование систем обучения с использованием искусственного интеллекта, предназначенных для содействия обучению по методу Сократа, а не просто для того, чтобы отмечать правильные или неправильные ответы. Вместо этого учитель или ИИ использует вопросы, чтобы помочь ученикам глубже понять предмет.
Такие программы, по ее словам, «должны помогать им в отладке. Они должны давать им подтверждения, но не делать всю работу за них».
Например, по словам Други, вместе со своей сотрудницей Нэнси Отеро она «построила этот тест на основе 55 наиболее распространенных математических заблуждений в алгебре. Мы использовали этот тест на заблуждения, чтобы создать репетитора по математике, который не говорит ученикам, какой ответ правильный или неправильный, потому что это бесполезно для обучения. Это помогает им отладить свое мышление».
«Если вы получили неправильный ответ, то почему? Может быть, вы еще не знаете порядок действий, верно, или, может быть, вы не понимаете отрицательные числа или дроби. Может быть, вы хотите практиковать эту концепцию, пока не поймете ее правильно.
«Это гораздо более мотивирует, чем говорить вам, что вы получили этот балл, или это правильно, или это неправильно, и учителям также полезно знать, какие концепции им нужно изучить больше и какие концепции уже есть у детей».
Друга верит в тот же подход к созданию программ искусственного интеллекта, которые могут помочь программистам начального уровня освоиться. Чтобы помочь в этом, она считает, что программы искусственного интеллекта должны быть более открытыми, чтобы студенты могли попытаться взломать их и получить более глубокое понимание, а не просто принять ответ.
Чтобы сделать это эффективным, перьевого кода и открытых весов недостаточно. Также необходимы открытые данные.
«Мы сжигаем мебель, чтобы согреть дом»
В интервью The New Stack Друга подробно остановилась на нескольких темах своего основного доклада. Она указала на тревожную тенденцию: крах онлайн-общедоступности, от которого зависит современный ИИ.
«С момента запуска ChatGPT вклады в Stack Overflow снизились более чем на 50%», — сказала она. «Мы сжигаем мебель, чтобы согреть дом».
Поскольку неопытные разработчики передают мышление генераторам кода, общая база знаний уменьшается, а системы искусственного интеллекта, обученные на этих знаниях, деградируют. Друга согласился со мной, что мы, возможно, являемся свидетелями первых признаков краха модели ИИ, поскольку рекурсивно генерируемые «отбросы» возвращаются обратно в новые модели.
Она также раскритиковала популярное понятие «вибрационного кодирования» — создания приложений путем ввода подсказок на естественном языке в инструменты искусственного интеллекта. «Это не совсем атмосфера», сказала она. «Это похоже на очистку луковицы».
Многие задачи работают. Пока вдруг они этого не делают. Что-то тривиальное для человека, например размещение собственного логотипа, становится получасовым испытанием при использовании большой языковой модели (LLM). По ее словам, на этом этапе пользователи должны «не бояться заглядывать в код».
Именно здесь она выступает за постепенное раскрытие информации при проектировании инструментов: постепенно знакомя опытных пользователей с более глубокими техническими концепциями по мере роста их уверенности. Поэтому она верит в инструменты искусственного интеллекта, которые включают практическое обучение для всех, а не только для детей. По ее словам, слишком многие лидеры полагают, что ИИ позволяет им устранять младшие ранги. Они ошибаются.
Она призвала компании заменить дорогостоящие брифинги по искусственному интеллекту внутренними хакатонами продолжительностью полдня, которые позволяют сотрудникам совместно тестировать, ломать и оценивать инструменты в аутентичных контекстах. Высшее руководство может сопротивляться, признала она, но стартапы, которые примут эту культуру практического участия, будут теми, кто понимает как ограничения ИИ, так и его потенциал.
Друга завершила свой доклад и интервью одним и тем же посланием: ИИ, возможно, становится умнее, но люди не должны становиться менее умными. Если рухнут сообщества, поддерживающие общие технические знания — открытый исходный код, сети наставничества, сайты вопросов и ответов, классы — мы потеряем не только будущих разработчиков, но и коллективную способность понимать и формировать наши инструменты.
Она спросила аудиторию в Токио: «ИИ становится умнее. Но мы должны ответить на вопрос: «Как мы можем обеспечить сохранение наших общих знаний?»
Это чертовски хороший вопрос, и мы хотим ответить на него как можно скорее.
ТЕНДЕНЦИОННЫЕ ИСТОРИИ YOUTUBE.COM/THENEWSTACK Технологии развиваются быстро, не пропустите ни одной серии. Подпишитесь на наш канал YouTube, чтобы смотреть все наши подкасты, интервью, демонстрации и многое другое. ПОДПИСАТЬСЯ Группа, созданная в Sketch. Стивен Дж. Воан-Николс, он же sjvn, писал о технологиях и технологическом бизнесе с тех пор, как CP/M-80 была новейшей операционной системой для ПК, скорость 300 бит/с — высокоскоростное подключение к Интернету, WordStar — современный текстовый процессор, и он нам понравился. Узнайте больше от Стивена Дж. Воана-Николса.
