Продолжают появляться новые решения искусственного интеллекта, а модели постоянно совершенствуются. Тем не менее, несмотря на быстрые темпы инноваций в области искусственного интеллекта, эта технология все еще не настолько развита, как полагают многие. Этот разрыв часто возникает из-за вводящего в заблуждение маркетинга, особенно в отношении операций «агентного ИИ», а также человеческих ошибок и ограниченного технического опыта.
В любом случае, мы еще не дошли до того места, где можно доверять ИИ, который будет работать полностью автономно, принимая решения или разрабатывая код независимо от человеческого контроля. При нынешнем состоянии технологии участие человека, его образование и осведомленность необходимы для обеспечения безопасного и надежного использования ИИ на предприятии.
За последние несколько недель было несколько случаев, когда ИИ не оправдывал ожиданий, предоставляя результаты с ошибками, неточностями, «галлюцинациями» или полностью стирая базы данных. Например, глобальная консалтинговая фирма Deloitte подверглась критике после того, как предоставила правительству Австралии неточный отчет, изобилующий вымышленными исследованиями.
Целью отчета не только было предоставление технических рекомендаций по оптимизации деликатных государственных процессов, но и использование ИИ от имени консалтинговой фирмы не было раскрыто. В июле помощник по программированию искусственного интеллекта из технологической компании Replit вышел из строя, уничтожив производственную базу данных SaaS-стартапа SaaStr.
Эти примеры вызывают дискуссии не только о безопасном и эффективном использовании ИИ, но и о «рабочих сбоях» или некачественных результатах ИИ, которые либо неэффективно, либо неправильно обрабатывают подсказки, генерируемые пользователями. Сбои в работе ИИ часто являются результатом того, что организации спешат внедрить ИИ, прежде чем полностью поймут или обучат сотрудников тому, как правильно использовать новые технологии.
Потенциал ИИ огромен. Но поскольку нынешние темпы роста ИИ намного опережают развитие этой технологии, результатом является массовое распространение низко- или некачественной работы — и это серьезная проблема. Хорошая новость в том, что это можно преодолеть.
Чтобы не попасть в рабочую зону или другие ловушки искусственного интеллекта, подверженные ошибкам, организации должны убедиться, что они уделяют первоочередное внимание осведомленности, прозрачности и обучению сотрудников, чтобы помочь им понять, где использовать ИИ в его нынешнем виде и как использовать ИИ безопасно и прозрачно для достижения положительных результатов в бизнесе, не создавая дополнительных рисков.
Что находится под угрозой с Workslop?
Последствия ошибок в работе легко заметить: . репутационный или профессиональный ущерб, потеря доверия клиентов, а в более крайних случаях — например, использование искусственного интеллекта для автономной генерации и развертывания ошибочного кода — утечка данных и критические нарушения безопасности. Когда дело доходит до интеграции или интеграции ИИ с конфиденциальными бизнес-активами, на карту поставлено очень многое. Однако существует также множество способов использовать ИИ для повышения эффективности бизнеса и улучшения работы человеческого персонала, не подвергая бизнес риску.
Когда дело доходит до того, чтобы избежать распространенных ошибок в работе и отличить качество от плохих результатов ИИ, есть две вещи, которые имеют наибольшее значение:
- Во-первых, найдите подходящий инструмент для работы. Большие языковые модели (LLM) отлично справляются со многими задачами, но шумиха подтолкнула людей использовать их повсюду. Реальность такова, что на каждый отдельный случай использования, где LLM работает хорошо, существует множество других, где традиционные подходы работают значительно лучше. Мы просто часто используем неправильные технологии.
- Во-вторых, оперативные инженерные вопросы. При подсказках контекстуализируйте вопросы с точки зрения таких структур, как RACE (роль, действие, контекст и исполнение), для получения оптимальных результатов. Хорошие подсказки могут значительно уменьшить галлюцинации, но большинство людей этому не обучены. Легко написать подсказки, которые кажутся точными, а затем приводят к плохим результатам. Компаниям необходимо должным образом обучать команды тому, как эффективно подсказывать и проверять точность результатов.
Держитесь подальше от помоев
Когда дело доходит до максимально эффективного использования ИИ, ответом является образование. Не только в оперативном проектировании, но и в обучении сотрудников тому, как проверять результаты, распознавать галлюцинации и понимать, когда традиционные подходы могут работать лучше, чем действия или рекомендации ИИ.
За последние два года использование искусственного интеллекта на работе выросло почти вдвое, и по мере того, как искусственный интеллект становится все более популярным в корпоративной среде, руководство должно обеспечить, чтобы сотрудники были подготовлены, проинструктированы и обучены его правильному и безопасному использованию, чтобы использовать его соответствующим образом.
Чтобы избежать рабочих ошибок, установите для сотрудников четкие правила, границы и ожидания. Опишите, какие инструменты подходят для корпоративного использования, какие лучше всего подходят для решения определенных задач, и подчеркните, какие инструменты не обсуждаются.
Попросите сотрудников мыслить критически, когда дело доходит до использования результатов, полученных с помощью ИИ. Например, любой разработчик, использующий ИИ для создания кода, знает, что качество непостоянно. Даже во многих случаях из новых или быстро развивающихся баз кода менее половины из них можно использовать в предлагаемой форме.
Сейчас к ИИ следует относиться, прежде всего, как к информационному ресурсу. Думайте об этом как о «версии 1» для сгенерированного контента или кода. Для анализа и проверки ответов по-прежнему требуется человеческий контроль, но это быстрее приближает усилия к желаемому результату.
От организаций, стремящихся более активно использовать ИИ для продвижения вперед, наши нынешние обстоятельства требуют честности и прозрачности в отношении того, что ИИ может и не может делать, дисциплины в том, как организации его внедряют, и приверженности качеству, что иногда означает движение медленнее, чем требует цикл ажиотажа. Это сложно, когда кажется, что все остальные мчатся вперед, но это правильный выбор. Как подчеркивает любой хороший учитель: дважды проверяйте свою работу. Это относится и к использованию ИИ. Небольшой человеческий обзор имеет большое значение.
ТЕНДЕНЦИОННЫЕ ИСТОРИИ YOUTUBE.COM/THENEWSTACK Технологии развиваются быстро, не пропустите ни одной серии. Подпишитесь на наш канал YouTube, чтобы смотреть все наши подкасты, интервью, демонстрации и многое другое. ПОДПИСАТЬСЯ Группа, созданная в Sketch. Джоэл Карузоне — старший вице-президент по данным и искусственному интеллекту в NinjaOne, где он курирует исследования, разработку и внедрение безопасных технологий искусственного интеллекта. Ранее он занимал должность технического директора в Zeno Technologies, где курировал инновации в продуктах и… Подробнее от Джоэла Карузоне
