Бизнесы активно внедряют искусственный интеллект в свою деятельность, спеша развернуть чат-боты, генераторы контента и инструменты поддержки принятия решений по всем направлениям работы. По данным исследований, 78% компаний используют ИИ как минимум в одной бизнес-функции.
Это стремительное внедрение вполне понятно — все видят потенциальную ценность технологии. Однако в этой спешке многие организации упускают из виду существенный недостаток всех технологий, основанных на нейронных сетях, включая каждую LLM и системы генеративного ИИ: они непредсказуемы и, в конечном счете, неконтролируемы.
Непредсказуемость ИИ: реальные последствия
Некоторые компании уже столкнулись с серьезными последствиями непродуманного внедрения ИИ. В одном дилерском центре Chevrolet, где на сайте был установлен чат-бот, клиент убедил систему, работающую на ChatGPT, продать ему Chevy Tahoe стоимостью 58 195 долларов всего за 1 доллар. Другой клиент заставил того же бота написать скрипт Python для сложных уравнений гидродинамики, что система с радостью выполнила. После того как эти инциденты стали вирусными, дилерский центр быстро отключил ботов.
В другом случае авиакомпания проиграла дело в суде по мелким искам, когда утверждала, что ее чат-бот, предоставивший пассажиру неточную информацию о скидке в связи с утратой, “является отдельным юридическим лицом, отвечающим за свои действия”.
Почему ИИ ненадежен?
Эта непредсказуемость проистекает из фундаментальной архитектуры языковых моделей (LLM). Они настолько велики и сложны, что невозможно понять, как они приходят к конкретным ответам, или предсказать, что они сгенерируют, пока не получишь результат. Большинство организаций реагируют на эту проблему надежности, не осознавая ее полностью.
Стандартное решение — проверять результаты ИИ вручную. Это работает, но существенно ограничивает потенциал технологии. Когда ИИ низведен до роли персонального помощника — составляющего тексты, ведущего протоколы встреч, суммирующего документы и помогающего с кодированием — он обеспечивает скромный рост производительности. Но этого недостаточно для революционных изменений в экономике.
Путь к трансформации бизнеса с помощью ИИ
Настоящие преимущества искусственного интеллекта появятся, когда мы перестанем использовать его для помощи в существующих задачах и вместо этого перестроим целые процессы, системы и компании для использования ИИ без участия человека на каждом этапе. Если вы хотите углубиться в эту тему и понять, как создать действительно умных AI агентов, которые могут автоматизировать целые рабочие процессы, стоит обратить внимание на специализированные обучающие программы.
Рассмотрим обработку кредитов: если банк предоставит кредитным специалистам ИИ-ассистента для обобщения заявок, они, возможно, будут работать на 20-30% быстрее. Но если внедрить ИИ для обработки всего процесса принятия решений (с соответствующими защитными механизмами), можно сократить затраты более чем на 90% и практически полностью устранить время обработки. В этом разница между постепенным улучшением и трансформацией.
Подходы к обеспечению надежности ИИ
Использование полного потенциала ИИ без подчинения его непредсказуемости требует сложного сочетания технических подходов и стратегического мышления. Существующие методы предлагают лишь частичные решения, каждое из которых имеет значительные ограничения:
- Системное подталкивание — тонкое направление поведения ИИ в желаемом направлении. Исследователи продемонстрировали хрупкость этого подхода, искусственно усиливая определенные особенности в нейронной сети модели.
- Контроль ИИ другим ИИ — многоуровневый подход может уловить некоторые ошибки, но добавляет сложности и по-прежнему не обеспечивает полной надежности.
- Жесткие ограничения — прямое вмешательство, например, блокировка ответов, содержащих определенные ключевые слова или шаблоны. Эффективно против известных проблем, но не может предвидеть новые проблемные выходные данные.
Объяснимый ИИ: будущее доверия к технологии
Более эффективный подход — создание процессов, ориентированных на ИИ, которые могут работать автономно, с человеческим надзором, стратегически расположенным для выявления проблем надежности до того, как они вызовут реальные проблемы. Вы не захотите, чтобы ИИ напрямую одобрял или отклонял кредитные заявки, но ИИ может провести первоначальную оценку для последующего рассмотрения людьми.
Организации, которые фундаментально переосмысливают, как выполняется их работа, а не просто дополняют существующие процессы помощью ИИ, получат наибольшее преимущество. Но ИИ никогда не должен быть последним этапом в важном процессе или решении.
Трехэтапный подход к надежному ИИ
- ИИ создает повторяемый процесс, который надежно и прозрачно будет обеспечивать стабильные результаты.
- Люди проверяют процесс, чтобы убедиться, что они понимают, как он работает, и что входные данные подходящие.
- Процесс работает автономно — без ИИ — с периодической проверкой результатов человеком.
Рассмотрим страховую отрасль. Обычный подход может добавить ИИ-ассистентов, чтобы помочь обработчикам претензий работать эффективнее. Более революционный подход использовал бы ИИ для разработки новых инструментов — например, компьютерного зрения, анализирующего фотографии повреждений, или улучшенных моделей обнаружения мошенничества, выявляющих подозрительные закономерности — и затем объединял бы эти инструменты в автоматизированные системы, управляемые понятными правилами. Люди разрабатывали бы и контролировали эти системы, а не обрабатывали отдельные претензии.
Создание конкурентного преимущества
Этот подход к объяснимому ИИ создаст более четкое разделение между организациями, которые используют ИИ поверхностно, и теми, кто трансформирует свою деятельность вокруг него. Последние будут все больше опережать своих конкурентов в своих отраслях, предлагая продукты и услуги по ценам, с которыми их конкуренты не могут сравниться.
В отличие от ИИ по принципу “черного ящика”, объяснимые системы ИИ гарантируют, что люди сохраняют значимый контроль над применением технологии, создавая будущее, в котором ИИ усиливает человеческий потенциал, а не просто заменяет человеческий труд.
Компании, которые смогут создать надежные AI агенты и внедрить их в свои рабочие процессы с сохранением контроля и прозрачности, получат существенное преимущество на рынке в ближайшие годы.