Пороги уверенности: когда ИИ должен отвечать, а когда обращаться к человеку

Что такое порог уверенности

Порог уверенности — это балл, установленный системой, ниже которого ИИ не будет отвечать самостоятельно. Вместо этого он делает паузу и либо задаёт уточняющий вопрос, либо отмечает разговор для проверки человеком, либо немедленно переводит к человеку-агенту. Балл рассчитывается исходя из того, насколько хорошо ИИ понимает намерение клиента и сколько релевантной информации доступно для формирования правильного ответа.

Воспринимайте это как механизм самосознания. Хорошо откалиброванный ИИ знает, чего не знает. Он не притворяется уверенным, когда таковым не является. Это критически важно в контексте D2C, где неправильный ответ о политике возврата, дате доставки или характеристике товара может создать проблему в обслуживании клиента, на решение которой потребуется значительно больше усилий, чем на простую эскалацию.

Почему 100-процентная автономия ИИ — неправильная цель

Некоторые основатели изначально хотят полной автоматизации: никаких людей никогда. Это звучит эффективно. На практике это проблема надёжности. Разговоры с клиентами непредсказуемы. Клиент, спрашивающий о возврате, может внезапно упомянуть, что курьер повредил упаковку и у него есть фото. Клиент, просящий порекомендовать товар, может упомянуть, что покупает его в подарок человеку с аллергией на определённый ингредиент.

Эти разговоры требуют суждения, выходящего за рамки фиксированной базы знаний. ИИ, который это понимает и эскалирует, полезнее, чем ИИ, который продолжает и даёт неправильный ответ. Цель — не 100-процентная автономия. Цель — правильная автономия: высокая автоматизация для разговоров, где ИИ надёжен, и корректная эскалация для тех, где нет.

Практический ориентир

Показатель обработки ИИ в 80–86% — это здоровая цель для большинства D2C-брендов. Это означает, что 14–20% разговоров эскалируются. Обычно это сложные, неоднозначные или эмоционально насыщенные разговоры, где человеческий ответ действительно имеет значение. Стремление превысить 90% автономии обычно означает слишком сильное снижение порога уверенности и риск большего количества неправильных ответов.

Как устанавливать пороги для каждого типа разговора

Не все разговоры несут одинаковый риск. Запросы о статусе заказа низкорисковые: ИИ либо прав, либо нет, а неправильный ответ быстро исправляется клиентом. Они могут работать при более низком пороге. Запросы на возврат с возвратом средств более рискованны: неправильное обязательство может создать реальные финансовые обязательства. Они должны работать при более высоком пороге с более консервативными триггерами эскалации.

Многоуровневый подход к порогам обычно выглядит так. Рутинные запросы (статус заказа, таблицы размеров, сроки доставки) могут работать при более низких порогах с высокой автономией. Вопросы перед покупкой с детальными характеристиками товара работают при средних порогах. Запросы на возврат, жалобы и просьбы об исключениях работают при более высоких порогах с более частой эскалацией.

Когда эскалировать к человеку: пять сигналов

Помимо балла уверенности, существуют пять сигналов в разговоре, которые всегда должны инициировать эскалацию, независимо от балла.

Первый — сильные негативные эмоции. Если клиент использует язык, указывающий на гнев, разочарование или стресс, человеческий ответ почти всегда лучше шаблонного.

Второй — просьба поговорить с человеком. Если клиент прямо просит переключить на человека, эта просьба должна быть выполнена немедленно. Попытка решить вопрос с помощью ИИ — нарушение доверия.

Третий — заказы с высокой стоимостью. Для заказов выше определённого порога (который варьируется по брендам, но обычно выше 80-го перцентиля средней стоимости заказа) расчёт рисков меняется. Более высокий коэффициент эскалации для премиальных заказов обычно оправдывает дополнительные затраты.

Четвёртый — повторные запросы на уточнение. Если ИИ просил уточнить более одного раза, а разговор всё ещё неясен, человек должен взять управление. Петли подрывают доверие.

Пятый — исключения из политики. Любой запрос, требующий отклонения от стандартной политики, должен быть рассмотрен человеком. ИИ не должен единолично принимать решения об исключениях, поскольку такие решения создают прецеденты и несут финансовые последствия.

Опыт эскалации важен не менее самой эскалации

Способ передачи разговора от ИИ к человеку формирует восприятие клиентом всего взаимодействия. Хорошая передача быстрая, включает резюме обсуждённого и не заставляет клиента повторяться. Плохая передача медленная, оставляет человека без контекста и вынуждает клиента начинать сначала.

Человек-агент, принимающий хорошо подготовленную эскалацию, может решить вопрос за считанные минуты. Тот, кто принимает холодный перевод без контекста, тратит значительно больше времени и обычно оказывает худший опыт. Встроить хорошую гигиену эскалации в систему ИИ — не опция. Это то, что заставляет всю систему работать.