I'm available for business trips to other cities for projects lasting a month or longer.
Получить расчёт
«Чат-бот сошёл с ума»: как Лия решила проблемы с искусственным интеллектом?
Чтобы разгрузить отдел продаж и ускорить обработку клиентских заявок, к чатам в мессенджерах или к сайту подключают чат-ботов с ИИ.
Но инструменты на базе этой технологии могут не всегда корректно выполнять свои задачи. Например, боты со встроенным ChatGPT не понимают цели клиентов, отвечают невпопад, ломаются и переводят собеседника на сотрудника поддержки вместо решения стандартного запроса.
Одним из главных страхов владельцев компаний и причиной седых волос для IT-специалистов становятся странные ответы ИИ в чате поддержки, которые наводят хаос среди клиентов.
Одним из примеров стали странные ответы AI Overviews — обновленной поисковой системы Google с ИИ. Новая функция предлагала пользователям есть камни и добавлять клей в пиццу. Корпорация пыталась вручную удалить странные ответы ИИ в поиске, но после размещения скриншотов со странными советами в соцсетях доверие к ИИ и Google уже снизилось.
Из-за ИИ от Amazon Alexa совершать покупки стало слишком легко, и это может сделать даже ребенок. Так и случилось в январе 2017 года, когда 6-летняя девочка заказала кукольный домик за 170 $ и упаковку печенья, просто попросив об этом робота. Однако когда местное телевидение сделало сюжет об этой истории, и диктор в шутку сказал: «Так и представляю себе маленькую девочку, говорящую «Алекса, закажи мне кукольный домик», в этот момент в домах некоторых зрителей Alexa активировалась и заказала кукольный домик.
Недавний сбой GPT-4 поставил крест на внедрении ИИ в важных отраслях. В феврале 2024 года нейросеть на вопросы пользователей сперва начинала отвечать по делу, но затем переходила на бред, который нельзя было остановить. Когда ее спрашивали, что с ней, она загадочно отвечала на испанском языке какие-то несвязные фразы. Из-за сбоя Air China уже отказалась от ИИ, который мог начать придумывать собственную политику и самостоятельно решать, какой самолет полетит первым, а какому пассажиру не разрешат сесть на борт.
Здесь могла бы быть шутка про восстание машин, но когда такое происходит в реальности с бизнесом, потеря контроля над собственным ИИ совсем не кажется смешным. Цифровой разум может всего одним неверным запросом сломать сложные процессы внутри компании и стать причиной больших денежных потерь.
Можно ли всё-таки доверять ИИ общение со своими клиентами или лучше работать только с людьми?
Почему ИИ вообще может сойти с ума и как Лия уже решила эти проблемы?
Есть 4 главных причины, почему ИИ может ошибаться и давать неправильные ответы на запросы.
1. Ошибки в конфигурации и настройке специалистом
Если IT-специалист неправильно настроит нейросеть изначально, то она не будет корректно работать и генерировать неправильные запросы. Ошибки конфигурации чаще всего бывают вызваны неверным выбором параметров, несоответствием введенных данных во время тестов и действительности, недостаточной обработкой информации и многими другими факторами.
Как проблема решается в Лие?
Перед запуском в работу Лия проходит обязательное тестирование на выявление ошибок. Несмотря на быструю готовность бота, мы тестируем каждый сценарий перед показом клиенту в специальном тестовом чате-дебаге, чтобы достичь необходимого ответа и результата. В качестве тестов мы также намеренно закладываем в Лию ответы на странные и нестандартные вопросы. Например, прописываем сценарии о том, кто такая Лия, где она живёт и есть ли у неё парень (да-да, иногда пользователи спрашивают у ИИ и такое!).
2. Некоторые задачи слишком сложные для ИИ
Некоторые задачи могут быть сложными для обучения нейросети и поэтому становятся причинами неправильных ответов. Иногда ИИ слишком быстро теряет нить разговора и не может качественно закрыть запрос клиента, если ответ на него не добавлен в нейросеть заранее.
Как проблема решается в Лие?
Мы используем готовые шаблоны запросов-триггеров и прописываем ответы-реакции, которые Лия будет выдавать клиентам, чтобы ответ был максимально точным и понятным.
3. ИИ опирается на устаревшие либо ложные источники
Выбор недостоверных источников вызывает непредсказуемое или самопроизвольное поведение нейросети. Например, ИИ может неправильно перевести текст на другой язык, опираться на данные из любительских блогов.
Как проблема решается в Лие?
Лия собирается на основании данных конкретного бизнеса. У неё нет доступа к открытым источникам, которые могут содержать неверную информацию, поэтому все ответы, которые генерирует Лия, всегда проверены и достоверны. Мы контролируем то, какие данные она получает и какие данные выдаёт. Это возможно благодаря наполнению базы Лии заранее обработанными и структурированными данными, которые мы собираем вместе с нашими клиентами.
4. ИИ генерирует «галлюцинации»
Галлюцинация в ИИ и в частности в ChatGPT подразумевает создание ответов, которые могут показаться правдоподобными, но либо фактически неверными, либо не связанными с данным контекстом. ИИ могут уверенно утверждать факты, которые на самом деле не существуют, и подкреплять свои тезисы вымышленными доказательствами, статьями и фальсифицированными ссылками на несуществующие источники.
Такой результат часто возникает из-за отсутствия понимания искусственным интеллектом реального мира или ограничения учебных данных. ИИ «галлюцинирует» информацию, на которой она не была явно обучена, что приводит к ненадежным или обманчивым ответам.
Как проблема решается в Лие?
Лия не использует ChatGPT для своей работы. В программе есть четкая логика диалога (сценарий), она «знает», за каким вопросом какой ответ должен следовать, и выдает именно его, не обращаясь ни к каким открытым источникам. В случае, если Лия не знает ответ, она переводит диалог на оператора, предупредив об этом пользователя и оповестив менеджера клиентского сервиса.
Какие компании уже не боятся ИИ?
Пока другие компании всё ещё думают, что искусственный интеллект сойдет с ума, Лии доверяют десятки крупных российских бизнесов. «Самокат», «Мегамаркет», «Додо Пицца», «Ренессанс Страхование», «Utair» и десятки других российских гигантов уже подключили чат-боты службы заботы и отдела продаж к Лие — платформе для автоматизации общения с клиентами.
«В первый месяц с командой Лии мы достигли покрытия в размере 51,2%. Спустя год оно выросло до 78,61%», — сообщает Катерина Козина, руководитель отдела контроля качества в «Самокате», с которыми мы работаем более 3,5 лет.
В «Додо Пицце» спустя 3 года после внедрения Лии в отделе клиентской поддержки работает на 15% меньше сотрудников, чем могло бы; каждый тикет закрывается на 10 рублей дешевле, а Лия помогает решать проблемы на первой линии на 30% быстрее».
Сервис «Лия» ускоряет качественную коммуникацию с клиентами в службе заботы, технической поддержке, отделе продаж и экономит до 42% времени менеджеров, потому что может:
ответить в любой момент вне зависимости от времени суток, даты, праздников или форс-мажора;
подсказать статус заказа, сделать персональное предложение, помочь заполнить заявку, оформить заказ или записаться на приём;
уточнить детали и перенаправить диалог нужным людям со всей необходимой информацией в заявке.
Дружелюбная Лия всегда поддержит ваших покупателей и готова решить их проблему круглосуточно. Она работает по готовым сценариям, основанным на базе конкретного бизнеса. А в случае запроса, на который Лия не знает ответа, ИИ своевременно перенаправит клиента на менеджера.
Выводы
Чат-боты с ИИ — отличные помощники для вашего бизнеса. Они ускорят вашу работу отдела продаж, техподдержки и службы заботы.
Лучшие чат-боты — те, чьи ответы на запросы клиентов контролируются человеком изначально. Например, диалог в Лие собирается и выстраивается на основании данных конкретного бизнеса. У неё нет доступа к открытым источникам, которые могут содержать неверную информацию, поэтому все ответы, которые генерирует Лия, всегда проверены и достоверны. Мы контролируем то, какие данные она получает и какие данные выдаёт.
Лия избавит ваших сотрудников от работы с однотипными вопросами, повысит мотивацию в команде на 43%, а продажи — до 36%.
Для бесплатной консультации с нашими специалистами оставляйте заявку в форме ниже. Наш менеджер свяжется с вами по видеозвонку в удобное для вас время и:
выявит проблемные места в отделе продаж вашего бизнеса;