Как разработать чат-бота на основе современной диалоговой платформы

Сейчас на рынке представлены различные решения для быстрого создания чат-ботов, но не всегда они позволяют сделать полноценного виртуального помощника. Иногда наличие робота смущает клиентов, и его неправильные ответы срывают коммуникацию. Именно по этой причине 23% потребителей по-прежнему предпочитают общение лицом к лицу, когда проблема становится все более сложной, например, при спорах об оплате или жалобах.

Для создания полноценного виртуального помощника нужно серьезно подойти к поиску платформы, позволяющей компаниям самостоятельно делать ботов под свои потребности. Российский разработчик ИИ-технологий компания «Наносемантика» на примере собственного продукта DialogOS рассказывает, какие возможности должна предоставлять клиенту среда разработки и обучения ботов.

Что такое диалоговая платформа

Основная задача для чат-бота — ведение диалога с пользователем. Это может быть первичная обработка и классификация входящих звонков в службу поддержки или продвинутый искусственный интеллект уровня ChatGPT. В любом случае, чат-бот сначала обрабатывает запросы пользователей, поступающие по каналам коммуникации на естественном языке в режиме связного диалога, а затем автоматически генерирует ответы в контексте беседы.

Платформа DialogOS — это профессиональное программное обеспечение, сочетающее в себе самые разные инструменты и технологии, необходимые для создания, мониторинга и поддержки интеллектуальных помощников различного уровня сложности, отвечающих определенным требованиям. Как правило, в набор требований входят голос, стиль общения, тематика и глубина «знаний», а также точность и скорость ответов, учет контекста диалога.

Для разработки чат-ботов в платформе используется собственный язык лингвистического программирования, нейросетевые алгоритмы и обширная база знаний, которая содержит более чем 5 тыс. словарей, 3 млн адаптивных вопросов, более 3,6 тыс. сценариев диалога, и поддерживает практически все языки.

В чем уникальность DialogOS

В платформу DialogOS разработчики заложили собственные технологии распознавания и генерации речи. В основе этих решений — многолетний опыт и наработки «Наносемантики» в области компьютерной лингвистики и нейросетевых технологий. Правильное построение алгоритмов и языковых моделей позволяет достигнуть высоких показателей точности и качества распознавания человеческой речи в голосовых каналах коммуникации.

Совмещение технологий распознавания естественного языка

Для обработки естественного языка (Natural Language Understanding) в DialogOS в зависимости от задач используются две технологии.

1. Нечеткий поиск

Виртуальные ассистенты с поисковым движком, первый релиз которого в «Наносемантике» разработали еще в 1990-е годы, могут говорить как человек, без использования нейросетей.

Распознавание типов запросов, «ведение» диалога по скрипту или диалоговому дереву, выделение параметров из реплик пользователя (например, имён, названий тарифов, мобильных номеров и пр.) «Наносемантика» реализует с помощью основанного на правилах и алгоритмах (rule-based) подхода. Возможные вопросы пользователей описываются с помощью шаблонов с кванторами на языке описания диалогов DialogLanguage. Они покрывают сотни тысяч возможных правильных языковых конструкций и объединяются в диалоговые деревья с запоминанием контекста и извлечённых переменных.

Нечеткий поиск предусматривает извлечение варианта с максимальным весом (индексом) среди проиндексированных правил в момент входящего запроса. Движок выбирает наиболее подходящие диалоговые узлы (пары «вопрос-ответ»).

2. Нейросети.

Нейросети, обучаясь на наборах текстовых примеров пользовательских реплик с расставленными метками намерений и выделенными сущностями, распознают намерения и сущности для новых запросов, похожих на них. Сочетание нечеткого поиска по правилам и нейросетей позволяет существенно повысить качество распознавания естественного языка.

Комбинация нейросетевых моделей

В диалоговой платформе DialogOS нейросетевые модели используются для таких стандартных задач как:

• определение намерений пользователя (Intent Classification);
• извлечение именованных сущностей (Named Entity Recognition);
• анализ тональности (Sentiment Analysis).

Также «Наносемантика» проводит внутренние эксперименты по подключению больших языковых моделей (Large Language Models) для взаимодействия с пользователем в формате вопросно-ответной системы (QA — Question Answering), построенной на некоторой слабо структурированной текстовой базе знаний. Данные модели также планируется применять для общения диалогового ассистента на отвлечённые темы, не связанные с его основной тематикой (Chit Chat), и для помощи в наполнении примеров пользовательских реплик для обучения вышеупомянутых моделей.

Большая база знаний

«Наносемантика» стояла у истоков разработки разговорного искусственного интеллекта в России, и почти за 20 лет собрала огромное количество данных и их конфигураций. Сегодня они применяются для обучения нейросетевых моделей и существенно сокращают скорость разработки интеллектуальных помощников.

Функциональные возможности

Основная возможность платформы — это быстро и легко создать бота: наполнить его знаниями, протестировать, подключить каналы, где он будет работать, запустить бота в этих каналах.

Из всего многообразия инструментов и технологий в составе платформы наиболее востребованы у пользователей разметка данных, тестирование, гибкая система аналитики, возможность распознавания кастомных сущностей, то есть именованных объектов, таких как имена людей, проценты, коды.

Разметка данных. Добавление примеров для намерений и разметка сущностей ведется в удобном и современном интерфейсе приложения. Пользователю доступны группировка примеров по схожести и быстрый поиск дубликатов. Разметка возможна не только для данных, добавленных вручную, но и во время работы с журналом диалогов (то есть, историей переписки человека с интеллектуальным помощником).

Тестирование. В интерфейсе DialogOS можно протестировать работу виртуального ассистента до публикации в канал. Тестирование доступно как в текстовом режиме, так и голосовом, с использованием встроенного сервиса распознавания и синтеза речи. Также на платформе есть инструменты для массового прогона списка вопросов и разработки автоматизированных тестов, позволяющих проверить попадание эталонных вопросов в соответствующие диалоговые узлы. Обычно тестирование требуется после внесенных изменений: для проверки, что все работает как надо. Сейчас система в автоматическом режиме проверяет срабатывание нужного идентификатора.

Гибкая система аналитики. Пользователи могут как использовать заранее предложенные отчеты и бизнес-метрики, так и самостоятельно формировать их в специализированном редакторе.

Кастомные сущности (Custom NER). Платформа предоставляет возможность создавать собственные именованные объекты, которые будут извлекаться из каждого запроса, поступающего интеллектуальному помощнику. Для извлечения используется отдельная нейросетевая модель.

Ключевые особенности DialogOS

• Высокая точность и скорость ответа
• Визуальный редактор сценариев
• Возможность использовать правила, машинное обучение или их комбинацию
• Извлечение именованных сущностей с помощью словарей (правил) и машинного обучения
• Инструментарий для разметки намерений и сущностей
• Инструментарий для автотестирования ассистента
• Собственный удобный язык для написания диалогов DialogLanguage
• Поддержка JavaScript и Python для написания внешних запросов или функций
• Поддержка коллективной разработки и система версионирования
• Тестирование ассистента по ходу разработки
• Возможность работы в облаке или on-premise
• Интеграция с Active Directory и его аналогами

Как интегрировать

Интеллектуальные роботы и боты, разработанные в DialogOS, могут подключаться к различным каналам. Платформа поддерживает интеграцию практически со всеми популярными мессенджерами, социальными сетями и голосовыми помощниками. Через API можно подключить интеллектуального помощника на сайт, в мобильное приложение, умное устройство или любой другой сервис.

В DialogOS реализованы возможности для разработки сложных сценариев, которым требуется интеграция с внешними сервисами или системами. В этих случаях непосредственно в интерфейсе платформы можно писать асинхронный или синхронный код на популярных языках программирования JavaScript и Python.

Это позволяет быстро реализовать любую логику, необходимую бизнесу. Например, выгружать или передавать данные в CRM-системы, запускать цепочки рассылок в специализированных сервисах и даже совершать операции в автоматизированных банковских системах (АБС).

Возможны интеграции платформы с такими системами, как:

• Продуктовый каталог
• Базы знаний
• CRM
• Биллинг
• Системы ITSM
• Helpdesk
• Шина данных
• HR-системы

Как внедрять

Платформа DialogOS поставляется как on-premise, так и в облачном формате на серверных мощностях «Наносемантики». На стороне клиента ПО устанавливается с помощью Kubernetes в соответствии с инструкцией. Если не получается это сделать самостоятельно, заказчик может обратиться к команде «Наносемантики» за подробной консультацией по установке и настройке платформы или запросить инсталляцию «под ключ». В дальнейшем заказчик может пользоваться услугами технической поддержки и консультациями специалистов.

Если заказчику нужно разработать роботов «под ключ», он заполняет подробный бриф. По нему создается чат-бот — сначала в тестовом, а затем в релизном контуре. Этот процесс включает в себя разработку базы знаний бота, обучение, создание каналов для размещения в мессенджерах и, при необходимости, создание виджета.

Чтобы клиент мог наиболее полно использовать возможности платформы при самостоятельном создании ботов, «Наносемантика» проводит обучение по работе с DialogOS.

Как настроить и обучить

Для создания и обучения робота с помощью платформы DialogOS пользователю не обязательно обладать навыками разработчика. Обучение, как правило, состоит из 5-6 практических занятий, которые проводят лингвисты «Наносемантики» с представителем клиента.

Идеальный пользователь системы — это сотрудник службы клиентской поддержки, который знает свою аудиторию — пользователей своих продуктов, знает, как строится диалог, какие вопросы задают клиенты, и как нужно на них отвечать.

Что умеют интеллектуальные помощники от DialogOS

Боты позволяют автоматизировать консультирование клиентов, внутреннюю поддержку или обучение сотрудников заказчика, другие бизнес-процессы.

Виртуальный робот в режиме 24х7 за доли секунды отвечает клиенту с учетом корпоративных стандартов, заложенных при обучении.

Поддержка и обучение сотрудников может включать ответы на вопросы, подбор и навигацию по многочисленным внутрикорпоративным источникам информации: базам знаний, инструкциям. Совместив в себе все данные, робот станет персональным ассистентом для каждого специалиста компании. Например, незамедлительно оформит заявки, найдет контакты коллег, сориентирует по офисной навигации.

Также виртуальные помощники могут автоматизировать продажи, информирование клиентов, проводить анкетирование и сбор данных.

Ключевые пользователи платформы DialogOS — банки, телекоммуникационные и сбытовые компании, государственные и бюджетные учреждения, крупные интернет-магазины и сервисы — иными словами, любой бизнес, который предоставляет товары или услуги большому количеству людей. У них большие отделы клиентской поддержки, собственные контактные центры или службы заботы о качестве, на которые тратятся колоссальные средства. Поэтому такой бизнес наиболее заинтересован в оптимизации затрат на поддержку.

Истории успеха

Чат-бот Beeline Uzbekistan сэкономил компании более 18 млн рублей. За 4,5 года он провел 1 млн диалогов, взяв на себя нагрузку минимум шести операторов. Бот может кратко рассказать о тарифах, роуминге, домашнем интернете, пополнении счетов и оплате банковских услуг.

Второй по величине банк России работает с платформой DialogOS и другими продуктами «Наносемантики», которые помогают администрировать работу с большими данными силами штатных специалистов. Все системы развернуты в защищенном контуре банка.

Чат-бот для «ЛЭТУАЛЬ», лидера парфюмерной индустрии, внедрен на сайте, в мобильном приложении и в мессенджерах. Виртуальный бьюти-эксперт Аля, помимо прочего, может найти статус заказа.

Чат-бот для «Красноярскэнергосбыт» может принять показания по любому типу счетчиков и ответить на вопросы по задолженности, платежам, замене счетчиков.

Подробнее о кейсах можно прочитать на сайте.

Как будет развиваться DialogOS

Мир с большим интересом следит за ChatGPT и его аналогами, которые потенциально могут дополнить или даже заменить многие программные продукты. Команда «Наносемантики» планирует применять нейросети, подобные ChatGPT, для решения прикладных задач в DialogOS. Уже идут эксперименты с архитектурами нейросетевых моделей, позволяющих повысить качество распознавания и снизить требования к потребляемым ресурсам.

Клиенты тоже задают разработчикам вектор развития. У DialogOS опытные пользователи, которые прекрасно понимают, для каких целей им нужны чат-боты, знакомы с технологиями и вендорами, знают ориентировочную стоимость и сроки разработки. В ходе промышленной эксплуатации DialogOS и интеллектуальных помощников у них появляются идеи по совершенствованию платформы, которые «Наносемантика» включает в следующие релизы.

Помимо этого, компания продолжает развивать функциональность разметки данных, инструменты отладки и анализа качества работы интеллектуальных помощников, а также улучшать пользовательский опыт. Все это позволит сделать профессиональную диалоговую платформу DialogOS простой и доступной для пользователей без технических навыков.