Чат-бот на основе Azure: помощник студентов и абитуриентов университета в США

Заказчик

Один из знаменитых университетов США

Задача

Автоматизировать общение между американским университетом, его абитуриентами и студентами. Снизить нагрузку на операторов. Предоставлять пользователям достоверную информацию в режиме 24/7.

Умный помощник

Чтобы помочь университету решить все его задачи, мы решили разработать умный чат-бот на основе LLM (большой языковой модели). Университет сотрудничает с корпорацией Microsoft, и поэтому имеет полный доступ к инфраструктуре для создания такого инструмента.

Мы стали партнерами учебного заведения и взяли на себя разработку чат-бота на основе набора продуктов от Microsoft: Azure и базы Dynamics.

Как работает чат-бот

С виду это обычный интерактивный чат: пользователь задает вопрос, бот отвечает. Главная проблема, с которой сталкиваются заказчики и разработчики таких инструментов: как сделать так, чтобы бот был полезен пользователю, а не вызывал лишь раздражение и желание написать «Позови оператора»?

Чтобы разработать полезный продукт, мы научили бота понимать множество вопросов и распознавать намерения пользователей. Все это — с помощью сервисов Microsoft Azure.

Вариативность вопросов

Мы загрузили в Azure список вопросов и ответы на них, а затем подключили отдельный сервис Microsoft — Question Answering. С этого момента бот был уже способен отвечать, но только если вопрос буква-в-букву совпадает с тем, что указан в Azure. Естественно, нам нужно было создать много вариантов вопросов, чтобы бот мог общаться с живым человеком.

Для достижения этой цели мы сгенерировали огромное количество вопросов через Chat GPT. Загрузили их в Azure, и теперь наш бот получил возможность давать консультации живым людям, которые пользуются естественным человеческим языком. Вы можете задавать вопрос в самых разных формулировках, и бот сможет найти правильный ответ в своей базе.

Как бот распознает намерения

Хороший чат-бот должен не только отвечать на вопросы, но и помогать пользователю совершить целевое действие. Чтобы распознать намерения пользователей, и какое действие они хотят совершить, мы подключили Microsoft Orchestration Workflow.

Так наш бот научился понимать, чего хочет пользователь — задать вопрос, авторизоваться в системе или, (внимание!), пожаловаться на профессора. Это последнее намерение вызывает форму обратной связи, где студент может указать, кем из преподавателей он недоволен и почему. Сообщение уходит в администрацию университета в виде email.

Где будет общаться бот

• SMS-сообщения. Подключили API сервиса Twilio для рассылок.
• Веб-виджет на сайте университета. 
• Telegram. Здесь мы тестируем работу помощника.

Сегментация аудиторий

Данные о студентах и их разговорах с ботом хранятся внутри Microsoft Dynamics. В будущем мы планируем запустить автоматическую сегментацию пользователей по аудиториям и рассылки по этим сегментам.

Например, если пользователь задает вопрос «Какие документы нужны для поступления?» мы сможем занести его в сегмент абитуриентов. Позже такая аудитория будет получать отдельную рассылку от университета, соответствующую ее потребностям и целям вуза.

***

Это не единственный проект, где мы решаем нестандартные задачи для российских и западных заказчиков. Больше интересного про блокчейн-дев, ChatGPT, разработку Proof of Concept и вейпы в офисе — в моем Телеграм-канале про жизнь, мысли и проекты студии Unistory. Подписывайся!