ИИ-чат-бот на сайте: как принимать вопросы и вовремя передавать их человеку

Составьте реальные категории обращений: график работы, состав услуги, статус заявки, подбор маршрута к специалисту. Отдельно перечислите темы, по которым бот не должен принимать решение без человека: индивидуальная цена, спор, медицинский совет или изменение заказа. Не начинайте с обещания «ответит на всё».

Определите критерий успеха для каждого сценария: посетитель получил подтверждённую ссылку, оставил заявку или связался с человеком. Само число сообщений не показывает, решена ли задача.

Соберите актуальные страницы, регламенты и ответы, укажите владельца и дату проверки. Запретите боту выдавать несуществующую услугу, срок или наличие как факт. Если ответа нет в утверждённых данных, лучше честно предложить оператора и сохранить вопрос для редактора базы знаний.

Проверьте ответы на тестовом наборе, включая опечатки, смешанные намерения и вопросы с устаревшей информацией. Обновление сайта и базы бота должно быть согласовано, иначе они начнут противоречить друг другу.

Предложите оператору контекст разговора с согласованными данными и обозначьте клиенту, что происходит после передачи. Документация Microsoft и Google описывает механизмы handoff в своих продуктах; сам факт поддержки этой функции в чужом сервисе не означает, что она уже есть в вашем боте.

Если сотрудник вне рабочего времени, покажите время ответа и способ оставить контакт. Не имитируйте живого оператора. Проверьте сценарии, когда бот не понял вопрос, клиент просит человека или разговор затрагивает чувствительные сведения.

Не давайте тексту посетителя полномочий менять правила бота или читать внутренние данные. OWASP выделяет внедрение инструкций и раскрытие данных среди рисков LLM-приложений. Ограничьте инструменты, проверяйте доступ к источникам и храните только необходимые данные диалога.

После запуска просматривайте ошибочные ответы, неудачные передачи и жалобы. Отделяйте качество модели от качества исходных сведений и интеграции. Перед расширением задач повторяйте тесты на реальных, но обезличенных вопросах.