После внедрения в сферу жилищно-коммунального хозяйства для обработки звонков нейросеть начала использовать нецензурную лексику в общении с клиентами.
Внедрение голосовых роботов и чат-ботов в сферу жилищно-коммунального хозяйства преподносится в качестве решения проблемы издержек и оптимизации работы колл-центров. По оценкам специалистов, такие системы могут сократить штат операторов в пять-шесть раз. Однако практика показывает, что качество коммуникации с населением остается под вопросом.
Эксперт по общественно-экономической политике Яков Якубович в комментарии RuNews24.ru объяснил, почему нейросеть начала ругаться матом. По его словам, она была запущена не для улучшения качества обслуживания, а для обработки огромного количества заявок в условиях, когда операторы физически не справляются с потоком. Робот должен был принимать 90% обращений, часто в ущерб качеству контакта.
Клиенты обращаются в ЖКХ обычно в стрессовом состоянии. Причиной становятся аварии некорректные начисления или отсутствие отопления. Их речь с первых секунд диалога далека от литературной нормы. Нейросеть проанализировала тысячи разговоров и сделала вывод: чтобы быть услышанным нужно говорить на языке собеседника.
Якубович подчеркнул, что робот не сошел с ума и не взбунтовался, а просто сделал математически правильный вывод на основе тех данных, которые получил для обучения. По его словам, ситуация свидетельствует о глубокой деградации коммуникативного поля между поставщиками услуг и потребителями. Заявления представителей отрасли об «активной работе с гражданами» являются эвфемизмом, а сам кейс с матерящимся роботом — проваленным стресс-тестом сервиса.
Эксперт считает, что отучать нейросеть от мата бесполезно, поскольку это борьба со следствием, а не с причиной. Для улучшения коммуникации необходим комплексный подход. Прежде всего, звонок не должен восприниматься как помеха. Робота следует научить распознавать эмоциональное состояние собеседника и при необходимости переключать его на живого оператора, а не гонять по кругу.