«Одноклассники» сократили токсичность в комментариях с помощью нейросети

Социальная сеть «Одноклассники» почти вдвое снизила уровень токсичных комментариев под постами, фотографиями и видео благодаря искусственному интеллекту. У платформы появилась новая функция, которая автоматически выявляет грубые высказывания и ограничивает их авторов в возможности оставлять новые. В зависимости от того, как часто пользователь оставляет негатив в адрес других, его доступ к комментированию могут заблокировать на срок от одного часа до суток. Запуск этой модели позволил значительно сократить время, необходимое для обработки жалоб на токсичные публикации. Это, в свою очередь, помогает быстрее помочь людям в решении их проблем. «Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против „токсичности“», — рассказал директор по продукту ОК Александр Москвичев. В дополнение к другим продуктовым решениям, которые разработчики внедрили за последние два года, ограничение токсичных комментаторов поможет социальной сети не только быстрее вернуть на платформу пользователей, которые редко посещают ОК, но и привлечь новых. Ранее «Одноклассники» провели исследование и выяснили, как часто россияне меняют пароли в социальных сетях. Оказалось, что большинство опрошенных не придерживались рекомендаций экспертов и не обновляли пароли к своим учетным записям. Примерно 40% респондентов признались, что вообще не меняют пароли в социальных сетях, считая это неважным.