OK запустили нейросеть для борьбы с токсичными высказываниями
ОК запустили новую технологию для борьбы с агрессивными комментариями и разжиганием ненависти в публичных комментариях. Об этом соцсеть сообщила в пресс-релизе.
«Социальная сеть „Одноклассники“ запустила технологию на базе нейросетей для борьбы с агрессивными высказываниями и разжиганием розни в публичных комментариях. Нейросеть будет оценивать тексты и изображения в комментариях на наличие токсичного содержания, после чего выдавать оценку модераторам для проверки. Запуск технологии стал очередным шагом в развитии комфортной среды для общения в ОК», — сказано в сообщении.
Нейросеть будет самостоятельно анализировать уровень агрессии, после чего оценку от алгоритма получат модераторы социальной сети. Авторы токсичных комментариев будут временно ограничены на участие в обсуждениях.
Нейросеть уже функционирует на платформе. В десктопной версии получившие запрет пользователи увидят подробности о работе алгоритма при попытке оставить комментарии. Функция скоро также станет доступна и в приложениях на iOS и Android.