МОСКВА, 5 марта. /ТАСС/. "Одноклассники" запустили нейросеть для борьбы с агрессивными высказываниями и разжиганием розни в публичных комментариях, сообщили в пресс-службе соцсети.
"Социальная сеть "Одноклассники" запустила технологию на базе нейросетей для борьбы с агрессивными высказываниями и разжиганием розни в публичных комментариях", - говорится в сообщении.
Нейросеть сама анализирует уровень агрессии в комментариях, затем передает данные модератору, который принимает дальнейшее решение по действиям с комментариями. При анализе изображений в комментариях алгоритм также определяет наличие шокирующего содержания и актов насилия, которые после проверки тоже будут удалены.
Пользователи, которые выражают агрессию и ненависть по отношению к другим в комментариях, получат временный запрет на комментирование любого контента в ОК. В десктопной версии соцсети пользователи, которые получили временный запрет на оставление комментариев, при попытке прокомментировать контент увидят сообщение с объяснениями и ссылкой на подробности о работе нового алгоритма. В ближайшее время эта функция появится и в приложениях на iOS и Android, пояснили в компании.
Похожую нейросеть использует и "ВКонтакте" - в сообществах администраторам доступен специальный фильтр для борьбы с враждебными высказываниями, который при включении определяет прямые угрозы и выражения ненависти к другим людям и удаляет враждебные комментарии.