Пользователи "ВКонтакте" смогут защититься от оскорблений с помощью нейросети

МОСКВА, 4 ноября. /ТАСС/. "ВКонтакте" начинает тестирование функций, которые помогут в борьбе с оскорблениями и травлей в комментариях к сообщениям в социальной сети. Оба инструмента действуют на основе специальных алгоритмов, в том числе нейросети, которая распознает оскорбления, говорится в сообщении компании.

Как сообщает "ВКонтакте", администраторы сообщества смогут включить фильтр враждебных высказываний, после чего нейросеть будет удалять комментарии, содержащие различные виды угроз и агрессии. При этом администраторы увидят все удаленные комментарии и смогут восстановить их или отправить автора в черный список. Результаты эксперимента будут учитываться при дальнейшем обучении нейросети и ее доработке.

Помимо этого, в среду соцсеть расширяет прошлогодний эксперимент, в котором алгоритмы определяли наличие в комментариях признаков агрессии. Если при написании текста система определяла использованные слова как агрессивные, пользователю отправлялся совет не публиковать их. В прошлом году, по информации "ВКонтакте", эта функция помогла сократить количество оскорблений в комментариях на 36%. В этот раз фильтр будет определять более широкий спектр оскорблений и угроз: травлю по национальному признаку, оскорбления на почве религиозной принадлежности, возраста и пола и других характеристик.

Эксперимент приурочен ко Дню народного единства и будет длиться в течение суток. Возможность включения фильтров на постоянной основе представители компании изучат по результатам тестирования.