"ВКонтакте" тестирует нейросеть для борьбы с враждебными высказываниями

МОСКВА, 20 августа. /ТАСС/. "ВКонтакте" тестирует решение автоматического распознавания материалов с враждебными высказываниями (так называемый хейтспич) на основе искусственного интеллекта, говорится в сообщении компании.

В соцсети рассказали, что нейросеть позволит быстрее находить материалы с враждебными высказываниями, а также публикации, которые провоцируют аудиторию проявлять агрессию. "Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний", - уточнили там.

Так, чтобы усилить модерацию по теме языка ненависти и обучить искусственный интеллект, "ВКонтакте" добавила новую категорию жалоб - "Враждебные высказывания". Она позволит точнее откалибровать уже существующие инструменты и собрать набор данных для новых решений на основе нейросетей. Кроме того, модераторы соцсети проводят проактивный внутренний мониторинг, в частности с помощью механизмов автоматического поиска, технологии цифровых отпечатков и нейронных сетей.

За первую половину 2020 года "ВКонтакте" удалила 520 тыс. единиц контента по теме разжигания вражды и ненависти, а также заблокировала более 1 тыс. профилей и почти 2,5 тыс. сообществ, распространяющих враждебные высказывания.