Все новости

Стоп колумбайну. В Перми создали систему мониторинга опасной информации в соцсетях

Евгений Рабчевский
© Компания СЕУСЛАБ
Совсем скоро в Перми представят разработку, благодаря которой можно будет вовремя заметить социально опасные субкультуры и явления в русскоязычном сегменте интернета

В последнее время на фоне участившихся случаев подростковой агрессии в учебных учреждениях разработчики задумались о том, как отслеживать потенциально девиантное поведение детей и подростков, чтобы вовремя понять: может произойти непоправимое. Такая программа была создана, а спрос на нее появился еще до разработки.

Мониторинг для органов

Основатели компании СЕУСЛАБ работают с системами мониторинга уже 12 лет. За это время группа разработчиков создала программу СЕУС, задуманную как "продукт для поиска, мониторинга и анализа открытой информации из пространства социальных медиа".

"Изначально, по нашей задумке, мы не ограничивали возможности программы какой-то конкретной областью, к примеру поиском экстремистских материалов. Мы создали универсальный продукт, способный помочь решить многие задачи: от поиска экстремистских материалов до фундаментальных маркетинговых и социологических исследований. Но уже на этапе апробации программа оказалась уникальным решением для государственных структур, поэтому развивалась исключительно в этой логике", — рассказал генеральный директор компании Евгений Рабчевский.

С 2012 по 2015 год компания проводила апробацию программы в подразделениях правоохранительных органов по всей стране.

Основной задачей было обнаружение в интернете экстремистских материалов и публикаций террористической направленности.

"Сейчас программа СЕУС активно используется в деятельности правоохранительных органов более 20 регионов России", — добавил Рабчевский.

Социальные деструкции и борьба с ними

Однако создание этой программы было только началом и, по словам руководителя учебно-аналитического центра компании и руководителя проекта "Георгий Победоносец" Евгения Ашихмина, стало своеобразной пробой пера команды.

"В течение последних лет особую актуальность приобрели задачи борьбы с новыми вызовами цифрового мира. Я сейчас говорю про социально опасные субкультуры и явления, распространившиеся в социальных медиа страны: скулшутинг, суицидальные игры, оккультные течения и другие деструкции", — отметил руководитель нового проекта компании.

Евгений Ашихмин Компания СЕУСЛАБ
Описание
Евгений Ашихмин
© Компания СЕУСЛАБ

Для борьбы с этими новыми явлениями информационной среды компания разработала новую систему мониторинга "Георгий Победоносец".

"Мы делаем "Георгия", чтобы пресекать подобное, бороться с этими социально опасными вещами. Мы верим, что с помощью этой программы удастся сделать жизнь наших детей безопаснее, — рассказал Евгений Ашихмин и добавил: — Как говорит великий педагог Шалва Амонашвили: "Дети от рождения несут в себе добрые намерения. Ребенок не зол, но он очень быстро может усвоить дурные привычки". Можно так описать и нашу позицию в целом".

Над новой системой мониторинга работают специалисты из разных регионов страны и эксперты из множества областей знаний, в том числе психологии и психиатрии. Программа интуитивно понятна и удобна в использовании.

"Георгий" получил сразу несколько видов анализа и представления данных, несколько режимов работы, что позволяет решать широкий спектр задач. В программу заложены очень сильные технологии искусственного интеллекта, машинное обучение и еще множество функциональных возможностей", — рассказал руководитель проекта.

Если СЕУС — "базовый" уровень для анализа информации, то "Георгий Победоносец" — уже "применение всех современных технологий искусственного интеллекта для максимально автоматизированного поиска и анализа информации".

"Если в программе СЕУС мы предполагали, что пользователь должен быть погружен в предметную область, владеть терминологией, лексикой, то "Георгий Победоносец" позволяет без предварительного обучения и погружения в предметную область практически в автоматическом режиме выявлять факты вовлеченности пользователей в социально опасные субкультуры", — добавил генеральный директор компании.

Уже известно, что "Георгий Победоносец" будет обладать искусственным интеллектом, а в его разработке применяют методы машинного обучения. Система сможет одновременно настраиваться и проводить мониторинг сразу нескольких тематик, например, экстремизм, колумбайн, терроризм, призывы к суициду.

Как работает "Георгий"

Визуально новая система напоминает ленту новостей, как в социальных сетях, только вместо новостей она показывает потенциально опасный контент, отобранный в этих самых соцсетях. Затем система дает сигнал пользователю о, вероятно, деструктивной информации, формирует отчет за определенный период и передает его психологу — для дальнейшей обработки и принятия решения о ее опасности или безопасности.

В случае, если информация признается потенциально опасной, сведения о ее распространителе отправляются в профильные органы.

"Когда "Георгий" находит опасность, к примеру профиль ребенка, вовлеченного в суицидальную игру, то сигнализирует об этом пользователю. А далее начинается процесс межведомственного взаимодействия и работают уже непосредственно с конкретным человеком, вовлеченным в суицидальную игру или течение колумбайна", — объяснил Евгений Ашихмин.

При этом, как отметил Евгений Рабчевский, система не имеет доступа к закрытым страницам социальных сетей и осуществляет мониторинг только открытой информации.

"Есть комплексная проблема с тем, что в стране происходят такие происшествия. Мы не говорим, что мониторинг социальных сетей — это панацея, мы говорим, что это реальный инструмент, который работает — и работает быстрее всего. И даже той информации, которую можно получить из открытых источников, уже достаточно для того, чтобы предотвратить реальные ситуации. Это как один из вариантов, самый быстрый", — отметил он.

Релиз системы

Выпуск системы "Георгий Победоносец" СЕУСЛАБ планируют весной 2019 года.

Как отметил гендиректор компании СЕУСЛАБ Евгений Рабчевский, основными пользователями программы станут АНО, кибердружины, школы, психологи, центры мониторинга. "Кроме этого, программа найдет свое применение и в государственных структурах различного уровня", — добавил Рабчевский. Сейчас программа уже предложена к использованию руководству Пермского края.

Несмотря на дороговизну создания и поддержки продукта, а затраты на создание такой системы эксперты оценивают в 200 млн рублей, а ее ежегодная поддержка может обойтись еще в 100 млн, руководство СЕУСЛАБ планирует сделать его доступным для всех регионов.

"Стоимость подключения региона к системе может составлять от одного до пяти миллионов рублей в год. Все зависит от численности населения субъекта Российской Федерации. Мы считаем, что затраты можно распределить на достаточно большое количество клиентов", —  отметил генеральный директор СЕУСЛАБ.

Анастасия Аверкова