Модераторы Facebook могли раскрыть свои персональные данные потенциальным террористам

ЛОНДОН, 16 июня. /ТАСС/. Модераторы Facebook могли раскрыть свои персональные данные пользователям социальной сети, подозреваемым в терроризме, из-за ошибки в программном обеспечении (ПО). Об этом сообщает британское издание The Guardian.

По его данным, более тысячи сотрудников из 22 отделов пострадали от уязвимости ПО, с помощью которого модераторы отслеживают и удаляют нежелательный контент. В соответствии с правилами пользования платформой, запрещено размещать посты, носящие сексуальный характер, разжигающие ненависть или содержащие пропаганду терроризма.

Сорок человек из числа пострадавших являлись сотрудниками расположенного в Дублине отдела Facebook, который занимается противодействием пропаганде терроризма. Одному из них пришлось покинуть Ирландию после того, как он обнаружил, что его профиль просмотрели семь удаленных им пользователей, связанных с террористической группировкой "Исламское государство" (ИГ, запрещена в РФ).

По информации The Guardian, в результате уязвимости администраторы групп, нарушавшие правила пользования сервисом и удаленные с платформы модераторами, автоматически получали информацию о персональных данных модераторов через журнал действий. Их личные данные становились также доступны другим администраторам группы.

Ранее Facebook информировал, что ведет тестирование нового ПО для противодействия пропаганде в сети экстремизма и терроризма. Эти технологии опираются на элементы искусственного интеллекта и позволяют реже задействовать людей при принятии решения об удалении или блокировании запрещенного контента. Один из наборов алгоритмов позволяет выявлять и даже автоматически препятствовать пользователям из числа идеологов терроризма открывать новые аккаунты в соцсети вместо блокированных ранее. Другой инструмент опирается на технологию искусственного интеллекта, "обученного" распознавать особенности и нюансы речи, а также письменного стиля изложения вербовщиков.

Как пояснили в компании, эти наработки более эффективны в автоматическом распознавании контента экстремистского толка. Соответственно, сокращается число случаев, когда требуется вмешательство модератора Facebook, чтобы принять окончательное решение об удалении учетной записи или фрагмента информации.