Все новости

Соцсети начнут больше бороться с фейками. Каковы их шансы на успех?

© Алексей Дурасов/ТАСС
С 5 марта Twitter начнет удалять фейковые видео и фото или помечать их соответствующим образом. Ранее Facebook объявил, что начнет разработку алгоритма, который будет отличать deepfake-изображения.

При этом в соцсетях хватает фейков, созданных без нейронных сетей, которые меняют лица знаменитостям и подделывают голоса. Никуда не исчезают призывы репостить информацию о том, что "Facebook/Instagram/ВКонтакте заберет наши фотографии", "в этом торговом центре похищают детей", а "в Подмосковье собираются усыпить 20 служебных овчарок". Пока у площадок не вышло победить ни старые фейки, ни новые — созданные алгоритмами. 

Зачем бороться с дипфейками

Дипфейки — технология, которую можно использовать для мошенничества, кражи денег с банковских счетов и дискредитации публичных лиц. В прошлом году в Великобритании группа мошенников использовала подделанные с помощью ИИ аудиозаписи с целью заполучить около $243 тыс. якобы по требованию главы немецкой компании у своих партнеров в Великобритании. Гендиректор компании думал, что говорил по телефону с боссом, который просил его в течение часа отправить деньги венгерскому поставщику.

В другом ролике авторы замедлили запись выступления оппонента президента-республиканца Дональда Трампа — спикера Палаты представителей Конгресса США Нэнси Пелоси. В результате создавалось впечатление, что она пьяна или находится под воздействием наркотиков. Этот дипфейк повлек за собой громкий скандал, только спустя некоторое время было доказано, что речь Пелоси сгенерирована компьютером. 

В прошлом году в русскоязычном сегменте Facebook пользователям показали видео, в котором журналист Юрий Дудь предлагает переходить по ссылке и участвовать в розыгрыше призов. Фейковый Дудь выглядел реалистично, если не считать контекста. Этот фейк со своим участием телеведущий не сразу заметил и опроверг в своих соцсетях, наверняка хватило пользователей, которые отправились по ссылке и оставили о себе кучу информации, чтобы поучаствовать в раздаче призов.

Что делают соцсети

Twitter будет маркировать фото и видео, если его алгоритмы заметят, что медиафайлы были созданы или отредактированы, чтобы ввести людей в заблуждение. Такие посты будут сопровождаться пояснением, что они подвергались существенным изменениям. Кроме использования маркировки соцсеть станет реже показывать эти фейки. А если посчитает, что фейк создает угрозу безопасности людей, нарушает право на частную жизнь или может вызвать массовое насилие и беспорядки, будет удален.

У соцсетей для отслеживания плохого контента есть алгоритмы и команды модераторов. Но, например, алгоритмы хорошо справляются с поиском текстовых постов, потому что ищут по стоп-словам и словосочетаниям. Искать фейковые видео и фото — труднее. Осенью 2019 года Facebook анонсировал Deepfake Detection Challenge. Вместе с Microsoft, MIT, Калифорнийским университетом в Беркли, Оксфордским университетом соцсеть проведет соревнование разработчиков алгоритмов, которые смогут отличать deepfake видео и фото от подлинных.

А что насчет старых фейков?

Наряду с дипфейками в соцсетях хватает и "бородатых" тестовых фейков. С начала 2010-х время от времени вы видите вирусные посты о "новом правиле, согласно которому Instagram/Facebook/Twitter с завтрашнего дня сможет использовать ваши фотографии". Начинается пост с предупреждения вроде: "Не забывайте, завтра вступает в силу новое правило соцсети, которое разрешит использовать ваши фото". Пользователей призывают копировать текст и размещать на своих страницах. 

Впервые этот фейк появился в англоязычном пространстве, его опровергала соцсеть и разоблачал проект Snopes, который был создан для развенчания глобальных слухов и городских легенд. Но история продолжает жить. Летом 2019 года она прошлась по русскоязычному сегменту Facebook и с меньшим успехом — по "ВКонтакте". А потом добралась до англоязычного Instagram. К ужасу пользователей, знающих что это фейк, аларм распространяли селебрити с многомиллионной аудиторией — актриса Джулия Робертс, певица Джесси Джей, актриса Эван Рэйчел Вуд ("Холодное сердце — 2"), режиссер Ненси Мейерс. 

Этот сюжет ("соцсети заберут фотографии") — не единственный популярный. В родительских группах в WhatsApp люди предупреждают друг друга о злоумышленниках, которые "угощают детей наркотиками под видом конфет" или "похищают школьников в торговых центрах". Уже лет десять пользователи пристраивают "20 служебных овчарок, которых хотят усыпить в Подмосковье".

Соцсети, вообще-то, признают фейки одной из главных проблем (наряду с буллингом, преступностью, пропагандой терроризма и насилием) интернета, но, судя по публичной политике, чистят только те вирусные посты, которые могут принести вред, игнорируя внешне безобидные.

Например, сейчас в интернете появляются фейки, связанные со вспышкой нового коронавируса, Facebook сообщил, что будет удалять всю рекламу препаратов, которые якобы лечат от коронавируса.

Сеть "ВКонтакте" уточнила по запросу ТАСС, что "ограничивает доступ к информации, которая вводит в заблуждение и развивает другие инструменты, помогающие бороться с распространением недостоверного контента, потенциально опасного для жизни и здоровья". "Наши модераторы блокируют пользователей и сети ботов, которые устраивают массовые рассылки однотипной информации. В прошлом году мы начали показывать предупреждения о потенциально недостоверной информации в сообществах, которые посвящены отказу от прививок. В таких группах появилась плашка с предостережением и призывом прочитать статью о вакцинации. Она подготовлена совместно со Всемирной организацией здравоохранения. ВОЗ называет недоверие к вакцинам одной из десяти глобальных угроз человечеству".

Есть проблема: людям нравятся фейки

Были случаи, когда попытки соцсетей почистить фейки давали обратный эффект. 

"Facebook пару лет назад начал помечать фальшивые новости соответствующими маркерами, и охват этих публикаций вырос, — говорит научный журналист Борислав Козловский, автор книги "Максимальный репост. Как соцсети заставляют нас верить фейковым новостям". — Пользователи распространяли их с припиской: "Друзья, соцсеть хочет скрыть от нас правду, не позволим заставить нас молчать, давайте распространять активнее". Я придерживаюсь популярного мнения среди исследователей фейков — площадки не смогут никогда избавиться от такого контента. И пользователи не заинтересованы в том, чтобы фейки исчезли, — распространение таких сообщений дает человеку приятные эмоции. Это такая возможность почувствовать себя героем — я предупрежу других об опасности..."

В 2018 году в журнале Science вышла статья о результатах исследования о фейках ученых из Массачусетского технологического института. Они проанализировали 126 тыс. цепочек фейковых сообщений в Twitter. Каждая цепочка касалась какой-то фальшивой новости. И выяснили, что пользователи репостят фейки на 70% чаще, чем обычные новости, и распространяются они быстрее.

Четыре фейковых сюжета

Одна из исследовательниц фейков в России Александра Архипова, антрополог, исследователь группы "Мониторинг актуального фольклора", автор книги "Опасные советские вещи" (про фейки в СССР), объясняет, почему такие истории неискоренимы.

"Городские легенды о черных трансплантологах, похищающих детей, крысах-мутантах в подземках появлялись до того, как появилась Сеть. Жители Древнего Рима предупреждали друг друга о том, что возле канализации живут огромные голодные осьминоги, — рассказывала Архипова на своей лекции на прошлом московском "Гик-Пикнике". — Жители современных мегаполисов распространяют фотографию человека, который держит в руке огромную крысу, — якобы крысы-мутанты заполонили городское метро. В легендах меняется время, место, пугающий объект, но суть остается прежней".

Архипова говорит, что есть четыре популярных фейковых сюжета. Три — это истории, вызывающие у людей страх, отвращение, ненависть.

Воплощение городской легенды с крысой (к ней же относятся фейки с зажаренным крысиным хвостом в сетевом фастфуде). Фальшивый твит — ложный аккаунт якобы участника события, который предупреждает о некой угрозе. "Распятый мальчик": в 2014 году в соцсетях расходился жуткий фейковый пост о том, что якобы украинские военные казнили на площади Славянска ребенка на глазах у его матери.

И четвертый — фальшивый герой. Эта история вызывает сочувствие — простой человек спас людей во время трагедии, но при этом погиб сам. "О нем не пишут СМИ, но мы должны распространить это сообщение", — передают друг другу пользователи. После трагедии в Керчи в соцсетях разошлась фотография учителя физкультуры, который якобы погиб при спасении детей. Его не существовало в действительности. История с псевдогероем отличается по концепции, но не по сути и цели: власти замалчивают, пресса не пишет, мы должны рассказать...

К чему приводят фейки

Существуют стереотипы, что в фейки верят люди с низким уровнем образования, малоопытные пользователи интернета, говорит Александра Архипова. "На моих лекциях слушатели всегда начинают предполагать, что эти фейки передают малообразованные женщины, домохозяйки, пожилые люди…" — перечисляет она. Это неверные стереотипы. "Социальные психологи Роланд Имхов и Пиа Каролайн Лэмберти провели серию экспериментов, в ходе которых запускали конспирологические слухи в группы подопытных, а потом отслеживали, кто их распространяет. Те из подопытных, кто хотел быть особенным, стремились привлекать всеобщее внимание, но не чувствовали себя успешными в этом, активнее распространяли коспирологические тексты, идущие против "мнения большинства", — говорит Архипова.

Из-за стереотипов о домохозяйках, которые пугают своих подруг-домохозяек, к фейкам часто относятся несерьезно. В самом деле, что ужасного, если мамы будут лучше следить за детьми, пусть и услышав про очередную банду трансплантологов? Но истории, над наивностью которых кто-то может посмеяться, — не безобидный спам. Борислав Козловский в своей книге "Максимальный репост. Как соцсети заставляют нас верить фейковым новостям", вышедшей в издательстве "Альпина", приводит реальные истории, которые доказывают это.

"28-летний автомеханик садится с тремя подмастерьями в автомобиль и отправляется по делам в деревню неподалеку. Дело происходит на севере Индии, в штате Джаркханд, в мае 2017 года. На полпути машина утыкается в стихийный блокпост, где дежурят взволнованные местные. Автомеханик не ждет от людей на блокпосту, вооруженных палками и кирпичами, ничего хорошего — и жмет на газ. Это ошибка. Дом родственников, где автомеханик остановится переночевать, к утру окружит тысячная толпа и потребует выдать гостей. Погибнут все четверо, тела и машину толпа сожжет... Историю спровоцировала фальшивая новость, которую жители Джаркханда пересылали друг другу с телефона на телефон в мессенджере WhatsApp. В сообщении говорилось, что загадочные "люди в черном" перебираются из деревни в деревню, похищают и убивают детей. Фотографии (каких-то) изуродованных детских тел рассылали вместе с новостью — поэтому места для сомнений не оставалось: вот же фотоснимок, что тут обсуждать. И тогда самые смелые организовывают на дороге свой блокпост".

"В декабре 2016-го в американской столице Вашингтоне человек пришел в пиццерию с автоматической винтовкой. Он не выглядел как арабский террорист — это был 28-летний блондин с хипстерской бородой по имени Эдгар Уэлш, который накануне приехал из маленького городка с 30-тысячным населением. Полиция легко уговорила его сдаться. Уэлш не хотел устраивать теракт, его задачей было с оружием в руках восстановить поруганную справедливость. И в Вашингтоне Уэлша интересовали не Белый дом, не здание Конгресса и даже не штаб-квартира Международного валютного фонда, которые принято обвинять в разных бедах простых бедных людей, — а пиццерия под названием "Комет Пинг-Понг" на одной из второстепенных улиц, куда он со своей винтовкой зашел и сделал несколько выстрелов. К счастью, он ни в кого не попал. Полиции Уэлш потом объяснил: пиццерия — не что иное, как прикрытие штаба педофилов, поставляющего детей для сексуальных развлечений Хиллари Клинтон и ее соратникам по демократической партии. Об этом, рассказал он, писали в интернете.

Сюжет действительно активно упоминался в новостях и даже получил название "Пиццагейт". Сайт WikiLeaks выложил украденную переписку главы избирательного штаба Клинтон, где среди прочего упоминалась пицца с сыром. Бдительные читатели решили — это неспроста: слова сheese pizza ("сырная пицца") начинаются с тех же букв, что и child porn ("детское порно"), и наверняка служат заговорщикам кодом, эвфемизмом для обозначения своих тайных планов. Пиццерия "Комет Пинг-Понг" обратила на себя внимание тем, что там глава штаба подозрительно часто для политика отмечал свои дни рождения. Совпадение? Вряд ли. Новые свидетельства объявлялись одно за другим. Фейковые новости пиццерии напоминают "тайный знак педофилов", ее посетители в отзывах на сайте упоминают носящихся по залу "детей без присмотра" — какие доказательства еще нужны неравнодушному гражданину своей страны? Поэтому Уэлш взял винтовку и решил: пора действовать. И убитые в Индии, и Уэлш, которого посадили в тюрьму на четыре года, и посетители пиццерии, выжившие по чистой случайности, — жертвы фальшивых новостей".

Как клиенты Сбербанка пошли к банкоматам из-за фейка

Массовая паника может не привести к таким печальным последствиям, но и следующая история показывает, что фейк заставит вас выйти на улицы. В декабре 2014 года в соцсетях разошлась ложная новость, что карты Visa перестанут работать в определенный день в 00 часов 00 минут. Эта новость привела к массовой выемке наличных из банкоматов Сбербанка.

"Мы узнали о том, что ряд банкоматов стоят пустые без денег. У людей начиналась паника. В первой половине дня из наших устройств было снято более 250 млрд рублей", — рассказывал зампред правления Сбербанка Станислав Кузнецов.

Что будет с фейками дальше

Когда мы спрашиваем "исчезнут ли фейки?", следует задавать вопросы:

  • Исчезнет ли через 10–20–30 лет потребность человека во внимании, желание быть уникальным?
  • Исчезнет ли мошенничество?
  • Исчезнут ли попытки одних политиков/предпринимателей подпортить репутацию другим политикам/предпринимателям? 

Вряд ли, соответственно, фейки останутся, если, конечно, площадки не придумают революционно новых способов борьбы с ними. Пока все, что пытаются сделать социальные сети, не революция, а лишь сдерживание потока информации, которая потенциально может принести явный вред.

Анастасия Степанова