Все новости

"Настоящее "Черное зеркало". Кто и как борется с системой распознавания лиц в США

© AP Photo/Matt Rourke
Повсеместное внедрение технологии спровоцировало "цифровой протест"

Камеры сканируют людей на улицах, в общественном транспорте, в аэропортах и даже в социальных сетях. Технологию используют в колледжах и университетах, а также на концертах и фестивалях. Рассказываем, почему активисты из США выступают против этой системы и можно ли добиться ее запрета.

Сторонники системы распознавания лиц считают, что ее польза очевидна: она может помочь выследить преступников, найти пропавшего человека, да и вообще сделать гораздо безопаснее города и общественные пространства.

Использование этого инструмента в первую очередь стремятся расширить различные полицейские подразделения. Так, благодаря новой технологии правоохранителям из Мэриленда удалось задержать подозреваемого в стрельбе в редакции газеты Capital Gazette. Министерство национальной безопасности утверждает, что распознавание лиц помогает правительству лучше контролировать миграционные потоки и выявлять нелегалов. Над созданием и улучшением технологии активно работают Google, Microsoft, Amazon и Facebook.

Противники слежки

Однако некоторые уверены, что распознавание лиц вовсе не делает жизнь безопаснее, а как раз наоборот. По их мнению, технология занимается слежкой и вмешивается в частную жизнь. В распоряжении системы оказывается огромная база биометрических данных, которая может попасть в руки злоумышленников и применяться не по назначению. Также существует риск злоупотребления данными со стороны правоохранительных органов. В США уже были случаи, когда полицейские использовали секретные базы для слежки за своими партнерами, членами семьи, соседями и журналистами.

Кроме того, алгоритм все еще несовершенен. Он работает хуже применительно к женщинам, детям, людям с размытым гендером и к лицам неевропейского типа.

Борьба за будущее

Некоммерческая адвокатская группа в области цифровых прав из США Fight For the Future (FFF; Борьба за будущее — англ.) — одни из тех, кто активно выступают против вмешательства современных технологий в частную жизнь.

Как говорится на сайте организации, FFF — это сообщество художников, инженеров, активистов и технологов, которые стоят за крупнейшими в истории человечества онлайн-протестами. Они составляют петиции, запускают кампании в соцсетях и призывают бойкотировать организации, нарушающие правила приватности. Своей основной целью FFF называет борьбу за будущее, где технологии освобождают, а не угнетают людей.

Они обвиняли компанию Amazon в слежке через камеры дверных звонков и записи разговоров клиентов через приложение Alexa, выражали протест игровым площадкам, где геймеров цензурируют за их политические высказывания. Кроме того, организация призывала уволить Марка Цукерберга с должности главы Facebook из-за частых просчетов в работе с персональными данными.

"Цифровое сопротивление"

В последнее время FFF сосредоточилась на борьбе с системой распознавания лиц. По мнению активистов, ее внедрение активно лоббируют IT-компании ради получения прибыли. FFF призывает местных, государственных и федеральных законодателей официально запретить правительству и правоохранительным органам использовать такие инструменты.

У организации уже есть несколько заметных побед на этом направлении. В прошлом году она убедила организаторов порядка 40 музыкальных фестивалей, преимущественно из США, отказаться от неоднозначной технологии на своих мероприятиях. В их числе такие крупные площадки, как Coachella, Bonnaroo и SXSW. В кампании активно участвовали известные музыканты.

Одно из последних требований FFF — избавиться от системы в американских учебных заведениях, где сканирование лиц используют для пропуска в общежития и учета посещаемости. Организация призывает студентов и их родителей требовать запрета технологии на территории кампусов.

На официальном уровне

Чтобы обратить на проблему внимание властей, активисты отправились в Конгресс, где наглядно продемонстрировали законодателям минусы системы. С помощью закрепленных на головах смартфонов они отсканировали лица около 14 тыс. случайных людей. Для этого активисты использовали Rekognition — приложение компании Amazon.

' Fight for the Future/YouTube'

В результате им удалось точно распознать лишь одного законодателя, демократа от Калифорнии Марка Десолнье. При этом система ошибочно приняла некоторых людей за журналистов, лоббистов, а одного человека даже за певца Роя Орбисона, умершего в 1988 году. Ранее похожий эксперимент Американского союза защиты гражданских свобод закончился тем, что алгоритм Amazon перепутал фото 28 из 535 конгрессменов со снимками преступников. Таким образом активисты указали на одну из основных проблем с системой распознавания лиц — технология ошибается.

Более 30 американских общественных организаций, начиная с Совета американо-исламских отношений и заканчивая Greenpeace, одобрили кампанию, организованную FFF. Власти Сан-Франциско, Сомервилла, Беркли и Окленда первыми запретили местным правоохранительным органам использовать систему распознавания лиц. Позже Калифорния распространила этот запрет на весь штат. Мичиган, Массачусетс и Нью-Йорк в настоящее время рассматривают такую возможность. 

Комитет по надзору Палаты представителей США менее чем за год провел три слушания, посвященных этому вопросу.

"То, что мы видим здесь, — это настоящее "Черное зеркало", — заявила на одном из таких слушаний конгрессвумен из Нью-Йорка Александрия Окасио-Кортес, сделав отсылку к научно-фантастическому сериалу о темной стороне новых технологий.

Дмитрий Беляев

Теги