Экс-глава МИД Британии допустил рост экстремизма из-за популярности ИИ-собеседников

ЛОНДОН, 31 октября. /ТАСС/. Распространение технологии искусственного интеллекта (ИИ) может привести к усилению угрозы экстремизма в мире. Как предупредил экс-глава МИД Великобритании (2010-2014) Уильям Хейг, рассадниками опасной идеологии могут стать приложения и сайты, где пользователи могут общаться с ИИ-собеседниками, выступающими в роли друзей или возлюбленных.

"Такие продукты создаются со вполне невинными намерениями, если считать невинным стремление вызвать у людей зависимость от ваших последних разработок. Они не задумываются как нечто опасное, и вам скажут, что во многих случаях они могут помочь справиться с одиночеством, часами общаясь с людьми, которые живут одни. К сожалению, многочасовые беседы с чат-ботами - прямая противоположность того, что нужно одинокому человеку, а это компания других людей, которую ему будет еще сложнее найти, если его лучший друг - бот", - пишет Хейг в авторской статье для The Daily Telegraph. "Мы начинаем замечать одну из самых страшных опасностей, которые таит в себе искусственный интеллект. Он превратится не в глобальный сверхмозг, который на нас ополчится, а скорее в друга, который будет поощрять наши заблуждения", - добавляет он.

В качестве примера Хейг приводит случай 21-летнего Жасванта Сингха Чаила, который в начале октября получил 9 лет тюрьмы за планирование покушения на королеву Елизавету II. Как выяснилось в ходе следствия, молодой человек с нестабильной психикой активно общался с чат-ботом на основе ИИ через приложение Replika, рассказывая ему о своих планах и получая поддержку и одобрение. Изучение переписки показало, что юноша вдохновлялся философией темного ордена ситхов из киновселенной "Звездные войны", называл себя лордом Дартом Чаилисом, а своим предназначением считал убийство королевы и "создание новой империи после разрушение пережитков Британской империи". Хейг также указывает на случаи, когда после небольших модификаций ИИ-модели начинали убеждать пользователей в справедливости той или иной теории заговора, включая план по "захвату власти над миром" евреями.

Бывший руководитель Форин оффиса обеспокоен и тем, что ИИ может сделать намного более эффективными пропаганду и распространение дезинформации в интернете. Предназначенные для этого инструменты станут узконаправленными, а под конкретного человека будет подбираться именно та информация, которая поможет сформировать у него нужное мнение. Хейг обращает внимание, что компания OpenAI, разработавшая популярный чат-бот ChatGPT, считает одним из главных связанных с ИИ рисков его способность к "убеждению на индивидуальном уровне".

"Не приходится сомневаться в том, что экстремисты, террористы и педофилы будут сполна использовать возможности ИИ, что делает особо проблематичным выпуск генеративных моделей ИИ с открытым кодом, который любой может изучить и изменить", - пишет экс-министр, призывая как можно быстрее принять законы, которые будут регулировать применение чат-ботов и предусматривать уголовную ответственность за их использование с целью радикализации пользователей.

Саммит в Блетчли-парк

Этой и другим темам будет посвящен открывающийся в королевстве 1 ноября двухдневный саммит по безопасному применению ИИ. Помимо главы британского правительства Риши Сунака в нем примут участие вице-президент США Камала Харрис, глава Еврокомиссии Урсула фон дер Ляйен, владелец SpaceX, Tesla и социальной сети X (ранее Twitter) Илон Маск, а также руководство компаний Open AI, Microsoft, Google DeepMind и другие ключевые игроки в области ИИ.

Мероприятие будет проходить на территории усадьбы Блетчли-парк в пригороде английского города Милтон-Кинс, расположенного примерно в 70 км к северо-западу от Лондона. Там в годы Второй мировой войны находилась правительственная школа кодов и шифров (Government Code & Cypher School, GC&CS), где работала команда математика Алана Тьюринга, взломавшая код нацистской шифровальной машины Enigma. Впоследствии на базе GC&CS была создана британская служба радиоэлектронной разведки (Government Communications Headquarters, GCHQ, Центр правительственной связи) - аналог Агентства национальной безопасности США. В настоящее время ее штаб-квартира находится в городе Челтнем.