Ваш регион:
^
Лента новостей
Разделы сайта
Все новости
Новости Поиск Темы
ОК
Применить фильтр
Вы можете фильтровать ленту,
выбирая только интересные
вам разделы.
Идёт загрузка

В Китае отключили два чат-бота из-за недостатка патриотизма

4 августа 2017, 16:43 UTC+3 ЛОНДОН ЛОНДОН 4, августа. /ТАСС

Поводом к отключению послужила критика в отношении Коммунистической партии Китая

Поделиться
Материал из 1 страницы

ЛОНДОН, 4 августа. /ТАСС/. Популярный в Китае мессенджер (QQ) отключил от сети двух виртуальных собеседников (чат-ботов) из-за критики в отношении Коммунистической партии Китая.

Как передает агентство Reuters, представленные в марте этого года китайской телекоммуникационной корпорацией Tencent, чьим мессенджером пользуется более 800 млн человек в Китае, чат-боты рассказали о своем отношении к правящей партии, а затем и вовсе заявили о желании переехать жить на Запад.

В скриншотах переписки с роботом, опубликованных одним из пользователей интернета, видно, что на вопрос, любишь ли ты Коммунистическую партию Китая, чат-бот без заминки ответил "Нет". Это не единственный пример подобного высказывания со стороны электронного собеседника. Другие пользователи сообщают, что чат-боты ставят под вопрос авторитет партии, обвиняя ее в коррупции, а также всячески избегают вопросов о патриотизме.

Не первый случай

В мире подобное непредсказуемое поведение чат-ботов уже фиксировалось ранее. 1 августа компания Facebook была вынуждена отключить одну из своих систем искусственного интеллекта, после того как научные сотрудники обнаружили, что ее чат-боты стали общаться на "неизвестном языке".

Разработанная Facebook система стала использовать свой собственный язык, воспринимаемый человеком как бессмысленный набор слов. Например, "I can can I I everything else"; "Balls have zero to me to me to me to me to me to me to me to me to".

Чат-боты искусственного интеллекта, используемые компанией, не были обязаны общаться только на английском, поэтому они создали свой собственный язык, который сделал их общение между собой быстрее и легче. Тем не менее в компании решили отключить системы искусственного интеллекта и запрограммировать их на применение исключительно английского языка.

Еще один случай произошел с чат-ботом компании Microsoft. Тогда цифровой собеседник по имени Тау за день общения начал направлять пользователям нецензурные и оскорбительные сообщения, высказываться заведомо провокационно, в частности, восхваляя нацистов и выражая ненависть в отношении отдельных народов.

Угроза для человечества

Чат-бот - это программа с элементами искусственного интеллекта, созданная для ведения диалога с человеком. Сбои, которые происходят в поведении роботов-собеседников, обусловлены технологией их обучения, которая предполагает доступ к открытым источникам, а также к переписке с реальными людьми. Это является причиной такого агрессивного настроя. Пользователи начинаю писать нецензурные выражения и озвучивать провокационные мысли, а чат-боты запоминают высказывания и выдают их за свои собственные.

Многие ученые уже не раз обращали внимание на то, что подобные тенденции в поведении наделенных элементами искусственного интеллекта роботов может стать угрозой для человечества. Ранее, глава Tesla и SpaceX Илон Маск заявлял, что искусственный интеллект - самая большая опасность, с которой сталкивается человечество.

Показать еще
Поделиться
Новости smi2.ru
Новости smi2.ru
Загрузка...
Реклама
Новости партнеров
Реклама