Новейший чат-бот от Microsoft отключен до создания защиты от вандалов

НЬЮ-ЙОРК, 26 марта. /Корр. ТАСС Иван Пильщиков/. Американская корпорация Microsoft отключила разработанную ею и размещенную в интернете программу виртуального собеседника под названием Tay из-за действий вандалов. Как говорится в опубликованном в пятницу на сайте компании заявлении ее вице-президента Питера Ли, перезапуск проекта возможен после того, как специалисты создадут надежную защиту от сетевых хулиганов.

Tay представляет собой усложненную версию так называемого чат-бота или виртуального собеседника. В программы этого типа заложена функция давать как можно более уместные и логичные ответы на реплики пользователей, поддерживать "разговор" с ними путем обмена текстовыми сообщениями. Предполагалось, что Tay будет имитировать стиль речи 19-летней американской девушки и общаться через Twitter.

В Microsoft утверждали, что в их новейшей разработке использованы элементы искусственного интеллекта, что должно было сделать программу особенно "умелой" в построении диалогов. Между тем, первые испытания чат-бота, которые начались в среду, 23 марта, были не слишком удачными. Многие пользователи стали направлять программе нецензурные и оскорбительные сообщения, высказывались заведомо провокационно, в частности, восхваляя нацистов, выражали ненависть в отношении отдельных народов.

Очень быстро Tay, обученная строить свои ответы частично на репликах собеседников, "подхватила" лексикон сетевых хулиганов и стала публиковать сообщения в таком же ключе. Почти все они уже удалены модераторами.

Ошибки учтены

"Мы глубоко сожалеем о том, что от Tay поступали оскорбительные и агрессивные "твиты", это не было запланировано и не отражает то, за что мы выступаем и для чего разработали ее, - подчеркнул в связи с этим Ли. - Сейчас она отключена, и мы планируем включить ее лишь после того, как будем уверены, что эффективнее сможем предотвратить вредоносные действия, которые не согласуются с нашими принципами и ценностями". Ли заверил, что компания извлекла важный урок из произошедшего и теперь лучше сможет защитить чат-бот от целенаправленных атак такого рода.

"Чтобы сделать искусственный интеллект правильно, нужно взаимодействовать с большим числом людей, часто на публичных площадках, - добавил он. - Нам следует заходить на них с большой осторожностью, с тем, чтобы учиться и совершенствоваться шаг за шагом, не оскорбляя при этом людей".

Ли напомнил, что у компании есть и удачный опыт создания виртуальных собеседников. "Отмечу, что Tay не была нашим первым приложением, основанном на искусственном интеллекте, которое мы разместили в сети, - указал он. - В Китае наш чат-бот XiaoIce используют около 40 млн человек, они наслаждаются диалогами и историями". XiaoIce была запущена в 2015 году, считается, что, переписываясь с ней, пользователи лишь примерно через 10 минут понимают, что беседуют не с человеком, а с программой.

На запрос ТАСС о предоставлении дополнительных комментариев относительно возобновления работы Tay представители Microsoft пока не ответили.