Все новости

В Москве состоялся первый форум "Этика искусственного интеллекта: начало доверия"

Участники форума считают, что кодекс этики ИИ повысит доверие общества к технологиям
Председатель совета директоров "Ленфильма" Федор Бондарчук, генеральный директор Infowatch Наталья Касперская, начальник управления президента РФ по развитию информационно-коммуникационных технологий и инфраструктуры связи Татьяна Матвеева, вице-премьер РФ Дмитрий Чернышенко, генеральный директор "Яндекса в России" Елена Бунина, председатель правления МТС Вячеслав Николаев и первый заместитель председателя правления Сбербанка Александр Ведяхин Михаил Джапаридзе/ТАСС
Описание
Председатель совета директоров "Ленфильма" Федор Бондарчук, генеральный директор Infowatch Наталья Касперская, начальник управления президента РФ по развитию информационно-коммуникационных технологий и инфраструктуры связи Татьяна Матвеева, вице-премьер РФ Дмитрий Чернышенко, генеральный директор "Яндекса в России" Елена Бунина, председатель правления МТС Вячеслав Николаев и первый заместитель председателя правления Сбербанка Александр Ведяхин
© Михаил Джапаридзе/ТАСС

МОСКВА, 26 октября. /ТАСС/. Кодекс этики искусственного интеллекта (ИИ) позволит обезопасить граждан и повысить доверие к этой технологии. К такому мнению пришли участники пленарной сессии в рамках проходящего 26 октября международного форума "Этика искусственного интеллекта: начало доверия".

В частности, они отметили, что правила помогут российским компаниям развиваться на международных рынках, и не оставят пользователя одного "наедине с ИИ".

Абсолютно безопасный ИИ

Форум открылся докладом вице-премьера Дмитрия Чернышенко. Он отметил важность технологий искусственного интеллекта. Так, по оценке экспертов Аналитического центра при правительстве России и Сбера, они позволят увеличить эффективность цифровой трансформации в шесть-семь раз.

"При расчете эффективности ИИ берется во внимание пять показателей: скорость, качество, уровень персонализации, экономическая эффективность и объективность", - сказал Чернышенко.

Вице-премьер сообщил, что в рамках форума будет подписан кодекс этики искусственного интеллекта, который позволит повысить доверие общества к новым технологическим решениям. В последнее время стремительно увеличивается число стран, в которых общество предъявляет повышенные требования к этике ИИ - более чем в 20 странах есть утвержденные кодексы частных или государственных организаций, рассказал он.

Система искусственного интеллекта должна быть абсолютно безопасна для человека, уверен Чернышенко: "Нужно работать над тем, чтобы у общества были поводы быть уверенными в том, что государство защищает. И мы должны это делать, развивая государственное и общественное этическое регулирование в этих областях".

По его словам, важная особенность ИИ-систем состоит в их масштабируемости, "поэтому нельзя допустить этические ошибки при их разработке". Вице-премьер уточнил, что системы ИИ должны быть безопасны для человека.

Он также сообщил, что документ станет обязательным для использования органами государственной власти, он будет "дополнительным фильтром", который будет защищать граждан. Чернышенко ожидает, что до конца года к кодексу присоединятся не менее 100 компаний.

Кодекс как модель угроз

Генеральный директор Infowatch Наталья Касперская, в свою очередь, указала, что в любой системе ИИ должна быть модель угроз.

"Сам кодекс, по сути, является моделью угроз, в котором часть угроз попытались оценить и предотвратить. В частности, ответственность за принятие решений должно оставаться за человеком, есть обязательность уведомления человека о том, что в данный момент с ним общается система ИИ", - сообщила она.

Тогда как любое недоверие к новым технологиям у человека связано с непониманием, считает председатель правления МТС Вячеслав Николаев. "И если в каких-то других технологиях можно объяснить, как она работает, то объяснить среднему человека то, как работает ИИ, крайне сложно", - отметил он.

По словам Николаева, важно, что в кодексе прописывается, что решения принимается не только одним ИИ: "Мы не оставим человека наедине с ИИ, у него всегда будет возможность обратиться к другому человеку, который, понимая всю специфику, сможет оспорить эту историю".

При этом двигаться в этом направлении следует постепенно, уверена генеральный директор "Яндекса в России" Елена Бунина.

"Мы не должны в этом месте отставать и спешить слишком тоже не должны. Мы должны идти по шагам. Сначала делать то, что понятно", - считает она.

Сохранить баланс

Начальник Управления президента РФ по развитию информационно-коммуникационных технологий и инфраструктуры связи Татьяна Матвеева подчеркнула, что кодекс открыт для подписания не только российскими компаниями, но и иностранными. По ее словам, тем самым будет сохраняться баланс: "кодекс позволит российским компаниям-разработчикам достаточно уверенно и хорошо себя чувствовать в рамках различных международных площадок, уверенно выводить свои продукты на международные рынки, и продукты, которые соответствуют кодексу, будут приниматься в том числе и зарубежным сообществом".

Немаловажным фактором начальник управления президента назвала и то, что положения кодекса этики ИИ с течением времени "должны пересматриваться в соответствии с возможными новыми вызовами, которые будут вставать в рамках развития новых технологий".

Практическую сторону применения кодекса этики ИИ отметил и первый заместитель председателя правления Сбербанка Александр Ведяхин.

"Несбалансированность принятия решений по этике может привести к падению стоимости компаний, отказу клиентов от работы с этими компаниями, и в итоге к не совсем устойчивому бизнесу. Тут большая практическая сторона этического кодекса", - сказал он.

Проблемы в ИИ

Среди проблем в сфере ИИ звучали такие, как нехватка кадров. Бунина рассказала, что спрос на дата-сайентистов продолжает расти, а хорошего специалиста найти трудно: "Во-первых, он должен быть хорош в математике, хорош в программировании или должен хотеть программировать и желать такую работу, и иметь долю таланта". К тому же, сложность заключается еще и в том, что программы подготовки таких специалистов должны меняться каждый год.

Режиссер, основатель кинокомпании Art Pictures Studio Федор Бондарчук отметил то, что пока что ИИ в индустрии производства контента не достиг уровня человека. Например, есть программы, которые позволяют делать базовый видеомонтаж. "Те трейлеры, которые создают ИИ, пока тоже выглядят… студенты получше клеят. Но все равно ты что-то чувствуешь, это откликается", - заметил режиссер.

По его словам, технологии продолжат развиваться и улучшаться. "Я не думал, что буду сегодня в свои 54 разговаривать о том, о чем читал в книгах", - поделился Бондарчук.

Тогда как Наталья Касперская отметила, что пока технологии развиваются, навыки людей падают. "Представьте себе на секунду, что "Яндекс.Навигатор" упал, "Яндекс.Карты" не работают, на семь часов, как был у нас сбой Facebook недавно. Сколько людей доберется до места, куда они хотели бы? От дома до работы еще доедут по инерции, но "Яндекс.Такси" встанет весь, потому что современные таксисты не знают города вообще. И это большая проблема, особенно в критических областях", - сказала она.

О кодексе

Пленарная сессия завершилась торжественной церемонией подписания вышеупомянутого кодекса этики ИИ. С помощью электронной подписи "Госключ" документ приняли Сбербанк, "Газпром нефть", "Яндекс" VK, МТС и Российский фонд прямых инвестиций, а также представители Сколково, "Ростелекома", Росатома, InfoWatch и ЦИАН.

Кодекс станет частью федерального проекта "Искусственный интеллект" и Стратегии развития информационного общества на 2017-2030 годы. Документ поделен на два раздела, куда входят в том числе такие темы, как стимулирование развития ИИ, повышение осведомленности об этике применения ИИ, идентификация ИИ в общении с человеком и информационная безопасность.

В декабре 2020 года президент Российской Федерации Владимир Путин призвал к разработке внутреннего морально-нравственного кодекса в сфере искусственного интеллекта. Глава государства отметил важность участия профессионального сообщества и бизнеса в формировании этических принципов использования ИИ.