Все новости

Доверие, безопасность и конкурентоспособность. Зачем нужен кодекс этики для ИИ

Кодекс, разработанный Альянсом в сфере ИИ, уже подписали Сбер, Яндекс, МТС, VK, "Газпром нефть" и Российский фонд прямых инвестиций, а также ведущие компании и научно-исследовательские организации
Председатель совета директоров "Ленфильма" Федор Бондарчук, генеральный директор Infowatch Наталья Касперская, начальник управления президента РФ по развитию информационно-коммуникационных технологий и инфраструктуры связи Татьяна Матвеева, вице-премьер РФ Дмитрий Чернышенко, генеральный директор "Яндекса в России" Елена Бунина, председатель правления МТС Вячеслав Николаев и первый заместитель председателя правления Сбербанка Александр Ведяхин Михаил Джапаридзе/ТАСС
Описание
Председатель совета директоров "Ленфильма" Федор Бондарчук, генеральный директор Infowatch Наталья Касперская, начальник управления президента РФ по развитию информационно-коммуникационных технологий и инфраструктуры связи Татьяна Матвеева, вице-премьер РФ Дмитрий Чернышенко, генеральный директор "Яндекса в России" Елена Бунина, председатель правления МТС Вячеслав Николаев и первый заместитель председателя правления Сбербанка Александр Ведяхин
© Михаил Джапаридзе/ТАСС

МОСКВА, 26 октября. /ТАСС/. Крупнейшие технологические компании России приняли кодекс этики в сфере искусственного интеллекта (ИИ), устанавливающий общие этические принципы и стандарты поведения, которыми могут руководствоваться причастные к сфере. Подписание документа состоялось в рамках международного форума "Этика искусственного интеллекта: начало доверия", прошедшего 26 октября в ТАСС.

Кодекс, разработанный Альянсом в сфере ИИ, уже подписали Сбер, Яндекс, МТС, VK, "Газпром нефть" и Российский фонд прямых инвестиций (РФПИ), а также ведущие компании и научно-исследовательские организации. Ожидается, что этот документ станет рекомендательным для всех участников рынка ИИ: государства, бизнеса, российских и иностранных разработчиков. Он также станет частью федерального проекта "Искусственный интеллект" и Стратегии развития информационного общества на 2017-2030 годы.

Кодекс этики провозглашает человеко-ориентированный и гуманистический подход при развитии технологий ИИ, принципы недискриминации, безопасности работы с данными и информационной безопасности, идентификации ИИ в общении с человеком и уважения автономии воли человека, ответственности за последствия применения ИИ.

Разработчики документа ожидают, что он сможет не только повысить доверие россиян к этой технологии, но и поможет многим компаниям стать более конкурентоспособными.

Экономический эффект

"По понятным причинам, крупные компании превосходят малые по возможностям обучения систем ИИ и в разработке тестовых образцов. Хотелось бы, чтобы малые компании не отставали в этом отношении от них, для чего им нужен доступ к данным. Как мне кажется, после принятия кодекса мы движемся здесь в правильном направлении", - заявил на форуме председатель правления "Сколково" Игорь Дроздов.

По словам директора по развитию технологий искусственного интеллекта "Яндекса" Александра Крайнова, быть этичным выгодно с коммерческой точки зрения. "Самая ценное, что есть у любого бизнеса, основной капитал - это доверие пользователей. Кодекс этики - это способ это доверие немного поднять. Поэтому подписать кодекс этики - это, скорее, получить себе конкурентное преимущество, нежели наоборот", - отметил он, выступая на одной из сессий.

В свою очередь начальник Управления президента РФ по развитию информационно-коммуникационных технологий и инфраструктуры связи Татьяна Матвеева отметила, что документ могут подписать и иностранные компании, что поможет отечественным компаниям-разработчикам "хорошо себя чувствовать в рамках различных международных площадок", а продукты, которые соответствуют кодексу, будут приниматься в том числе и зарубежным сообществом.

Инструмент саморегулирования

Саморегулирование рынка ИИ в виде кодекса, юридически необязательного инструмента, может быть действенной альтернативой госрегулированию, уверены выступавшие на форуме.

"Есть интерес к саморегулированию рынка как к некой правильной альтернативе по отношению к жесткому регулированию со стороны государства", - заявил Дроздов. А директор "Яндекса" по взаимодействию с государственными органами Игорь Алексеев отметил, что этот инструмент позволяет быстро реагировать в таких cферах, как транспорт, медицина, обработка данных, которые имеют большое общественное значение, а значит, требуют быстрой реакции на переосмысление той или иной технологии. Это же подтвердил и вице-президент МТС Руслан Ибрагимов. По его словам, кодекс как инструмент "мягкого права" позволяет быстро реагировать на современные вызовы.

Поэтому этот документ будет периодически пересматриваться, уверены собравшиеся. Кирилл Каем, старший вице-президент по инновациям фонда "Сколково", заявил в свою очередь, что системы ИИ опираются на те решения и данные, которые принимали люди со своими ошибками и стереотипами, следовательно, будут повторяться те же проблемы. "Обязательно нужно пересматривать этот документ, поскольку набор кейсов, тех самых практик конкретных решений, будет накапливать ошибки и позволит соблюсти тот баланс между максимальной эффективностью решения и соблюдением этических норм, которые при создании этой системы будут закладываться как корректирующие коэффициенты", - указал он.

Сильный или слабый

Единственный минус, который отметили эксперты, - в кодексе есть излишняя часть предложений, которая пока что, с технической точки зрения, нереализуема, так как у нас нет "сильного" ИИ. "Сильный" ИИ - это искусственный интеллект общего уровня, обладающий сознанием. Как отметил Кирилл Каем, на его разработку потребуется не менее 15 лет.

Президент Ассоциации больших данных Анна Серебряникова, напротив, полагает, что 15 лет - это очень много. "Прогресс ускоряется кратко. Мне кажется, что это горизонт ближайших 7-10 лет скорее. В разных областях по-разному. Поэтому готовиться нужно". По ее словам, действительно, сейчас нет ни одного промышленного применения "сильного" ИИ, поэтому мы не можем гарантировать отсутствие ошибок. "Поэтому ни одно решение мы пока не можем доверить ИИ, пока это все рекомендательные системы", - добавила Серебряникова.

Как отметил заместитель руководителя Аналитического центра при правительстве РФ Сергей Наквасин, после форума будет подготовлен итоговый документ - рекомендации участников форума по развитию практики этического регулирования. Он ляжет в основу плана этического регулирования ИИ.

Теги