Касперская назвала ИИ монстром и предложила ограничить его применение

МОСКВА, 9 декабря. /ТАСС/. Искусственный интеллект - это монстр, заявила председатель правления российской ассоциации "Отечественный софт" Наталья Касперская. Выступая на открытой конференции ИСП РАН, она предложила ограничивать его использование во всех областях, где он может нанести людям ущерб.

Во-первых, сказала она, это образовательные процессы, назвав внедрение ИИ туда "кошмаром". "Мы видим, что дети уже сами пишут любые сочинения при помощи ИИ, но самое страшное катастрофическое последствие - они отучиваются думать. Мы рискуем вырастить поколение вообще ничего не понимающих людей", - предупредила она. По словам Касперской "люди по самым простым вопросам обращаются [к ИИ], они уже ничего не помнят".

В связи с этим она предложила запретить разработку учебных материалов с помощью генеративного ИИ, а также подобную автоматизацию обучения. Также, согласно ее докладу, уместны ограничения в госуправлении - запрет автоначисления штрафов и "запрет любых социальных рейтингов".

Помимо этого, предправления "Отечественного софта" предложила запретить писать нормативно-правовые акты и законопроекты через ИИ, а еще - запретить проводить их автоматическую ИИ-проверку. В судопроизводстве она выдвинула идею не генерировать судебные решения и иски через ИИ. В сфере искусства она призвала решить вопрос с авторскими правами, с генерацией образов известных людей, а также с мошенническими дипфейками.

"Надо обсуждать гораздо шире: запрет во всех областях, [где ИИ может] <…> гипотетически поранить людей, нанести людям ущерб. В банковском бизнесе, соответственно, тоже рейтинги [есть] и так далее", - добавила Касперская.

"ИИ - это некая экзистенциально угрожаемая технология, технология, которая вообще угрожает жизни на Земле. И если мы этого не поймем, если мы пустим этого монстра без ограничений в свою собственную жизнь, вполне возможно, никакой будущей жизни у нас уже не будет", - резюмировала она свое выступление.