Илон Маск и еще более 1000 экспертов в области ИИ потребовали запретить обучать нейросети

НЬЮ-ЙОРК, 29 марта. /ТАСС/. Илон Маск вместе с более чем 1000 экспертов в области искусственного интеллекта (ИИ) потребовал ввести мораторий на обучение мощных нейросетей, так как неконтролируемый процесс в этой области может представлять угрозу для человечества. Об этом говорится в открытом письме экспертов в области ИИ, опубликованном 22 марта на сайте некоммерческой организации Future of Life Institute ("Институт будущего жизни").

"Мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4. Об этом перерыве необходимо объявить публично, его исполнение должны быть проверяемым и охватывать всех ключевых участников отрасли. Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий", - говорится в письме.

Подписанты полагают, что лаборатории ИИ и независимые эксперты должны использовать эту "передышку" для совместной разработки и внедрения набора общих протоколов безопасности. Это необходимо для проектирования и разработки передовых систем ИИ, которые можно будет проверять и контролировать независимыми внешними экспертами.

Параллельно эксперты предлагают изменение в политической сфере, чтобы создать новые регулирующие органы, занимающиеся вопросами ИИ, а также системы контроля на государственном уровне, которые могли бы обеспечить безопасность новых систем.

Среди тех, кто подписал открытое письмо помимо Маска есть такие именитые специалисты как один из основателей Apple Стив Возняк, ведущие эксперты в области искусственного интеллекта Стивен Расселл и Иошуа Бенджио, а также еще более 1100 крупнейших специалистов в области информационных технологий и машинного обучения.

 Американская компания OpenAI представила в середине марта новое поколение алгоритма по обработке естественного языка - мультимодальную модель GPT-4, которая, как утверждают ее авторы, намного превосходит предыдущую версию GPT-3.5. Так, GPT-4 наделена большей "креативностью" и более надежна в использовании, она умеет обрабатывать более детализированные запросы. По внутренним оценкам фактичности, или достоверности, она превосходит GPT-3.5 на 40%. Как пример компания приводит тест на адвоката - симулятор, по которому оценивались обе нейросети. Результаты теста GPT-4 оказались примерно в 10% лучших, а GPT-3.5 - в 10% худших.