В США обязали ИИ-разработчиков делиться результатами тестов по безопасности

ВАШИНГТОН, 30 октября. /ТАСС/. Президент США Джо Байден издал указ, обязующий разработчиков мощных систем искусственного интеллекта (ИИ) делиться результатами тестирования по безопасности с американскими властями. Об этом говорится в заявлении, опубликованном на сайте Белого дома.

Согласно документу, разработчиков наиболее мощных систем ИИ обяжут "делиться с правительством США результатами тестов безопасности и другой критически важной информацией". Действие указа будет распространятся на компании, разрабатывающие базовые ИИ-модели, которые потенциально могут представлять "риск для национальной и экономической безопасности США", а также для здоровья и безопасности населения.

Отмечается, что Национальный институт стандартов и технологий США займется разработкой тестов для обеспечения безопасности и надежности ИИ-систем до того, как они станут доступными для широкого пользования. Кроме того, глава Белого дома поручил Министерству торговли США создать руководство по аутентификации и маркировке контента, созданного ИИ, чтобы защитить граждан от мошенничества при получении корреспонденции от властей. Согласно указу, в США также будет разработана передовая программа кибербезопасности, в рамках которой будут созданы инструменты ИИ для поиска и устранения уязвимостей в критически важном программном обеспечении.

Ранее администрация Байдена заручилась обязательствами семи ведущих компаний в области ИИ по обеспечению безопасности пользователей при использовании новых технологий. Компании, среди которых Amazon, Google и Microsoft, обязались проводить тщательные тестирования продукции ИИ перед ее представлением публике и выходом на рынок, а также сотрудничать с властями, гражданским обществом и научным сообществом для урегулирования потенциальных рисков.