Сбер открыл доступ к нейросетевой модели для генерации текста на русском языке

МОСКВА, 20 июля. /ТАСС/. Сбер открыл для разработчиков доступ к нейросетевой модели генерации текста для русского языка ruGPT-3.5 и расширенной версии нейросети mGPT. Об этом сообщила пресс-служба кредитной организации.

"Сбер открыл доступ к нейросетевой модели генерации текста для русского языка ruGPT-3.5 13B. Ее дообученная версия лежит в основе сервиса GigaChat. Также банк выложил новую версию модели mGPT 13B - самую большую из семейства многоязычных моделей Сбера, способную генерировать тексты на 61 языке", - сообщила кредитная организация.

Отмечается, что обе модели доступны на депозитарии HuggingFace, и их могут использовать все разработчики (модели опубликованы под открытой лицензией MIT, лицензия открытого и свободного программного обеспечения, разработанная Массачусетским технологическим институтом).

По данным Сбера, внутри GigaChat находится ансамбль моделей - NeONKA (Neural Omnimodal Network with Knowledge-Awareness). Для его создания нужно было выбрать базовую языковую модель, которую потом можно было обучать на инструктивных данных. Russian Generative Pretrained Transformer версии 3.5 с 13 млрд параметров (ruGPT-3.5 13B) - новая версия нейросети ruGPT-3 13B.

По словам старшего вице-президента, руководителя блока "Технологии" Сбербанка Андрея Белевцева, Сбер выступает за открытость технологий и обмен опытом с профессиональным сообществом, ведь любые разработки и исследования имеют ограниченный потенциал в замкнутой среде. "Мы уверены, что публикация обученных моделей подстегнет работу российских исследователей и разработчиков, нуждающихся в сверхмощных языковых моделях, создавать на их базе собственные технологические продукты и решения", - отметил он.