Нейросеть «Сбера» самая русская Она лучше всех понимает язык
Рейтинг нейросетей для русского языка Russian SuperGLUE (General Language Understanding Evaluation) показал, что лучше всего с задачами справляется языковая модель от «Сбера» и SberDevices FRED-T5
Открытый проект Russian SuperGLUE проверяет, насколько качественно нейросеть выполняет задания на логику, здравый смысл, целеполагание и понимание смысла текста.
Сбер уже много лет работает с трансформерными моделями. Еще в 2019 году были обучены русскоязычные модели RuBERT и RuGPT-2, а в 2020 году суперкомпьютер Christofari создал руGPT-3. FRED-T5 (Full-scale Russian Enhanced Denoisers T5) в отличие от моделей семейства GPT, состоящих только из декодирующих блоков трансформера, содержит также кодирующие блоки, что позволяет ей гораздо эффективнее решать различные задачи в области обработки естественного языка.
Использованные источники: