«Яндекс» выпустил YandexGPT Lite третьего поколения Это облегченная версия нейросети
Как сообщает пресс-служба «Яндекса», новая модель YandexGPT 3 Lite будет полезна в сценариях, где важна скорость ответа — ее можно использовать в чат-ботах, для проверки орфографии, анализа данных и других рутинных задач. YandexGPT 3 Lite позволит оптимизировать консультацию клиентов в чате и по телефону, подготовку ответов для службы поддержки, создание маркетинговых материалов или дайджест рабочих встреч.
Крупные компании со сложными бизнес-процессами и большим потоком информации могут применять ее для анализа данных, необходимых для принятия решений. Новая модель более продвинутая, чем YandexGPT 2 Lite — по итогам русскоязычной версии международного эталонного теста MMLU она дает на 6% больше верных ответов. Модели также сравнили по методике Side by Side — нейросети отвечали на одни и те же вопросы, а эксперты выбирали лучший ответ.
В среднем YandexGPT 3 Lite отвечала лучше, чем YandexGPT 2 Lite, в 68% случаев. Кроме того, новая модель допускает меньше орфографических и фактических ошибок. Для создания нейросети разработчики усовершенствовали все этапы обучения — улучшили отбор данных для предварительного этапа обучения и поэтапно усложняли их.
На втором этапе обучения, включая обучение с подкреплением, модель улучшили для оценки качества ответов нейросети. Наконец, в архитектуру добавили технологию Grouped Query Attention — она ускоряет обработку данных без потери качества. Стоимость использования YandexGPT 3 Lite составит 20 копеек за тысячу токенов, а новые пользователи Yandex Cloud смогут бесплатно протестировать ее в демо-режиме.
Здесь мы рассказываем, что такое YandexGPT:
Использованные источники: «Яндекс»
