«Яндекс» сделал генератор текстов билингвальным «Балабоба» теперь знает русский и английский языки

Как сообщает «Яндекс», теперь пользователю достаточно написать пару слов на русском или английском и выбрать один из стилей, после чего «Балабоба» сгенерирует текст на любую тему. Чтобы он получился связным и грамматически правильным, модель генерирует его по словам и оценивает, насколько предсказанное слово корректно.

«Балабоба» генерирует тексты при помощи языковой модели YaLM, которая решает задачи, связанные с обработкой естественного языка. Например, модели YaLM помогают «Алисе» поддерживать беседу, определяют темы вопросов в «Кью», улучшают описания заказов на «Услугах» и генерируют карточки для быстрых ответов в «Поиске».

Языковые модели YaLM ищут ключевые моменты видео, генерируют объявления и описания сайтов. Запоминать правила языка и подбирать подходящие слова генератору позволяют заложенные в модель параметры, которые меняются в зависимости от корректности предсказания слова. В YaLM может быть до 100 миллиардов параметров.

Google недавно выпустил языковую модель с 540 миллиардами параметров: