YandexGPT научилась проверять тексты на «галлюцинации» И сократила количество ошибок в 6 раз

Команда Яндекса объявила о значительном улучшении своего искусственного интеллекта YandexGPT, который теперь способен самостоятельно проверять сгенерированные тексты на наличие «галлюцинаций» — несуществующих или неточных деталей. Эта функция позволила в шесть раз сократить количество ошибок в кратких описаниях мест и достопримечательностей на «Яндекс Картах».

YandexGPT проходит несколько этапов при создании кратких описаний: анализирует отзывы, информацию от владельцев объектов, объединяет ключевые моменты и форматирует их в стилистически корректные и структурированные тексты. Новая функция нейросети, которая оценивает правдивость данных, сравнивая их с исходными отзывами, помогает убрать любые «выдуманные» детали, тем самым значительно повышая точность описаний.

Ранее создание таких описаний в «Яндекс Картах» было распределено между пятью разными моделями, каждая из которых выполняла свою задачу. Теперь все это делает одна обновленная версия YandexGPT, что снизило потребность в вычислительных мощностях и удешевило процесс. Это также открыло возможности для использования новой модели в других сервисах компании, где требуется создание кратких и точных пересказов текстов.

Здесь мы рассказываем, что такое YandexGPT: