Команда Яндекс разработала инновационную нейросеть на базе YandexGPT, которая теперь самостоятельно проверяет сгенерированные тексты на наличие так называемых «галлюцинаций». Об этом сообщили в пресс-службе компании, отметив, что внедрение этой функциональности позволило сократить число неточностей в кратких описаниях мест и достопримечательностей в «Яндекс Картах» в шесть раз.
Как работает YandexGPT
Процесс создания кратких описаний в YandexGPT происходит в несколько этапов:
- Анализ данных: Модель изучает большое количество отзывов пользователей и информацию, заполненную владельцами карточек организаций.
- Составление описания: YandexGPT объединяет основные моменты, упоминаемые посетителями, и уникальные характеристики места в лаконичные предложения.
- Редактирование: Нейросеть убирает лишние детали, такие как общие формулировки, и приводит текст в соответствие с заданной стилистикой и структурой.
На заключительном этапе YandexGPT проверяет правильность написанного текста, сравнивая его с отзывами и удаляя «выдуманные» детали. Эта работа называется «оценка правдивости» и необходима для предотвращения распространения недостоверной информации.
Преимущества новой модели
Ранее за создание кратких описаний в «Яндекс Картах» отвечали пять различных моделей, каждая из которых выполняла свою специфическую функцию, например, расставляла запятые или фильтровала отзывы по полезности. Теперь все эти задачи берет на себя одна обновленная модель, что значительно снижает требования к вычислительным мощностям.
Переход на новую версию YandexGPT повысил правдивость, точность и качество кратких описаний на целых 90%. Это решение открывает возможности для применения аналогичной технологии в других сервисах компании, где используются языковые модели для переработки больших объемов текстов.