Как Perplexity повышает точность передового ИИ

Наша миссия — расширять возможности любознательности для тех, кто хочет узнавать больше и эффективнее использовать знания мира. Для достижения этой цели мы всегда уделяли основное внимание повышению точности лучших передовых моделей ИИ в Perplexity.

Впервые мы делимся одной из технологий, лежащих в основе этого процесса. Сегодня наша исследовательская группа опубликовала техническое исследование LLM с расширенным поиском.

Мы используем десятки процессов для развития точности, и это редкая возможность взглянуть на один из них изнутри: дообучение передовых моделей ИИ для обеспечения их максимальной эффективности в соответствии со стандартами точности продуктов Perplexity, таких как Search, Comet и Computer.

Мы обучаем поведению до начала поиска

Система ответов требует, чтобы базовые модели не просто генерировали связный текст. Они должны находить доказательства, выполнять запросы пользователей, правильно использовать инструменты и превращать эту работу в сфокусированный ответ.

Мы проводим дообучение для этого в два этапа. Сначала мы обучаем модель тому, как вести себя внутри продукта, включая выполнение инструкций, соблюдение последовательности и правильное использование инструментов. Затем мы обучаем ее на более сложных поисковых задачах, чтобы она лучше находила доказательства, эффективно их использовала и отвечала более качественно.

Поэтапный подход — одно из простых различий между Perplexity и традиционной установкой-оберткой с доступом к модели и сети. Вот почему одна и та же модель может давать разные результаты в разных продуктах и почему она может работать лучше в Perplexity, чем при более простом развертывании.

Вопросы, требующие синтеза

Некоторые вопросы требуют простого поиска. Другие требуют, чтобы модель сопоставляла доказательства из разных источников.

Мы обучаемся на вопросах, которые требуют от модели сопоставления доказательств из разных источников. Для фактических вопросов мы используем задачи, которые заставляют модель искать, рассуждать и проверять, а не переходить к ответу на основе одного очевидного факта. Многие вопросы требуют сопоставления информации из нескольких источников. Они требуют, чтобы модель переходила от одного доказательства к другому и выстраивала ответ на основе этой цепочки.

Мы также обучаем модель работать с различными форматами ответов, чтобы она оставалась точной независимо от того, хочет ли пользователь получить абзац, список, таблицу или другую структуру. Результатом является лучший синтез, состоящий из ответов, которые связывают доказательства из разных источников, а не просто извлекают изолированные факты.

Задачи с открытым финалом требуют стандартов

Perplexity используется не только для фактического поиска. Большая часть работы носит открытый характер, включая переписывание, редактирование, обобщение, объяснение и планирование.

У этих задач нет одного единственно верного ответа, но они все равно требуют стандартов. Для работы с открытыми задачами мы используем рубрики — структурированные проверки того, действительно ли ответ выполнил свою задачу. Выполнил ли он инструкции? Сохранил ли смысл? Решил ли проблему пользователя?

Это позволяет нам обучать выполнению задач с открытым финалом с четкими стандартами, вместо того чтобы относиться к ним как к произвольному тексту.

Точность важнее предпочтений

Для фактических задач ответ должен быть верным, прежде чем он получит кредит за полезность или лучшее изложение. Для задач с открытым финалом ответ должен соответствовать рубрике, прежде чем в игру вступят другие качества.

Это позволяет системе сосредоточиться на содержании, а не на стиле. Это помогает предотвратить типичную ошибку, когда ответы звучат лучше, не являясь при этом более качественными. Результат — меньше «отполированных» ответов, которые рассыпаются при проверке.

Эффективность способствует качеству ответов

Мы также обучаем модель использовать поиск дисциплинированно.

Любой дополнительный шаг поиска должен улучшать ответ, а более длинный ответ должен быть обоснованным. Когда дополнительный поиск или дополнительные слова не помогают, система должна остановиться.

Это позволяет получать ответы, которые проще использовать, и сохраняет фокус модели при работе с более длинными цепочками действий, где накапливаются небольшие ошибки.

Лучшие ответы требуют постоянной работы

Качество поиска зависит от того, как продукт обучает модель собирать доказательства, отвечать дисциплинированно, обрабатывать задачи с открытым финалом и останавливаться, когда получено достаточно подтверждений.

По мере того как системы ИИ берут на себя более длительную и автономную работу, такое обучение формирует качество отдельных ответов и всего, что на них строится. Мы никогда не утверждали, что Perplexity точна на 100%, но мы утверждаем, что являемся компанией, которая заботится об этом больше всего и неустанно работает над этим. Мы призываем всех пользователей оставлять отзывы о своих ответах в Perplexity, потому что мы постоянно итерируем и улучшаем систему.