Jak Perplexity buduje dokładność w AI typu frontier

Naszą misją jest rozwijanie ciekawości osób, które chcą wiedzieć więcej i czerpać więcej z globalnych zasobów wiedzy. Aby to osiągnąć, od zawsze koncentrujemy się na zwiększaniu dokładności najlepszych modeli sztucznej inteligencji typu frontier w Perplexity.

Po raz pierwszy dzielimy się jedną z technologii, które nam na to pozwalają. Dzisiaj nasz zespół badawczy opublikował techniczne opracowanie na temat modeli LLM wzbogaconych o wyszukiwanie.

Stosujemy dziesiątki procesów w celu zapewnienia dokładności, a niniejszy materiał stanowi rzadką okazję do zapoznania się z jednym z nich: szkoleniem modeli AI typu frontier po zakończeniu głównego procesu trenowania, aby osiągały jak najlepsze wyniki zgodnie ze standardami dokładności produktów Perplexity, takich jak Search, Comet i Computer.

Trenujemy zachowania przed wyszukiwaniem

Silnik odpowiedzi wymaga od modeli bazowych więcej niż tylko generowania płynnego tekstu. Modele te muszą znajdować dowody, realizować żądania użytkownika, prawidłowo korzystać z narzędzi i przekształcać tę pracę w merytoryczną odpowiedź.

W tym celu prowadzimy szkolenia dwuetapowe. Najpierw uczymy model, jak zachowywać się w ramach produktu, w tym jak postępować zgodnie z instrukcjami, zachowywać spójność i prawidłowo używać narzędzi. Następnie szkolimy go w zakresie trudniejszych zadań wyszukiwania, aby lepiej radził sobie z wyszukiwaniem dowodów, efektywnym ich wykorzystywaniem oraz skuteczniejszym udzielaniem odpowiedzi.

To etapowe podejście stanowi jedną z istotnych różnic między Perplexity a tradycyjnym rozwiązaniem typu wrapper, zapewniającym dostęp do modelu i sieci. Dlatego ten sam model może generować inne wyniki w różnych produktach oraz działać sprawniej w Perplexity niż w prostszym wdrożeniu.

Pytania wymagające syntezy

Niektóre pytania są prostym wyszukiwaniem faktów. Inne wymagają, aby model powiązał dowody pochodzące z różnych źródeł.

Szkolimy modele na pytaniach, które wymagają łączenia dowodów z wielu źródeł. W przypadku pytań o charakterze faktycznym stosujemy zadania zmuszające model do przeszukiwania, wnioskowania i weryfikacji, zamiast opierania się na jednej oczywistej wskazówce. Wiele pytań wymaga zestawiania informacji z wielu źródeł. Wymagają one od modelu przechodzenia od jednego dowodu do drugiego i budowania odpowiedzi w oparciu o ten łańcuch.

Szkolimy również model pod kątem różnych formatów odpowiedzi, aby zachowywał dokładność niezależnie od tego, czy użytkownik oczekuje akapitu, listy, tabeli czy innej struktury. Wynikiem tego jest lepsza synteza, polegająca na udzielaniu odpowiedzi łączących dowody z różnych źródeł, zamiast jedynie wyodrębniania pojedynczych faktów.

Zadania otwarte wymagają standardów

Perplexity jest wykorzystywane nie tylko do prostego wyszukiwania faktów. Znaczna część pracy ma charakter otwarty i obejmuje redagowanie, edycję, podsumowywanie, wyjaśnianie oraz planowanie.

W przypadku takich zadań nie ma jednej poprawnej odpowiedzi, mimo to wymagają one określonych standardów. W pracy nad zadaniami otwartymi stosujemy rubryki, czyli ustrukturyzowane narzędzia sprawdzające, czy odpowiedź faktycznie spełniła swoje zadanie. Czy instrukcje zostały wykonane? Czy zachowano znaczenie? Czy problem użytkownika został rozwiązany?

Pozwala nam to trenować zadania otwarte według jasnych standardów, zamiast traktować je jako pisanie dowolne.

Dokładność ponad preferencje

W przypadku zadań faktycznych odpowiedź musi być poprawna, zanim zyska status bardziej pomocnej lub lepiej sformułowanej. W zadaniach otwartych odpowiedź musi spełniać kryteria rubryki, zanim uwzględnione zostaną inne cechy.

Dzięki temu system koncentruje się na merytoryce, a nie na formie. Pomaga to zapobiegać częstym błędom polegającym na generowaniu odpowiedzi, które brzmią lepiej, nie będąc w rzeczywistości lepszymi. Korzyścią jest mniej wygładzonych odpowiedzi, które tracą na wartości pod wpływem weryfikacji.

Wydajność wpływa na jakość odpowiedzi

Uczymy również model zdyscyplinowanego korzystania z wyszukiwania.

Każdy dodatkowy krok wyszukiwania powinien poprawiać odpowiedź, a dłuższa treść musi być uzasadniona. Jeśli dodatkowe wyszukiwanie lub dodatkowe słowa nie wnoszą wartości, system powinien przestać.

Prowadzi to do tworzenia łatwiejszych w użyciu odpowiedzi i pozwala modelowi zachować koncentrację podczas pracy nad dłuższymi łańcuchami działań, w których drobne błędy mogą się kumulować.

Lepsze odpowiedzi wymagają ciągłej pracy

Jakość wyszukiwania wynika z tego, jak produkt uczy model gromadzenia dowodów, zdyscyplinowanego odpowiadania, obsługi zadań otwartych oraz kończenia pracy, gdy posiada wystarczające wsparcie.

W miarę jak systemy AI przejmują dłuższe i bardziej autonomiczne zadania, szkolenie to kształtuje jakość poszczególnych odpowiedzi i wszystkiego, co jest na nich budowane. Nigdy nie twierdziliśmy, że Perplexity jest dokładne w 100%, ale jesteśmy firmą AI, której najbardziej na tym zależy i która nieustannie nad tym pracuje. Zachęcamy wszystkich użytkowników do przesyłania opinii na temat odpowiedzi Perplexity, ponieważ nieustannie iterujemy i wprowadzamy ulepszenia.