Ako Perplexity buduje presnosť v špičkovej AI

Naším cieľom je poháňať zvedavosť ľudí, ktorí chcú vedieť viac a dokázať viac vďaka svetovým znalostiam. Naším hlavným zameraním preto vždy bolo, aby boli tie najlepšie špičkové modely umelej inteligencie presnejšie v službe Perplexity.

Prvýkrát zdieľame jednu z technológií, ktoré za týmto prístupom stojí. Dnes náš výskumný tím zverejnil technický prieskum veľkých jazykových modelov rozšírených o vyhľadávanie.

Používame desiatky procesov na dosiahnutie presnosti a toto je jedinečný pohľad do zákulisia jedného z nich: dodatočného trénovania špičkových modelov umelej inteligencie tak, aby dosahovali čo najlepšie výsledky v porovnaní so štandardmi presnosti pre produkty Perplexity, ako sú Search, Comet a Computer.

Najskôr trénujeme správanie, až potom vyhľadávanie

Vyhľadávací engine vyžaduje, aby základné modely robili viac než len generovali plynulý text. Musia nájsť dôkazy, splniť požiadavku používateľa, správne používať nástroje a premeniť túto prácu na cielenú odpoveď.

Na tento účel vykonávame dodatočné trénovanie v dvoch fázach. Najprv model naučíme, ako sa má správať v rámci produktu vrátane toho, ako dodržiavať pokyny, udržiavať konzistentnosť a správne používať nástroje. Potom ho trénujeme na náročnejších úlohách vyhľadávania, aby sa zlepšil v nachádzaní dôkazov, ich efektívnom používaní a presnejšom zodpovedaní.

Tento fázový prístup je jedným z jednoduchých rozdielov medzi službou Perplexity a tradičným nastavením wrapperu s modelom a prístupom na web. To je dôvod, prečo ten istý model môže produkovať rôzne výsledky v rôznych produktoch a prečo môže v službe Perplexity fungovať lepšie než v jednoduchšom nasadení.

Otázky vyžadujúce syntézu

Niektoré otázky sú jednoduché vyhľadávania. Iné od modelov vyžadujú prepojenie dôkazov naprieč zdrojmi.

Trénujeme na otázkach, ktoré vyžadujú, aby model prepojil dôkazy naprieč viacerými zdrojmi. V prípade faktických otázok používame úlohy, ktoré model nútia vyhľadávať, uvažovať a overovať, namiesto toho, aby unáhlene odpovedal na základe jednej zjavnej indície. Mnoho otázok si vyžaduje prepojenie informácií z viacerých zdrojov. Vyžadujú, aby model prechádzal od jedného dôkazu k druhému a vystaval odpoveď na základe tejto reťaze.

Trénujeme tiež naprieč rôznymi formátmi odpovedí, takže model zostáva presný bez ohľadu na to, či používateľ chce odsek, zoznam, tabuľku alebo inú štruktúru. Výsledkom je lepšia syntéza pozostávajúca z odpovedí, ktoré prepájajú dôkazy naprieč zdrojmi namiesto získavania iba izolovaných faktov.

Otvorené úlohy si vyžadujú štandardy

Perplexity sa nepoužíva len na vyhľadávanie faktov. Veľká časť práce má otvorený charakter vrátane prepisovania, úprav, zhrnutia, vysvetľovania a plánovania.

Tieto úlohy nemajú jednu presne správnu odpoveď, no napriek tomu potrebujú štandardy. Pre otvorenú prácu používame hodnotiace kritériá, čo sú štruktúruje kontroly zamerané na to, či odpoveď skutočne splnila svoju úlohu. Dodržala pokyny? Zachovala význam? Vyriešila problém používateľa?

To nám umožňuje trénovať otvorené úlohy s jasnými štandardmi namiesto toho, aby sme k nim pristupovali ako k voľnému písaniu.

Presnosť je na prvom mieste pred preferenciami

Pri faktických úlohách musí byť odpoveď správna predtým, než získa kredity za to, že je užitočnejšia alebo lepšie napísaná. Pri otvorených úlohách musí odpoveď spĺňať hodnotiace kritériá predtým, než do hry vstúpia iné kvality.

To udržiava systém zameraný na podstatu namiesto štýlu. Pomáha to predchádzať bežnému zlyhaniu, kedy odpovede znejú lepšie, ale v skutočnosti lepšie nie sú. Výsledkom je menej uhladených odpovedí, ktoré sa pri bližšej kontrole rozpadnú.

Efektivita prispieva ku kvalite odpovedí

Trénujeme model aj na disciplinované používanie vyhľadávania.

Akýkoľvek ďalší krok vyhľadávania by mal zlepšiť odpoveď a dlhšia odpoveď by mala obhájiť svoju dĺžku. Keď dodatočné vyhľadávanie alebo dodatočné slová nepomáhajú, systém by sa mal zastaviť.

To prináša odpovede, ktoré sa ľahšie používajú, a udržiava to pre model sústredenie, keď pracuje s dlhšími reťazcami akcií, kde sa malé chyby hromadia.

Lepšie odpovede si vyžadujú neustálu prácu

Kvalita vyhľadávania pramení z toho, ako produkt trénuje model na zhromažďovanie dôkazov, disciplinované odpovedanie, zvládanie otvorených úloh a zastavenie sa, keď má dostatočnú oporu.

Keďže systémy umelej inteligencie preberajú dlhšiu a autonómnejšiu prácu, toto trénovanie formuje kvalitu jednotlivých odpovedí a všetkého, čo je na nich postavené. Nikdy sme netvrdili, že Perplexity je stopercentne presná, ale tvrdíme, že sme spoločnosť zaoberajúca sa umelou inteligenciou, ktorej na tom záleží najviac a neúnavne na tom pracuje. Vyzývame všetkých používateľov, aby poskytovali spätnú väzbu na svoje odpovede v službe Perplexity, pretože neustále iterujeme a zlepšujeme sa.