Agent API: En hanterad körmiljö för agentbaserade arbetsflöden

Idag lanserar vi Perplexity Agent API, en hanterad körmiljö för att bygga agentbaserade arbetsflöden med integrerad sökning, verktygskörning och multi-modellorkestrering.

Det ersätter en modellrouter, ett söklager, en inbäddningsleverantör, en sandlådetjänst och en övervakningsstack med en enda integrationspunkt.

Den agentbaserade loopen som beräkningsmodell

En konventionell CPU utför en deterministisk cykel: hämtar en instruktion, avkodar den, exekverar den, lagrar resultatet. Programräknaren flyttas framåt. Processorn bestämmer aldrig vad den ska göra.

Agent API implementerar en annan beräkningsmodell. Processorn är en banbrytande språkmodell. Den tar emot ett mål och avgör hur det ska uppnås. Den bryter ner målet i en plan, väljer vilka verktyg som ska användas från sin tillgängliga verktygsuppsättning, exekverar, observerar resultaten, utvärderar om målet är uppnått och itererar. Kontextfönstret fungerar som register. Resonemang och orkestrering fungerar som schemaläggare.

Föreställ dig att du förbereder ett säljsamtal med en potentiell kund som du har pratat med ett par gånger. Du skickar en enda begäran till Agent API med tre verktyg: ett för att söka i din interna CRM, web_search och fetch_url. Modellen anropar ditt CRM-verktyg först och hämtar kontext från tidigare konversationer. Den anropar sedan web_search för att hitta färska nyheter och konkurrensanalyser, och returnerar flera relevanta sidor. Den avgör att två av dessa sidor motiverar djupare läsning och anropar fetch_url på var och en. I tre steg har modellen samlat intern historik, bred webbkontext och detaljer för hela sidor till ett enda, förankrat svar. Det är agentloopen.

Orkestrering av hela den agentbaserade loopen

Det är viktigt att skilja Agent API från modelltjänster för routning. Agent API är en hanterad körmiljö som orkestrerar hela den agentbaserade loopen: hämtning, verktygskörning, resonemang och reservlösningar för flera modeller, samt eventuella anpassade verktyg du ger den tillgång till. Det ersätter en modellrouter, ett söklager, en inbäddningsleverantör, en sandlådetjänst och en övervakningsstack med en enda slutpunkt, ett enda konto och en enda API-nyckel.

API:et är modellagnostiskt för alla ledande modellleverantörer. För applikationer med hög tillgänglighet stöder API:et kedjor för modellbyte: ange flera modeller, och API:et försöker automatiskt med nästa om en är otillgänglig. Detta säkerställer nästan 100 % tillgänglighet.

Kraftfulla, inbyggda verktyg

Två inbyggda verktyg är tillgängliga: web_search och fetch_url. web_search stöder domänfiltrering (tillåtningslista och svartlista, upp till 20 domäner), tidsfiltrering, datumintervallfiltrering, språkfiltrering och konfigurerbara innehållsbudgetar per sida. fetch_url hämtar och extraherar fullständigt sidinnehåll från specifika webbadresser.

Utöver de inbyggda verktygen tillåter anpassade funktioner utvecklare att ansluta agenten till sina egna backend-system, databaser och API:er.

Kontinuerligt optimerade förinställningar för banbrytande modeller

Att bygga en effektiv agentkonfiguration från grunden kräver att man väljer rätt modell, kalibrerar resonemangsdjupet, väljer verktyg och finjusterar tokenbudgetar. Perplexity gör detta kontinuerligt för sina egna produkter, med stöd av ett internt utvärderingsteam som benchmarkar konfigurationer mot verkliga arbetsbelastningar.

Förinställningar delar den expertisen. Varje förinställning är en helt transparent, förkonfigurerad inställning optimerad för ett specifikt användningsfall: snabba faktauppslagningar, balanserad forskning, djup analys av flera källor och forskning på institutionell nivå. Vi publicerar den rekommenderade systemprompten, verktygen och kostnadsprofilen för var och en. I takt med att modelllandskapet utvecklas uppdaterar vi de underliggande konfigurationerna så att förinställningen alltid återspeglar den senaste tekniken till en förutsägbar kostnad. Alla förinställningsparametrar kan åsidosättas: utvecklare kan använda en förinställning som utgångspunkt och justera modellen, verktygen, antalet steg eller tokenbudgetarna i en enda begäran.

Deep Research 2.0, tillgängligt via den avancerade förinställningen advanced-deep-research, är samma flerstegsresonemangsmotor som driver Perplexituds konsumentprodukt. Den utför dussintals sökningar per fråga, läser hundratals källkoder och förfinar iterativt sin analys. Prestanda på DRACO, Scale AI:s ResearchRubrics och Google DeepMind's DeepSearchQA beskrivs i detalj i vårt DRACO-benchmarkinlägg.

Agent API är tillgängligt idag. Dokumentation och snabbstartsguider finns på docs.perplexity.ai