Predstavujeme Portable Computer pre lokálnu AI

Niektoré z najcennejších prác, ktoré majú ľudia pre agentov umelej inteligencie, zahŕňajú dáta, ktoré by radšej chceli ponechať na vlastných strojoch. Či už ide o súkromné základy kódu alebo dôverný materiál, lokálne modely sú teraz dostatočne silné na to, aby na nich pracovali priamo tam, kde sú.

Dnes uvádzame na trh Portable Computer, verziu Perplexity Computer, ktorá beží úplne na lokálnom stroji. Vybudovali sme ju v spolupráci so spoločnosťou NVIDIA, aby používatelia mohli vlastniť zásobník na NVIDIA DGX Spark™, stolnom počítači NVIDIA pre umelú inteligenciu. Čoskoro bude k dispozícii aj na počítačoch s GPU NVIDIA RTX.

Portable Computer umožňuje používateľom spúšťať Perplexity Computer úplne v zariadení, analyzovať dáta, syntetizovať súbory a spúšťať zložité pracovné postupy. Súkromné dáta zostávajú lokálne a práca v zariadení nespotrebováva kredity. Keď to používateľ povolí, lokálny model môže prejsť do cloudu na pokročilejší výskum a uvažovanie, pričom citlivé informácie stále zostávajú v zariadení.

Zásobník AI s primárne lokálnym spúšťaním

Portable Computer prichádza v čase, keď sa používatelia snažia získať zo svojho výpočtového výkonu čo najviac a vyvážiť výkon s efektivitou. S výkonom podobným špičkovým modelom, ktorý je po prvýkrát dostupný na ich vlastných počítačoch, už ľudia nemusia obmedzovať to, na čo využívajú inteligenciu.

Portable Computer beží na NVIDIA DGX Spark s modelom Qwen 3.8 27B alebo PPLX 27B, čo je dodatočne trénovaná verzia modelu Qwen. NVIDIA Nemotron 3.5 Lightning, 30B open model, čoskoro pribudne do výberu modelov. Orchestrátor, plánovač, smerovač nástrojov, plánovač úloh, odolný rad úloh a lokálny index vyhľadávania bežia v zariadení.

Model Qwen je dodatočne trénovaný tak, aby vyriešil lokálne čo najviac z každej úlohy a v prípade potreby prešiel do cloudu. Číta lokálne súbory, vyhľadáva v dokumentoch a kóde, vykonáva akcie v zariadení a udržuje úlohy v chode.

Vlastný výpočtový výkon robí spúšťanie veľkoobjemových úloh umelej inteligencie praktickým, pretože práca spracovaná lokálnymi modelmi nemá žiadny poplatok za kredit.

Eskalácia do cloudu

Portable Computer zvládne väčšinu úloh, ktoré ktokoľvek potrebuje spustiť kompletne lokálne. Niektoré úlohy však ťažia z prístupu k webu alebo k špičkovému uvažovaniu v cloude. Používateľ môže chcieť, aby dôverné podrobnosti term sheetu zostali lokálne, ale prejsť do cloudu, aby získal aktuálne trhové porovnania alebo nedávne precedenčné transakcie.

Lokálny orchestrátor Portable Computer môže eskalovať úlohu do cloudu kvôli aktuálnym informáciám, používaniu prehliadača, pripojeným aplikáciám alebo jednom z viac ako 15 špičkových modelov na pokročilé uvažovanie.

Prostredníctvom konektorov aplikácií spolupracuje Portable Computer s Google Drive, Gmail, Slack a GitHub. Používateľ môže ráno vytriediť nové problémy na GitHub oproti nočným hláseniam chýb v Gmail v zariadení a potom odoslať správu v službe Slack o troch hlavných problémoch s navrhovanými vlastníkmi.

Keď úloha potrebuje odoslať obsah zo zariadenia do cloudovej služby, Portable Computer požiada používateľa o povolenie skôr, než bude pokračovať.

Vyhľadávanie a diktovanie

Lokálny model vie len to, čo je v zariadení. Keď úloha potrebuje vonkajší svet, Portable Computer môže spustiť aj vyhľadávanie Perplexity alebo široký či hĺbkový výskum. Používatelia získavajú citované zistenia z webu bez toho, aby sa vzdali lokálneho spúšťania všetkého ostatného.

Režim diktovania tiež beží lokálne s modelom NVIDIA Nemotron 3.5 ASR. Používatelia inštruujú agenta pri čítaní dokumentu alebo skicovaní na papier. Prepisy a akcie so súbormi zostávajú na stroji. Používateľ sa môže porozprávať o situácii klienta alebo diktovať nad súkromnou základňou kódu bez toho, aby audio prešlo do cloudu.

Zabezpečenie zodpovedá cloudovej verzii Perplexity Computer. Spúšťanie kódu a nástrojov prebieha v izolovaných prostrediach sandbox s kontrolovaným prístupom k súborom a pripojeným aplikáciám.

Dnešok je len začiatkom lokálnej umelej inteligencie

S tým, ako budú modely silnieť a čipy rýchlejšie, bude viac ľudí spúšťať zložité pracovné postupy na vlastných strojoch. Každý cyklus čipov a každé vydanie modelu to posúva ďalej. Spúšťanie umelej inteligencie na osobných strojoch bude oveľa väčšou súčasťou toho, ako sa práca vykonáva.

Portable Computer je k dispozícii pre predplatiteľov programov Pro a Max na zariadení NVIDIA DGX Spark. Prvé vydanie je dostupné pre systém Linux, podpora pre Windows prichádza čoskoro.

Zariadenie NVIDIA DGX Spark je postavené na platforme Grace Blackwell GB10: 20-jadrový procesor Arm a GPU NVIDIA so 128 GB zjednocenej pamäte. Portable Computer je možné nainštalovať pomocou nastavenia jedným kliknutím prostredníctvom aplikácie Perplexity.

Prečítajte si viac o uvedení na blogu NVIDIA Local AI. Náš výskumný blog A Local-First Agent for Private and Cost-Effective Knowledge Work podrobne opisuje vývoj systému Portable Computer a jeho prekonávanie výkonnostných benchmarkov v presnosti, rýchlosti a efektivite kreditov.

Vyskúšajte Portable Computer ešte dnes.