Představujeme Portable Computer pro lokálně orientovanou AI

Některé z nejcennějších prací, které lidé mají pro agenty umělé inteligence, zahrnují data, která by raději uchovali na svých vlastních strojích. Ať už jde o soukromé základy kódu nebo důvěrný materiál, lokální modely jsou nyní dostatečně silné na to, aby na nich pracovaly přímo tam, kde jsou.

Dnes spouštíme Portable Computer, verzi Perplexity Computer, která běží zcela na lokálním stroji. Postavili jsme ji s NVIDIA, aby uživatelé mohli vlastnit zásobník na NVIDIA DGX Spark™, stolním počítači NVIDIA pro umělou inteligenci. Brzy bude k dispozici také na počítačích s GPU NVIDIA RTX.

Portable Computer umožňuje uživatelům spouštět Perplexity Computer zcela v zařízení, analyzovat data, syntetizovat soubory a spouštět složité pracovní postupy. Soukromá data zůstávají lokální a práce v zařízení nespotřebovává kredity. Když to uživatel povolí, lokální model může eskalovat do cloudu pro pokročilejší výzkum a uvažování a přitom stále uchovávat citlivé informace v zařízení.

Lokálně orientovaný zásobník AI

Portable Computer přichází v době, kdy se uživatelé snaží vytěžit ze svého výpočetního výkonu více a vyvažují výkon s efektivitou. Díky síle podobné špičkovým modelům, která je poprvé k dispozici na jejich vlastních počítačích, už lidé nemusí přídělem určovat, k čemu umělou inteligenci používají.

Portable Computer běží na NVIDIA DGX Spark s Qwen 3.8 27B nebo s PPLX 27B, dodatečně trénovanou verzí modelu Qwen. NVIDIA Nemotron 3.5 Lightning, 30B otevřený model, dorazí brzy do výběru modelů. Orchestrátor, plánovač, router nástrojů, rozvrhovač, odolná fronta úloh a lokální vyhledávací index – to vše běží v zařízení.

Model Qwen je dodatečně trénován tak, aby co největší část každého úkolu dokončil lokálně a v případě potřeby úkol eskaloval do cloudu. Čte lokální soubory, prohledává dokumenty a kód, provádí akce v zařízení a udržuje úlohy v chodu.

Vlastnictví výpočetního výkonu činí spouštění velkoobjemových úloh umělé inteligence praktickým, protože práce zpracovávaná lokálními modely nemá žádný poplatek za kredit.

Eskalace do cloudu

Portable Computer zvládá většinu úkolů, které kdokoli potřebuje, kompletně lokálně. Některé úkoly však těží z přístupu na web nebo k špičkovému uvažování v cloudu. Uživatel může chtít, aby důvěrné podrobnosti term sheetu zůstaly lokální, ale pro získání aktuálních tržních srovnání nebo nedávných precedentních transakcí eskalovat do cloudu.

Lokální orchestrátor Portable Computer může eskalovat úkol do cloudu kvůli aktuálním informacím, použití prohlížeče, připojeným aplikacím nebo jednomu z více než 15 špičkových modelů pro pokročilé uvažování.

Prostřednictvím konektorů aplikací spolupracuje Portable Computer se službami Google Drive, Gmail, Slack a GitHub. Uživatel může ráno třídit nové problémy na GitHubu oproti nočním hlášením chyb v Gmailu v zařízení a poté odeslat zprávu na Slacku o třech hlavních problémech s navrhovanými vlastníky.

Když úkol potřebuje odeslat obsah ze zařízení do cloudové služby, Portable Computer požádá uživatele o povolení, než bude pokračovat.

Vyhledávání a diktování

Lokální model ví pouze to, co je na zařízení. Když úkol potřebuje vnější svět, Portable Computer může také spustit vyhledávání Perplexity nebo široký či hloubkový výzkum. Uživatelé získají citovaná zjištění z webu, aniž by se vzdali lokálního provádění všeho ostatního.

Režim diktování rovněž běží lokálně s modelem NVIDIA Nemotron 3.5 ASR. Uživatelé instruují agenta při čtení dokumentu nebo skicování na papíře. Přepis a akce se soubory zůstávají v počítači. Uživatel může probrat situaci klienta nebo diktovat nad soukromou základnou kódu, aniž by zvuk zasáhl cloud.

Zabezpečení odpovídá cloudové verzi Perplexity Computer. Spouštění kódu a nástrojů probíhá v izolovaných prostředích sandbox s řízeným přístupem k souborům a připojeným aplikacím.

Dnešek je teprve začátkem lokální umělé inteligence

Jakmile budou modely silnější a čipy rychlejší, více lidí bude spouštět složité pracovní postupy na svých vlastních strojích. Každý cyklus čipů a každé vydání modelu to posouvá dále. Spouštění umělé inteligence na osobních počítačích bude mnohem větší součástí toho, jak se práce provádí.

Portable Computer je k dispozici pro předplatitele Pro a Max na NVIDIA DGX Spark. První vydání je k dispozici pro Linux, podpora pro Windows dorazí brzy.

Zařízení NVIDIA DGX Spark je postaveno na platformě Grace Blackwell GB10: 20jádrovém procesoru Arm a GPU NVIDIA se 128 GB sjednocené paměti. Portable Computer lze nainstalovat pomocí nastavení na jedno kliknutí přes aplikaci Perplexity.

Přečtěte si více o spuštění na blogu NVIDIA Local AI. Náš výzkumný blog A Local-First Agent for Private and Cost-Effective Knowledge Work popisuje vývoj stojící za Portable Computer a jeho překonávání výsledků v benchmarcích z hlediska přesnosti, rychlosti a efektivity kreditů.

Vyzkoušejte Portable Computer ještě dnes.