Pristatome „Portable Computer“, skirtą vietinio prioriteto DI

Viena vertingiausių užduočių, kurioms žmonės naudoja dirbtinio intelkto agentus, apima duomenis, kuriuos jie mieliau pasiliktų savo įrenginiuose. Nesvarbu, ar tai būtų privatus kodas, ar konfidenciali medžiaga, vietiniai modeliai dabar tampa pakankamai stiprūs, kad galėtų su jais dirbti tiesiog ten, kur jie yra.

Šiandien pristatome „Portable Computer“ – „Perplexity Computer“ versiją, kuri veikia tik vietiniame kompiuteryje. Ją sukūrėme kartu su „NVIDIA“, kad vartotojai galėtų valdyti sistemą „NVIDIA DGX Spark“™ – staliniam kompiuteriui pritaikytame „NVIDIA“ dirbtinio intelekto kompiuteryje. Netrukus ji taip pat bus prieinama „NVIDIA RTX GPU“ asmeniniuose kompiuteriuose.

„Portable Computer“ leidžia vartotojams visiškai įrenginyje paleisti „Perplexity Computer“, analizuoti duomenis, apibendrinti failus ir vykdyti sudėtingas darbo eigas. Privatūs duomenys lieka vietoje, o darbas įrenginyje nenaudoja kreditų. Kai vartotojas suteikia leidimą, vietinis modelis gali kreiptis į debesiją dėl išsamesnių tyrimų ir samprotavimų, o jautri informacija vis tiek lieka įrenginyje.

Vietinio prioriteto dirbtinio intelekto sistema

„Portable Computer“ pasirodo vartotojams siekiant gauti daugiau naudos iš skaičiavimo išteklių ir suderinti našumą su efektyvumu. Kadangi savo kompiuteriuose pirmą kartą galima rasti beveik pažangiausių modelių galią, žmonėms nebereikia riboti to, kam jie naudoja intelektą.

„Portable Computer“ veikia „NVIDIA DGX Spark“ platformoje su „Qwen 3.8 27B“ arba „PPLX 27B“ – papildomai apmokyta „Qwen“ modelio versija. „NVIDIA Nemotron 3.5 Lightning“, 30 mlrd. parametrų atvirasis modelis, netrukus pasieks modelių parinkiklį. Koordinatorius, planuotojas, įrankių parinktuvas, planuoklis, patvarių užduočių eilė ir vietinės paieškos rodyklė veikia įrenginyje.

„Qwen“ modelis yra papildomai apmokytas, kad kiekvieną užduotį vietiniu lygmeniu atliktų kiek įmanoma kruopščiau, o prireikus – kreiptųsi į debesis. Jis skaito vietinius failus, ieško dokumentuose bei kode, atlieka veiksmus įrenginyje ir užtikrina, kad procesai vyktų toliau.

Skaičiavimo išteklių valdymas padeda praktiškai vykdyti didelės apimties dirbtinio intelekto užduotis, nes už vietiniuose modeliuose atliekamą darbą nereikia mokėti už kreditus.

Kreipimasis į debesį

„Portable Computer“ atlieka didžiąją dalį užduočių, kurių vartotojams reikia vietoje. Tačiau kai kurioms užduotims naudinga prieiga prie žiniatinklio arba pažangiausių debesijos galimybių. Vartotojas gali norėti, kad konfidencialūs susitarimo projekto duomenys liktų vietoje, tačiau kreiptis į debesį, kad gautų naujausių rinkos palyginimų ar nesenų precedento turinčių sandorių duomenų.

„Portable Computer“ vietinis koordinatorius gali perduoti užduotį debesijai, kad gautų naujausios informacijos, naršytų saityne, naudotų prijungtas programas arba pasirinktų vieną iš daugiau nei 15 pažangiausių modelių sudėtingam mąstymui.

Per programų jungtis „Portable Computer“ veikia su „Google Drive“, „Gmail“, „Slack“ ir „GitHub“. Vartotojas įrenginyje gali išrūšiuoti naujas „GitHub“ problemas pagal per naktį „Gmail“ gautas pranešimus apie klaidas, o iki ryto išsiųsti „Slack“ pranešimą apie tris pagrindines problemas ir nurodyti tikėtinus jų sprendėjus.

Kai užduočiai reikia nustiųsti turinį iš įrenginio į debesijos paslaugą, „Portable Computer“ prieš tęsdamas atsiklausia vartotojo leidimo.

Paieška ir diktavimas

Vietinis modelis žino tik tai, kas yra įrenginyje. Kai užduočiai prireikia išorinio pasaulio, „Portable Computer“ taip pat gali paleisti „Perplexity“ paiešką arba atlikti plataus ar giliojo tyrimo užduotis. Vartotojai gauna nurodytus šaltinius iš žiniatinklio neatsisakydami visų kitų procesų vietinio vykdymo.

Diktavimo režimas taip pat veikia vietoje, naudojant „NVIDIA Nemotron 3.5 ASR“ modelį. Vartotojai instruktuoja agentą skaitydami dokumentą arba eskizuodami ant popieriaus. Failų transkripcija ir veiksmai lieka mašinoje. Vartotojas gali aptarti kliento situaciją arba diktuoti privačiame kodo faile, o garsas nepasieks debesijos.

Saugumas atitinka debesijos „Perplexity Computer“ versiją. Kodas ir įrankių vykdymas vyksta izoliuotose „Sandbox“ aplinkose su kontroliuojama prieiga prie failų ir prijungtų programų.

Šiandien yra tik vietinio dirbtinio intelekto pradžia

Modeliams tobulėjant, o lustams spartėjant, vis daugiau žmonių vykdys sudėtingas darbo eigas savo įrenginiuose. Kiekvienas lustų ciklas ir kiekvienas modelio išleidimas šį procesą stumia toliau. Dirbtinio intelekto paleidimas asmeniniuose įrenginiuose taps kur kas svarbesne kasdienio darbo dalimi.

„Portable Computer“ yra prieinama „Pro“ ir „Max“ prenumeratoriams, naudojantiems „NVIDIA DGX Spark“. Pirmoji versija skirta „Linux“, o „Windows“ palaikymas pasirodys netrukus.

„NVIDIA DGX Spark“ sukurtas „Grace Blackwell GB10“ platformos pagrindu: jame yra 20 branduolių „Arm“ procesorius ir „NVIDIA“ grafinis procesorius su 128 GB bendrosios atminties. „Portable Computer“ galima įdiegti vienu paspaudimu naudojantis „Perplexity“ programėle.

Daugiau apie pristatymą skaitykite „NVIDIA Local AI“ tinklaraštyje. Mūsų tyrimų tinklaraštyje „A Local-First Agent for Private and Cost-Effective Knowledge Work“ išsamiai aprašoma „Portable Computer“ kūrimo eiga ir jo pranašumas pagal tikslumo, greičio ir kreditų efektyvumo kriterijus.

Išbandykite „Portable Computer“ jau šiandien.