Iepazīstinām ar Portable Computer lokāli pirmajam AI

Daži no vērtīgākajiem darbiem, ko cilvēki veic AI aģentiem, ietver datus, kurus viņi labāk vēlētos saglabāt savās mašīnās. Neatkarīgi no tā, vai tās ir privātas koda bāzes vai konfidenciāls materiāls, lokālie modeļi tagad kļūst pietiekami spēcīgi, lai strādātu pie tiem tieši tur, kur tie atrodas.

Šodien mēs laižam klajā Portable Computer — Perplexity Computer versiju, kas darbojas pilnībā lokālā mašīnā. Mēs to izveidojām kopā ar NVIDIA, lai lietotāji varētu iegūt steku uz NVIDIA DGX Spark™, NVIDIA galddatora izmēra AI datora. Drīz tas būs pieejams arī NVIDIA RTX GPU datoros.

Portable Computer ļauj lietotājiem palaist Perplexity Computer pilnībā ierīcē, analizējot datus, sintetizējot failus un izpildot sarežģītas darbplūsmas. Privātie dati paliek lokāli, un darbs ierīcē nepatērē kredītus. Kad lietotājs to pilnvaro, lokālais modelis var pāriet uz mākoni, lai veiktu padziļinātāku izpēti un spriešanu, vienlaikus saglabājot sensitīvu informāciju ierīcē.

Lokāli pirmais AI steks

Portable Computer tiek piegādāts, lietotājiem cenšoties iegūt vairāk no savas skaitļošanas jaudas, sabalansējot veiktspēju ar efektivitāti. Pirmo reizi savos datoros pieejamajai līderu līmeņa jaudai cilvēkiem vairs nav jāierobežo tas, kam viņi izmanto intelektu.

Portable Computer darbojas uz NVIDIA DGX Spark ar Qwen 3.8 27B vai PPLX 27B, kas ir Qwen modeļa pēcapmācīta versija. NVIDIA Nemotron 3.5 Lightning, 30B atvērtais modelis, drīz būs pieejams modeļu atlasītājā. Orķestrators, plānotājs, rīku maršrutētājs, plānotājs, izturīga uzdevumu rinda un lokālās meklēšanas indekss darbojas ierīcē.

Qwen modelis ir apmācīts pēc apmācības pabeigt pēc iespējas lielāku daļu no katra uzdevuma lokāli un pāriet uz mākoni, kad uzdevums to prasa. Tas nolasa lokālos failus, meklē dokumentos un kodā, veic darbības ierīcē un nodrošina nepārtrauktu darbu izpildi.

Skaitļošanas jaudas īpašumtiesības padara lielapjoma AI uzdevumu izpildi praktisku, jo par darbu, ko veic vietējie modeļi, nav jāmaksā maksa par kredītu.

Pāreja uz mākoni

Portable Computer apstrādā lielāko daļu uzdevumu, kas jebkuram ir nepieciešami, lai darbotos pilnībā lokāli. Taču dažiem darbiem ir noderīga piekļuve tīmeklim vai augstākā līmeņa spriešanas spējām mākonī. Lietotājs var vēlēties, lai terminu lapas konfidenciālā informācija paliktu lokāla, bet pāriet uz mākoni, lai iegūtu aktuālos tirgus salīdzinājumus vai nesenus precedenta darījumus.

Portable Computer lokālais orķestrators var pārsūtīt uzdevumu uz mākoni, lai iegūtu aktuālo informāciju, pārlūkprogrammas izmantošanu, savienotās lietotnes vai kādu no vairāk nekā 15 progresīviem modeļiem uzlabotai spriešanai.

Izmantojot lietotņu savienotājus, Portable Computer darbojas ar Google Drive, Gmail, Slack un GitHub. Lietotājs var sakārtot jaunas GitHub problēmas salīdzinājumā ar nakts kļūdu ziņojumiem Gmail ierīcē, pēc tam līdz rītam nosūtīt Slack ziņojumu par trim galvenajām problēmām ar ieteiktajiem īpašniekiem.

Kad uzdevumam ir jānosūta saturs no ierīces uz mākoņpakalpojumu, Portable Computer pirms turpmākas rīcības lūdz lietotāja atļauju.

Meklēšana un diktēšana

Lokālais modelis zina tikai to, kas atrodas mašīnā. Kad uzdevumam ir nepieciešama ārējā pasaule, Portable Computer var palaist arī Perplexity meklēšanu vai plašu vai padziļinātu izpēti. Lietotāji saņem norādītus secinājumus no tīmekļa, neatsakoties no visa pārējā lokālās izpildes.

Diktēšanas režīms darbojas arī lokāli ar NVIDIA Nemotron 3.5 ASR modeli. Lietotāji sniedz norādījumus aģentam, lasot dokumentu vai skicējot uz papīra. Transkripcija un darbības ar failiem paliek mašīnā. Lietotājs var pārrunāt klienta situāciju vai diktēt virs privātas koda bāzes, audio nesasniedzot mākoni.

Drošība atbilst Perplexity Computer mākoņa versijai. Koda un rīku izpilde notiek izolētās smilšu kastes vidēs ar kontrolētu piekļuvi failiem un savienotajām lietotnēm.

Šodien ir tikai lokālā AI sākums

Modeļiem kļūstot jaudīgākiem un mikroshēmām ātrākām, arvien vairāk cilvēku savās mašīnās darbinās sarežģītas darbplūsmas. Katrs mikroshēmu cikls un katra modeļa izlaišana virza to tālāk. AI darbināšana personīgajās mašīnās kļūs par daudz lielāku daļu no tā, kā tiek veikts darbs.

Portable Computer ir pieejams Pro un Max abonentiem NVIDIA DGX Spark. Pirmā versija ir pieejama Linux, un Windows atbalsts būs pieejams drīzumā.

NVIDIA DGX Spark ir veidots ap Grace Blackwell GB10 platformu: 20 kodolu Arm CPU un NVIDIA GPU ar 128 GB vienoto atmiņu. Portable Computer var instalēt ar vienu klikšķi, izmantojot Perplexity lietotni.

Lasiet vairāk par izlaišanu NVIDIA Local AI emuārā. Mūsu pētniecības emuārs A Local-First Agent for Private and Cost-Effective Knowledge Work detalizē izstrādi aiz Portable Computer un tā pārākumu salīdzinājuma rādītājos attiecībā uz precizitāti, ātrumu un kredītu efektivitāti.

Izmēģiniet Portable Computer jau šodien.