Tutvustame Portable Computer'it kohaliku tehisintellekti jaoks
Portable Computer käitab NVIDIA-ga Perplexity Computer'it täielikult seadmes, hoides privaatsed andmed kohapeal ja suunates need pilve ainult siis, kui ülesanne seda nõuab.
Mõned kõige väärtuslikumad tööd, mida inimestel tehisintellekti agentide jaoks on, hõlmavad andmeid, mida nad eelistavad oma arvutites hoida. Olgu tegemist privaatsete koodibaaside või konfidentsiaalse materjaliga, kohalikud mudelid on nüüd piisavalt tugevad, et töötada nendega täpselt seal, kus nad on.
Täna toome turule Portable Computer'i, Perplexity Computer'i versiooni, mis töötab täielikult kohalikus arvutis. Ehitasime selle koos NVIDIAsse, et kasutajad saaksid omada tarkvaravirna NVIDIA lauakujulisel tehisintellekti arvutil NVIDIA DGX Spark™. Peagi on see saadaval ka NVIDIA RTX graafikaprotsessoriga arvutites.
Portable Computer võimaldab kasutajatel käitada Perplexity Computer'it täielikult seadmes, analüüsides andmeid, sünteesides faile ja käitades keerulisi töövoogusid. Privaatsed andmed püsivad kohapeal ja seadmes tehtav töö ei kuluta krediite. Kui kasutaja selleks loa annab, saab kohalik mudel suunata ülesande pilve põhjalikumaks uurimiseks ja arutluskäiguks, hoides samal ajal tundlikku teavet seadmes.
Kohaliku eelisega tehisintellekti tarkvaravirk
Portable Computer ilmub ajal, mil kasutajad püüavad oma arvutusvõimsusest rohkem kasu saada, tasakaalustades jõudlust tõhususega. Kuna esimest korda on nende oma arvutites saadaval tipptasemele lähedane võimsus, ei pea inimesed enam ratsionaliseerima seda, mille jaoks nad intelligentsust kasutavad.
Portable Computer töötab NVIDIA DGX Sparkil Qwen 3.8 27B-ga või PPLX 27B-ga, mis on Qweni mudeli järeltreenitud versioon. NVIDIA Nemotron 3.5 Lightning, 30B avatud mudel, on mudelivalijasse peagi tulemas. Orkestreerija, planeerija, tööriistade ruuter, ajastaja, vastupidav ülesannete järjekord ja kohaliku otsingu indeks töötavad kõik seadmes.
Qweni mudel on järeltreenitud nii, et see lahendaks võimalikult suure osa igast ülesandest kohapeal ja suunaks vajadusel ülesande pilve. See loeb kohalikke faile, otsib dokumentidest ja koodist, teeb seadmes toiminguid ning hoiab tööd käimas.
Arvutusvõimsuse omamine teeb suure mahuga tehisintellekti ülesannete käitamise otstarbekaks, kuna kohalike mudelite töödeldud ülesannetelt ei võeta päringupõhist tasu.
Pilvesse suunamine
Portable Computer saab hakkama enamiku ülesannetega, mida on vaja kohapeal käitada. Kuid mõnel tööl on kasu ligipääsust veebile või pilves asuvale tipptasemel arutlusvõimele. Kasutaja võib soovida, et lepingu tingimuste konfidentsiaalsed detailid jääksid kohalikuks, kuid suunata ülesande pilve, et hankida praeguseid turu võrdlusandmeid või hiljutisi pretsedenttehinguid.
Portable Computer'i kohalik orkestreerija saab ülesande praeguse teabe, veebilehitseja kasutuse, ühendatud rakenduste või mõne enam kui 15 tipptasemel mudeli abil edasijõudnud arutluskäiguks pilve suunata.
Rakenduste konnektorite kaudu töötab Portable Computer Google Drive'i, Gmailis, Slackis ja GitHubis. Kasutaja saab seadmes sorteerida uusi GitHubi probleeme Gmailis olevate öiste vearaportite alusel, seejärel saata hommikuks Slacki sõnumi kolme peamise probleemi ja soovitatud vastutajate kohta.
Kui ülesanne peab saatma sisu seadmest pilveteenusesse, küsib Portable Computer enne jätkamist kasutajalt luba.
Otsing ja dikteerimine
Kohalik mudel teab ainult seda, mis on arvutis. Kui ülesanne vajab välismaailma, saab Portable Computer käitada ka Perplexity otsingut või põhjalikku uuringut. Kasutajad saavad veebist viidatud tulemused ilma, et nad peaksid loobuma kõigi muude toimingute kohapealsest täitmisest.
Dikteerimisrežiim töötab samuti kohapeal NVIDIA Nemotron 3.5 ASR mudeliga. Kasutajad annavad agendile lühitutvustuse dokumendi lugemise või paberile visandamise ajal. Transkriptsioon ja failidega seotud toimingud jäävad kõik arvutisse. Kasutaja saab läbi rääkida kliendi olukorra või dikteerida üle privaatse koodibaasi ilma, et heli puudutaks pilve.
Turvalisus vastab Perplexity Computer'i pilveversioonile. Kood ja tööriistade täitmine toimuvad eraldatud liivakastikeskkondades, kus on kontrollitud juurdepääs failidele ja ühendatud rakendustele.
Tänane päev on alles kohaliku tehisintellekti algus
Mida tugevamaks muutuvad mudelid ja kiiremaks kiibid, seda rohkem inimesi käitab keerulisi töövoogusid oma arvutites. Iga kiibitsükkel ja iga mudeli väljalase viib seda edasi. Tehisintellekti käitamine isiklikes arvutites saab olema palju suurem osa sellest, kuidas tööd tehakse.
Portable Computer on saadaval NVIDIA DGX Sparki Pro- ja Max-tellijatele. Esimene väljalase on saadaval Linuxis, Windowsi tugi on peagi tulekul.
NVIDIA DGX Spark põhineb Grace Blackwell GB10 platvormil: 20 tuumaga Arm-protsessoril ja NVIDIA graafikaprotsessoril, millel on 128 GB ühismälu. Portable Computer'i saab installida ühe klõpsuga Perplexity rakenduse kaudu.
Loe turuletoomise kohta lähemalt NVIDIA kohaliku tehisintellekti blogist. Meie uurimisblogi A Local-First Agent for Private and Cost-Effective Knowledge Work kirjeldab üksikasjalikult Portable Computer'i taga olevat arendustööd ja selle paremust täpsuse, kiiruse ja krediiditõhususe võrdlusalustes.
Proovi Portable Computer'it juba täna.