A Portable Computer bemutatása a helyi alapú AI-hoz
A Portable Computer az NVIDIA-val együttműködve teljes egészében az eszközön futtatja a Perplexity Computer rendszert, a magánjellegű adatokat helyben tartva, és csak akkor lép át a felhőbe, amikor egy feladat azt igényli.
Az AI-ügynökök számára végzett legértékesebb feladatok egy része olyan adatokat foglal magában, amelyeket a felhasználók inkább a saját gépeiken tartanának meg. Legyen szó privát kódbázisokról vagy bizalmas anyagokról, a helyi modellek mára elég erőssé váltak ahhoz, hogy ott dolgozzanak velük, ahol azok találhatók.
Ma bemutatjuk a Portable Computer eszközt, a Perplexity Computer azon verzióját, amely teljes egészében egy helyi gépen fut. Az NVIDIA-val közösen építettük fel, hogy a felhasználók birtokolhassák a stacket az NVIDIA asztali méretű AI-számítógépén, az NVIDIA DGX Spark™-on. Hamarosan elérhető lesz NVIDIA RTX GPU-val rendelkező számítógépeken is.
A Portable Computer lehetővé teszi a felhasználók számára, hogy a Perplexity Computer rendszert teljes egészében az eszközön futtassák, ami elemezni tudja az adatokat, rendszerezi a fájlokat, és komplex munkafolyamatokat hajt végre. A magánjellegű adatok helyben maradnak, az eszközön végzett munka pedig nem fogyaszt krediteket. Amikor a felhasználó engedélyezi, a helyi modell a felhőhöz fordulhat a fejlettebb kutatás és következtetés érdekében, miközben az érzékeny információk továbbra is az eszközön maradnak.
Helyi alapú AI stack
A Portable Computer azzal a céllal jelenik meg, hogy a felhasználók a számítási kapacitásukból a legtöbbet hozzák ki, egyensúlyt teremtve a teljesítmény és a hatékonyság között. Mivel az első alkalommal válik elérhetővé a legkorszerűbb rendszerekhez mérhető erő a saját számítógépeiken, az embereknek többé nem kell rációzniuk, hogy mire használják az intelligenciát.
A Portable Computer az NVIDIA DGX Sparkon fut Qwen 3.8 27B vagy PPLX 27B modellel, amely a Qwen modell utótanított verziója. Az NVIDIA Nemotron 3.5 Lightning, egy 30B-s nyílt modell, hamarosan elérhető lesz a modellválasztóban. Az orchestrátor, a tervező, az eszközútválasztó, az ütemező, a tartós feladatütemezési sor és a helyi keresési index mind az eszközön futnak.
A Qwen modell úgy lett utótanítva, hogy minden feladatot a lehető legnagyobb mértékben helyben végezzen el, és szükség esetén áttérjen a felhőre. Helyi fájlokat olvas, dokumentumokban és kódokban keres, műveleteket hajt végre az eszközön, és futtatói környezetben tartja a feladatokat.
A számítási kapacitás birtoklása praktikussá teszi a nagy volumenű AI-feladatok futtatását, mivel a helyi modellek által kezelt munka után nincs kreditenkénti díj.
Áttérés a felhőre
A Portable Computer a feladatok többségét képes teljesen helyben futtatni, amire bárkinek szüksége lehet. Néhány feladat azonban profitálhat a webes elérésből vagy a felhőben lévő legkorszerűbb következtetési képességekből. Előfordulhat, hogy egy felhasználó azt szeretné, ha egy termlap bizalmas adatai helyben maradnának, de a felhőhöz fordulna aktuális piaci összehasonlító adatokért vagy a legfrissebb precedensügyletekért.
A Portable Computer helyi orchestrátora feladatokat delegálhat a felhőbe aktuális információkért, böngészőhasználathoz, csatlakoztatott alkalmazásokhoz vagy a több mint 15 élvonalbeli modell egyikéhez a fejlett következtetés érdekében.
Az alkalmazáscsatlakozók révén a Portable Computer együttműködik a Google Drive, Gmail, Slack és GitHub szolgáltatásokkal. A felhasználó reggelre rendszerezheti az új GitHub-problémákat a Gmailben éjszaka érkezett hibajelentések alapján, majd küldhet egy Slack-üzenetet a legfontosabb három problémáról a javasolt felelősökkel.
Ha egy feladat során tartalmat kell továbbítani az eszközről egy felhőszolgáltatásba, a Portable Computer a továbblépés előtt engedélyt kér a felhasználótól.
Keresés és diktálás
A helyi modell csak azt ismeri, ami a gépen van. Amikor egy feladathoz a külvilágra van szükség, a Portable Computer képes a Perplexity keresést, illetve a széles vagy Mélyreható kutatás funkciót is futtatni. A felhasználók forrásmegjelöléssel ellátott webes találatokat kapnak anélkül, hogy feladnák a többi feladat helyi végrehajtását.
A diktálási mód szintén helyben fut az NVIDIA Nemotron 3.5 ASR modellel. A felhasználók úgy tájékoztatják az ügynököt, hogy közben dokumentumot olvasnak vagy papírra vázolnak. A fájlokon végzett átírás és műveletek mind a gépen maradnak. A felhasználó átbeszélhet egy ügyfélszituációt vagy diktálhat egy privát kódbázison anélkül, hogy a hang eljutna a felhőbe.
A biztonság megegyezik a Perplexity Computer felhőalapú verziójával. A kód- és eszközfuttatás elkülönített sandbox környezetben történik, a fájlokhoz és a csatlakoztatott alkalmazásokhoz való ellenőrzött hozzáféréssel.
A mai nap még csak a helyi AI kezdetét jelenti
Ahogy a modellek erősödnek és a chipek gyorsulnak, egyre többen fognak komplex munkafolyamatokat futtatni a saját gépeiken. Minden chipciklus és minden modellkiadás tovább tolja ezt a határt. Az AI személyi gépeken történő futtatása a jövőben sokkal nagyobb szerepet fog játszani a munkavégzésben.
A Portable Computer elérhető a Pro és Max előfizetők számára az NVIDIA DGX Sparkon. Az első kiadás Linuxon érhető el, a Windows támogatás hamarosan érkezik.
Az NVIDIA DGX Spark a Grace Blackwell GB10 platformra épül: egy 20 magos Arm CPU-ra és egy NVIDIA GPU-ra, 128 GB egységes memóriával. A Portable Computer egy kattintással telepíthető a Perplexity alkalmazáson keresztül.
További részletek az indításról az NVIDIA Local AI blogon olvashatók. Kutatási blogunk, a A Local-First Agent for Private and Cost-Effective Knowledge Work részletesen bemutatja a Portable Computer mögött álló fejlesztést, valamint annak kiemelkedő teljesítményét a pontossági, sebességi és kredithatékonysági összehasonlító tesztekben.
Próbálja ki a Portable Computer eszközt még ma.