Wir präsentieren Portable Computer für Local-First-KI
Portable Computer führt Perplexity Computer vollständig auf dem Gerät mit NVIDIA aus, wodurch private Daten lokal bleiben und nur dann in die Cloud skaliert wird, wenn eine Aufgabe dies erfordert.
Zu den wertvollsten Aufgaben, die Menschen für KI-Agenten haben, gehören Daten, die sie lieber auf ihren eigenen Geräten behalten würden. Ob private Codebasen oder vertrauliches Material – lokale Modelle werden mittlerweile stark genug, um direkt dort daran zu arbeiten, wo sie sich befinden.
Heute starten wir Portable Computer, eine Version von Perplexity Computer, die vollständig auf einem lokalen Rechner läuft. Wir haben es gemeinsam mit NVIDIA entwickelt, damit Anwender den gesamten Stack auf dem NVIDIA DGX Spark™ besitzen können – NVIDIAs desktopgroßem KI-Computer. Es wird bald auch auf NVIDIA RTX GPU-PCs verfügbar sein.
Mit Portable Computer können Nutzer Perplexity Computer vollständig auf dem Gerät ausführen, Daten analysieren, Dateien zusammenfassen und komplexe Workflows ausführen. Private Daten verbleiben lokal, und die Arbeit auf dem Gerät verbraucht keine Credits. Wenn der Nutzer dies autorisiert, kann das lokale Modell für eine fortgeschrittenere Recherche und erweitertes Reasoning in die Cloud skalieren, während sensible Informationen weiterhin auf dem Gerät verbleiben.
Lokaler KI-Stack
Portable Computer erscheint zu einer Zeit, in der Anwender versuchen, mehr aus ihrer Rechenleistung herauszuholen und dabei Leistung und Effizienz auszugleichen. Da zum ersten Mal eine Leistung auf dem Niveau von Frontier-Modellen auf ihren eigenen Computern verfügbar ist, müssen die Menschen nicht mehr rationieren, wofür sie Intelligenz einsetzen.
Portable Computer läuft auf dem NVIDIA DGX Spark mit Qwen 3.8 27B oder PPLX 27B, einer nachträglich trainierten Version des Qwen-Modells. NVIDIA Nemotron 3.5 Lightning, ein offenes Modell mit 30B, ist bald im Modellauswahlmenü verfügbar. Der Orchestrator, der Planer, der Tool-Router, der Scheduler, die dauerhafte Aufgabenwarteschlange und der lokale Suchindex laufen alle auf dem Gerät.
Das Qwen-Modell wurde so nachträglich trainiert, dass es möglichst viele Aufgaben lokal erledigt und bei Bedarf an die Cloud skaliert. Es liest lokale Dateien, durchsucht Dokumente und Code, führt Aktionen auf dem Gerät aus und hält Prozesse am Laufen.
Die Kontrolle über die Rechenleistung macht den Betrieb von KI-Aufgaben mit hohem Volumen praktikabel, da für die von lokalen Modellen verarbeiteten Arbeitslasten keine Gebühren pro Credit anfallen.
Skalierung in die Cloud
Portable Computer bewältigt die Mehrheit der Aufgaben, die Nutzer vollständig lokal ausführen müssen. Einige Arbeitslasten profitieren jedoch vom Zugriff auf das Web oder auf fortschrittliche Reasoning-Funktionen in der Cloud. Ein Nutzer möchte vielleicht, dass die vertraulichen Details eines Term Sheets lokal bleiben, skaliert jedoch in die Cloud, um aktuelle Marktdaten oder jüngste Präzedenzfälle abzurufen.
Der lokale Orchestrator von Portable Computer kann eine Aufgabe für aktuelle Informationen, Browsing, verbundene Apps oder eines von über 15 Frontier-Modellen für erweitertes Reasoning an die Cloud skalieren.
Über App-Konnektoren arbeitet Portable Computer mit Google Drive, Gmail, Slack und GitHub zusammen. Ein Nutzer kann neue GitHub-Issues mit den nächtlichen Bug-Reports in Gmail direkt auf dem Gerät sortieren und bis zum Morgen eine Slack-Nachricht über die drei wichtigsten Issues mit vorgeschlagenen Verantwortlichen senden.
Wenn eine Aufgabe Inhalte vom Gerät an einen Cloud-Dienst senden muss, bittet Portable Computer den Nutzer vor dem Fortfahren um Erlaubnis.
Suche und Diktat
Ein lokales Modell weiß nur, was sich auf dem Gerät befindet. Wenn eine Aufgabe die Außenwelt benötigt, kann Portable Computer auch die Perplexity-Suche oder eine breite beziehungsweise Vertiefte Recherche ausführen. Nutzer erhalten zitierte Ergebnisse aus dem Web, ohne die lokale Ausführung aller anderen Abläufe aufzugeben.
Der Diktatmodus läuft ebenfalls lokal mit dem NVIDIA Nemotron 3.5 ASR-Modell. Nutzer briefen den Agenten, während sie ein Dokument lesen oder auf Papier skizzieren. Die Transkription und Aktionen an Dateien verbleiben vollständig auf dem Rechner. Ein Nutzer kann eine Kundensituation besprechen oder über eine private Codebasis diktieren, ohne dass das Audio die Cloud berührt.
Die Sicherheit entspricht der Cloud-Version von Perplexity Computer. Code und Tool-Ausführungen laufen in isolierten Sandbox-Umgebungen mit kontrolliertem Zugriff auf Dateien und verbundene Apps.
Heute ist erst der Anfang der lokalen KI
Da Modelle leistungsstärker und Chips schneller werden, werden mehr Menschen komplexe Workflows auf ihren eigenen Geräten ausführen. Jeder Chip-Zyklus und jede Modellveröffentlichung treibt dies weiter voran. KI auf persönlichen Geräten zu betreiben, wird ein weitaus größerer Teil davon sein, wie Arbeit erledigt wird.
Portable Computer ist für Pro- und Max-Abonnenten auf dem NVIDIA DGX Spark verfügbar. Die erste Version ist auf Linux verfügbar; die Unterstützung für Windows folgt in Kürze.
Der NVIDIA DGX Spark basiert auf der Grace Blackwell GB10-Plattform: einer Arm-CPU mit 20 Kernen und einer NVIDIA-GPU mit 128 GB vereinheitlichtem Speicher. Portable Computer kann über die Perplexity-App mit einer Ein-Klick-Installation eingerichtet werden.
Lesen Sie mehr über den Start im NVIDIA Local AI Blog. Unser Forschungsblog, A Local-First Agent for Private and Cost-Effective Knowledge Work, beschreibt die Entwicklung hinter Portable Computer und dessen überlegene Leistung bei Benchmarks für Genauigkeit, Geschwindigkeit und Credit-Effizienz.
Probieren Sie Portable Computer noch heute aus.