Przedstawiamy Portable Computer dla lokalnej sztucznej inteligencji

Niektóre z najcenniejszych zadań, do których ludzie wykorzystują agentów AI, obejmują dane, które wolą zachować na własnych maszynach. Niezależnie od tego, czy chodzi o prywatne bazy kodu, czy poufne materiały, lokalne modele stają się teraz wystarczająco silne, aby pracować na nich dokładnie tam, gdzie się znajdują.

Dzisiaj uruchamiamy Portable Computer, wersję Perplexity Computer, która działa w całości na lokalnej maszynie. Stworzyliśmy ją we współpracy z firmą NVIDIA, aby użytkownicy mogli posiadać cały stos technologiczny na NVIDIA DGX Spark™, komputerze AI firmy NVIDIA wielkości komputera stacjonarnego. Wkrótce będzie ona również dostępna na komputerach PC z procesorami GPU NVIDIA RTX.

Portable Computer pozwala użytkownikom uruchamiać Perplexity Computer w całości na urządzeniu, analizując dane, syntetyzując pliki i uruchamiając złożone przepływy pracy. Prywatne dane pozostają lokalne, a praca na urządzeniu nie zużywa kredytów. Gdy użytkownik na to zezwoli, lokalny model może przekazać zadanie do chmury w celu przeprowadzenia bardziej zaawansowanych badań i rozumowania, nadal utrzymując poufne informacje na urządzeniu.

Lokalny stos AI

Portable Computer pojawia się w momencie, gdy użytkownicy starają się wycisnąć jak najwięcej ze swoich zasobów obliczeniowych, równoważąc wydajność z efektywnością. Dzięki dostępnej po raz pierwszy na własnych komputerach sile dorównującej wiodącym modelom ludzie nie muszą już oszczędzać inteligencji.

Portable Computer działa na platformie NVIDIA DGX Spark z modelami Qwen 3.8 27B lub PPLX 27B, czyli wersją modelu Qwen po dodatkowym treningu. NVIDIA Nemotron 3.5 Lightning, model otwartoźródłowy z 30 mld parametrów, wkrótce pojawi się w wyborze modeli. Orkiestrator, planista, ruter narzędzi, harmonogram, trwałą kolejkę zadań oraz lokalny indeks wyszukiwania – wszystko to działa na urządzeniu.

Model Qwen jest dodatkowo trenowany, aby lokalnie wykonywać jak najwięcej z każdego zadania i w razie potrzeby przekazywać je do chmury. Odczytuje lokalne pliki, przeszukuje dokumenty i kod, wykonuje działania na urządzeniu oraz dba o ciągłość zadań.

Posiadanie zasobów obliczeniowych sprawia, że wykonywanie zadań AI na dużą skalę staje się praktyczne, ponieważ praca obsługiwana przez lokalne modele nie wiąże się z opłatami za kredyty.

Eskalacja do chmury

Portable Computer radzi sobie lokalnie z większością zadań, których potrzebuje użytkownik. Jednak niektóre zadania zyskują na dostępie do sieci lub zaawansowanym rozumowaniu w chmurze. Użytkownik może chcieć, aby poufne szczegóły arkusza warunków transakcji pozostały lokalne, ale przekazać zadanie do chmury, aby uzyskać aktualne dane rynkowe lub niedawne transakcje precedensowe.

Lokalny orkiestrator Portable Computer może przekazać zadanie do chmury w celu uzyskania aktualnych informacji, korzystania z przeglądarki, połączonych aplikacji lub jednego z ponad 15 wiodących modeli w celu zaawansowanego rozumowania.

Dzięki łącznikom aplikacji Portable Computer współpracuje z usługami Google Drive, Gmail, Slack i GitHub. Użytkownik może rano uporządkować nowe zgłoszenia w serwisie GitHub pod kątem nocnych raportów o błędach w Gmailu na urządzeniu, a następnie wysłać wiadomość w aplikacji Slack dotyczącą trzech najważniejszych zgłoszeń wraz z sugerowanymi osobami odpowiedzialnymi.

Gdy zadanie wymaga przesłania zawartości z urządzenia do usługi w chmurze, Portable Computer pyta użytkownika o zgodę przed pójściem dalej.

Wyszukiwanie i dyktowanie

Lokalny model wie tylko to, co znajduje się na maszynie. Gdy zadanie wymaga świata zewnętrznego, Portable Computer może również uruchomić wyszukiwanie Perplexity lub szerokie bądź Dogłębne badania. Użytkownicy otrzymują wyniki z internetu opatrzone przypisami bez rezygnacji z lokalnego wykonywania wszystkich innych zadań.

Tryb dyktowania działa również lokalnie dzięki modelowi NVIDIA Nemotron 3.5 ASR. Użytkownicy przekazują wytyczne agentowi, czytając dokument lub szkicując na papierze. Transkrypcja i działania na plikach pozostają na maszynie. Użytkownik może omówić sytuację z klientem lub dyktować tekst w obrębie prywatnej bazy kodu bez przesyłania dźwięku do chmury.

Bezpieczeństwo dorównuje chmurowej wersji Perplexity Computer. Wykonywanie kodu i narzędzi odbywa się w odizolowanych środowiskach piaskownicy z kontrolowanym dostępem do plików i połączonych aplikacji.

Dzisiejszy dzień to dopiero początek lokalnej sztucznej inteligencji

W miarę jak modele stają się silniejsze, a czipy szybsze, coraz więcej osób będzie uruchamiać złożone przepływy pracy na własnych maszynach. Każdy cykl produkcji czipów i każda nowa wersja modelu popychają to zjawisko do przodu. Uruchamianie AI na komputerach osobistych stanie się znacznie większą częścią sposobu wykonywania pracy.

Portable Computer jest dostępny dla subskrybentów planów Pro i Max na platformie NVIDIA DGX Spark. Pierwsza wersja jest dostępna w systemie Linux, a obsługa systemu Windows pojawi się wkrótce.

NVIDIA DGX Spark jest oparty na platformie Grace Blackwell GB10: 20-rdzeniowym procesorze Arm CPU i procesorze GPU NVIDIA ze 128 GB pamięci zunifikowanej. Portable Computer można zainstalować za pomocą konfiguracji jednym kliknięciem w aplikacji Perplexity.

Przeczytaj więcej o premierze na blogu NVIDIA Local AI. Nasz blog badawczy, A Local-First Agent for Private and Cost-Effective Knowledge Work, zawiera szczegółowe informacje na temat rozwoju Portable Computer i jego przewagi w testach porównawczych pod kątem dokładności, szybkości i efektywności wykorzystania kredytów.

Wypróbuj Portable Computer już dziś.