Introduzione di Portable Computer per l'IA locale

Alcuni dei lavori più preziosi che le persone svolgono per gli agenti IA includono dati che preferiscono mantenere sulle proprie macchine. Che si tratti di codebase private o di materiale confidenziale, i modelli locali stanno diventando abbastanza potenti da poter lavorare su di essi direttamente dove si trovano.

Oggi lanciamo Portable Computer, una versione di Perplexity Computer che viene eseguita interamente su una macchina locale. Lo abbiamo creato con NVIDIA per consentire agli utenti di possedere l'infrastruttura su NVIDIA DGX Spark™, il computer IA di dimensioni desktop di NVIDIA. Sarà presto disponibile anche su PC con GPU NVIDIA RTX.

Portable Computer consente agli utenti di eseguire Perplexity Computer interamente sul dispositivo, analizzando dati, sintetizzando file ed eseguendo flussi di lavoro complessi. I dati privati rimangono locali e il lavoro sul dispositivo non consuma crediti. Quando l'utente lo autorizza, il modello locale può passare al cloud per ricerche e ragionamenti più avanzati, mantenendo comunque le informazioni sensibili sul dispositivo.

Infrastruttura IA basata sul locale

Portable Computer viene rilasciato mentre gli utenti cercano di ottenere di più dalla propria potenza di calcolo, bilanciando le prestazioni con l'efficienza. Con una potenza simile a quella dei modelli di frontiera disponibile sui propri computer per la prima volta, le persone non devono più razionare gli scopi per cui utilizzano l'intelligenza.

Portable Computer funziona su NVIDIA DGX Spark con Qwen 3.8 27B o con PPLX 27B, una versione post-addestrata del modello Qwen. NVIDIA Nemotron 3.5 Lightning, un modello aperto da 30B, sarà presto disponibile nel selettore di modelli. L'orchestratore, il pianificatore, il router degli strumenti, lo scheduler, la coda di attività durevoli e l'indice di ricerca locale vengono eseguiti tutti sul dispositivo.

Il modello Qwen è post-addestrato per completare quanta più parte possibile di ciascuna attività in locale e per passare al cloud quando l'attività lo richiede. Legge file locali, effettua ricerche tra documenti e codice, esegue azioni sul dispositivo e mantiene i processi in esecuzione.

Disporre di una potenza di calcolo dedicata rende la gestione di attività di IA ad alto volume pratica da eseguire, poiché il lavoro gestito dai modelli locali non prevede alcun costo per credito.

Passaggio al cloud

Portable Computer gestisce la maggior parte delle attività che chiunque ha bisogno di eseguire interamente in locale. Tuttavia, alcune attività traggono vantaggio dall'accesso al web o a capacità di ragionamento avanzate nel cloud. Un utente potrebbe voler mantenere locali i dettagli riservati di un term sheet, ma passare al cloud per ottenere dati di mercato attuali o recenti transazioni precedenti.

L'orchestratore locale di Portable Computer può inoltrare un'attività al cloud per informazioni aggiornate, uso del browser, app collegate o uno di oltre 15 modelli di frontiera per il ragionamento avanzato.

Tramite i connettori per app, Portable Computer funziona con Google Drive, Gmail, Slack e GitHub. Un utente può fare il triage di nuovi problemi su GitHub confrontandoli con i rapporti sui bug notturni in Gmail sul dispositivo, per poi inviare un messaggio su Slack con i primi tre problemi e i relativi responsabili suggeriti entro mattina.

Quando un'attività deve inviare contenuti dal dispositivo a un servizio cloud, Portable Computer chiede il permesso all'utente prima di procedere.

Ricerca e dettatura

Un modello locale conosce solo ciò che si trova sulla macchina. Quando un'attività richiede il mondo esterno, Portable Computer può anche eseguire la ricerca Perplexity o una ricerca approfondita. Gli utenti ottengono risultati citati dal web senza rinunciare all'esecuzione locale di tutto il resto.

La modalità di dettatura viene eseguita anch'essa localmente con il modello ASR NVIDIA Nemotron 3.5. Gli utenti istruiscono l'agente mentre leggono un documento o abbozzano qualcosa su carta. La trascrizione e le azioni sui file rimangono interamente sulla macchina. Un utente può discutere una situazione con un cliente o dettare su una codebase privata senza che l'audio raggiunga il cloud.

La sicurezza corrisponde alla versione cloud di Perplexity Computer. L'esecuzione di codice e strumenti avviene in ambienti sandbox isolati con accesso controllato a file e app collegate.

Oggi è solo l'inizio dell'IA locale

Man mano che i modelli diventano più potenti e i chip più veloci, un numero maggiore di persone eseguirà flussi di lavoro complessi sulle proprie macchine. Ogni ciclo dei chip e ogni rilascio di modello spinge questo processo oltre. Eseguire l'IA su macchine personali diventerà una parte molto più rilevante del modo in cui viene svolto il lavoro.

Portable Computer è disponibile per gli abbonati Pro e Max su NVIDIA DGX Spark. La prima versione è disponibile su Linux, con il supporto per Windows in arrivo.

NVIDIA DGX Spark è costruito attorno alla piattaforma Grace Blackwell GB10: una CPU Arm a 20 core e una GPU NVIDIA con 128 GB di memoria unificata. Portable Computer può essere installato con una configurazione a un clic tramite l'app Perplexity.

Leggi di più sul lancio sul blog NVIDIA Local AI. Il nostro blog di ricerca, A Local-First Agent for Private and Cost-Effective Knowledge Work, descrive in dettaglio lo sviluppo alla base di Portable Computer e le sue prestazioni superiori rispetto ai benchmark in termini di accuratezza, velocità ed efficienza dei crediti.

Prova Portable Computer oggi stesso.