Представляємо Portable Computer для локального ШІ
Portable Computer запускає Perplexity Computer повністю на пристрої за допомогою NVIDIA, зберігаючи приватні дані локально та передаючи їх у хмару лише тоді, коли це необхідно для завдання.
Деяка з найцінніших робіт, яку люди виконують за допомогою агентів ШІ, включає дані, які вони вважають за краще залишати на власних пристроях. Будь то приватні кодові бази чи конфіденційні матеріали, локальні моделі тепер стають достатньо потужними, щоб працювати з ними прямо там, де вони знаходяться.
Сьогодні ми запускаємо Portable Computer — версію Perplexity Computer, яка працює повністю на локальній машині. Ми створили його спільно з NVIDIA, щоб користувачі могли володіти стеком на NVIDIA DGX Spark™, настільному AI-комп'ютері NVIDIA. Незабаром він також буде доступний на ПК з GPU NVIDIA RTX.
Portable Computer дозволяє користувачам запускати Perplexity Computer повністю на пристрої, аналізуючи дані, синтезуючи файли та виконуючи складні робочі процеси. Приватні дані залишаються локальними, а робота на пристрої не споживає кредити. Коли користувач дає дозвіл, локальна модель може звернутися до хмари для глибших досліджень і міркувань, водночас зберігаючи чутливу інформацію на пристрої.
Локально-орієнтований стек ШІ
Portable Computer з'являється в той час, коли користувачі прагнуть отримати більше від своїх обчислювальних потужностей, балансуючи між продуктивністю та ефективністю. Завдяки тому, що на їхніх власних комп'ютерах уперше доступна потужність рівня передових моделей, людям більше не потрібно раціонувати те, для чого вони використовують інтелект.
Portable Computer працює на NVIDIA DGX Spark з Qwen 3.8 27B або PPLX 27B — донавченою версією моделі Qwen. NVIDIA Nemotron 3.5 Lightning, відкрита модель із 30B параметрів, незабаром з'явиться у виборі моделей. Оркестратор, планувальник, маршрутизатор інструментів, планувальник завдань, стійка черга завдань та локальний пошуковий індекс працюють на пристрої.
Модель Qwen навчена виконувати якомога більшу частину кожного завдання локально, а в разі потреби передавати завдання в хмару. Вона читає локальні файли, здійснює пошук по документах і коду, виконує дії на пристрої та підтримує роботу завдань.
Володіння обчислювальними ресурсами робить виконання великих обсягів завдань ШІ практичним, оскільки за роботу, оброблювану локальними моделями, не стягується плата за кредити.
Передача завдань у хмару
Portable Computer справляється з більшістю завдань, які потрібно запускати локально. Але деякі завдання виграють від доступу до веб або передових можливостей міркування в хмарі. Користувач може захотіти, щоб конфіденційні деталі листа про умови угоди залишалися локальними, але звертатися до хмари, щоб отримати актуальні ринкові порівняння чи останні прецедентні угоди.
Локальний оркестратор Portable Computer може передати завдання в хмару для отримання актуальної інформації, використання браузера, підключених додатків або однієї з понад 15 передових моделей для розширеного аналізу.
За допомогою конекторів додатків Portable Computer працює з Google Drive, Gmail, Slack і GitHub. Користувач може виконати тріаж нових завдань GitHub проти нічних звітів про помилки в Gmail на пристрої, а потім надіслати повідомлення в Slack про три головні проблеми із запропонованими відповідальними особами до ранку.
Коли для завдання потрібно надіслати вміст із пристрою в хмарний сервіс, Portable Computer запитує у користувача дозвіл, перш ніж рухатися далі.
Пошук і диктування
Локальна модель знає лише те, що є на пристрої. Коли для завдання потрібен зовнішній світ, Portable Computer також може задіяти пошук Perplexity або поверхневе чи глибоке дослідження. Користувачі отримують знайдені дані з посиланням на веб-джерела, не відмовляючись від локального виконання всього іншого.
Режим диктування також працює локально за допомогою моделі NVIDIA Nemotron 3.5 ASR. Користувачі дають інструкції агенту, читаючи документ або роблячи начерки на папері. Транскрипція та дії з файлами залишаються на пристрої. Користувач може обговорити ситуацію з клієнтом або продиктувати текст для приватного кодової бази без передачі аудіо в хмару.
Безпека відповідає хмарній версії Perplexity Computer. Виконання коду та інструментів відбувається в ізольованих середовищах «пісочниці» з контрольованим доступом до файлів і підключених додатків.
Сьогодні — це лише початок локального ШІ
У міру того як моделі стають потужнішими, а чипи — швидшими, все більше людей запускатимуть складні робочі процеси на власних комп'ютерах. Кожне покоління чипів і кожен випуск моделей просувають це далі. Запуск ШІ на персональних комп'ютерах стане значно більшою частиною виконання роботи.
Portable Computer доступний для передплатників Pro та Max на NVIDIA DGX Spark. Перший випуск доступний на Linux, а підтримка Windows з'явиться незабаром.
NVIDIA DGX Spark створено на базі платформи Grace Blackwell GB10: 20-ядерного процесора Arm та GPU NVIDIA з 128 ГБ уніфікованої пам'яті. Portable Computer можна встановити в один клік через додаток Perplexity.
Читайте більше про запуск у блозі NVIDIA Local AI. Наш дослідницький блог A Local-First Agent for Private and Cost-Effective Knowledge Work детально описує розробку Portable Computer та його перевагу в бенчмарках за точністю, швидкістю та ефективністю використання кредитів.
Спробуйте Portable Computer сьогодні.