Представляем Portable Computer для локально-ориентированного ИИ

Некоторые из наиболее ценных задач, для которых пользователи привлекают ИИ-агентов, связаны с данными, которые они предпочитают хранить на собственных машинах. Будь то закрытые кодовые базы или конфиденциальные материалы, локальные модели теперь достаточно сильны, чтобы работать с ними прямо там, где они находятся.

Сегодня мы запускаем Portable Computer — версию Perplexity Computer, которая работает полностью на локальной машине. Мы создали ее совместно с NVIDIA, чтобы пользователи могли владеть стеком на NVIDIA DGX Spark™ — настольном ИИ-компьютере от NVIDIA. Скоро он также станет доступен на ПК с графическими процессорами NVIDIA RTX.

Portable Computer позволяет пользователям запускать Perplexity Computer полностью на устройстве, анализируя данные, синтезируя файлы и выполняя сложные рабочие процессы. Частные данные остаются локальными, а работа на устройстве не расходует кредиты. С разрешения пользователя локальная модель может передать задачу в облако для более продвинутых исследований и рассуждений, при этом конфиденциальная информация остается на устройстве.

Локально-ориентированный ИИ-стек

Portable Computer выпускается в период, когда пользователи стремятся извлечь максимум пользы из своих вычислительных ресурсов, балансируя между производительностью и эффективностью. Получив мощности уровня передовых моделей на собственных компьютерах впервые, люди больше не должны нормировать то, для чего они используют интеллект.

Portable Computer работает на базе NVIDIA DGX Spark с моделью Qwen 3.8 27B или PPLX 27B — дообученной версией модели Qwen. Открытая модель NVIDIA Nemotron 3.5 Lightning с 30 миллиардами параметров скоро появится в средстве выбора моделей. Оркестратор, планировщик, маршрутизатор инструментов, диспетчер, очередь долговечных задач и локальный поисковый индекс — все это работает на устройстве.

Модель Qwen дообучена так, чтобы выполнять как можно большую часть каждой задачи локально и переносить ее в облако при необходимости. Она читает локальные файлы, выполняет поиск по документам и коду, выполняет действия на устройстве и поддерживает выполнение задач.

Владение вычислительными ресурсами делает выполнение масштабных ИИ-задач практичным, поскольку за работу, обрабатываемую локальными моделями, не взимается плата за кредиты.

Передача задач в облако

Portable Computer справляется с большинством задач, которые пользователям необходимо запускать полностью локально. Но некоторым задачам требуется доступ к сети или передовым возможностям рассуждения в облаке. Пользователь может захотеть, чтобы конфиденциальные детали листа условий оставались локальными, но передать задачу в облако для получения актуальных рыночных аналогов или недавних прецедентных сделок.

Локальный оркестратор Portable Computer может передать задачу в облако для получения актуальной информации, использования браузера, подключенных приложений или одной из более чем 15 передовых моделей для продвинутого рассуждения.

Благодаря коннекторам приложений Portable Computer работает с Google Drive, Gmail, Slack и GitHub. Пользователь может рассортировать новые тикеты GitHub на основе ночных отчетов об ошибках в Gmail на устройстве, а к утру отправить сообщение в Slack о трех главных проблемах с предложенными ответственными.

Когда задаче требуется отправить содержимое с устройства в облачный сервис, Portable Computer запрашивает у пользователя разрешение перед продолжением.

Поиск и диктовка

Локальная модель знает только то, что находится на устройстве. Когда для задачи требуется внешний мир, Portable Computer также может выполнять поиск Perplexity или глубокое исследование. Пользователи получают цитируемые данные из интернета без отказа от локального выполнения всего остального.

Режим диктовки также работает локально с моделью NVIDIA Nemotron 3.5 ASR. Пользователи дают инструкции агенту, читая документ или делая зарисовки на бумаге. Транскрипция и действия с файлами остаются на машине. Пользователь может обсудить ситуацию с клиентом или продиктовать текст по закрытой кодовой базе без передачи аудио в облако.

Безопасность соответствует облачной версии Perplexity Computer. Выполнение кода и инструментов происходит в изолированных средах (песочницах) с контролируемым доступом к файлам и подключенным приложениям.

Сегодня — лишь начало эры локального ИИ

По мере того как модели становятся мощнее, а чипы — быстрее, все больше людей будут запускать сложные рабочие процессы на собственных машинах. Каждый цикл производства чипов и каждый выпуск новой модели продвигают это дальше. Запуск ИИ на персональных устройствах станет гораздо более значимой частью выполнения работы.

Portable Computer доступен для подписчиков Pro и Max на NVIDIA DGX Spark. Первый релиз доступен на Linux, поддержка Windows появится в ближайшее время.

NVIDIA DGX Spark создана на базе платформы Grace Blackwell GB10: 20-ядерного процессора Arm и графического процессора NVIDIA со 128 ГБ унифицированной памяти. Portable Computer можно установить с помощью установки в один клик через приложение Perplexity.

Подробнее о запуске читайте в блоге NVIDIA Local AI blog. В нашем исследовательском блоге A Local-First Agent for Private and Cost-Effective Knowledge Work подробно описана разработка Portable Computer и его превосходство в тестах по точности, скорости и эффективности использования кредитов.

Попробуйте Portable Computer сегодня.