Yerel öncelikli yapay zeka için Portable Computer ile tanışın

İnsanların yapay zeka ajanları için sahip olduğu en değerli işlerden bazıları, kendi makinelerinde tutmayı tercih edecekleri verileri içerir. İster özel kod tabanları ister gizli materyaller olsun, yerel modeller artık tam olarak bulundukları yerde çalışabilecek kadar güçleniyor.

Bugün tamamen yerel bir makinede çalışan bir Perplexity Computer sürümü olan Portable Computer'ı piyasaya sürüyoruz. Kullanıcıların NVIDIA'nın masaüstü boyutundaki yapay zeka bilgisayarı NVIDIA DGX Spark™ üzerinde altyapının sahibi olabilmesi için bunu NVIDIA ile birlikte inşa ettik. Yakında NVIDIA RTX GPU'lu PC'lerde de kullanıma sunulacak.

Portable Computer, kullanıcıların Perplexity Computer'ı tamamen cihaz üzerinde çalıştırmasına olanak tanır; verileri analiz eder, dosyaları sentezler ve karmaşık iş akışları yürütür. Özel veriler yerelde kalır ve cihaz üzerindeki çalışmalar kredileri tüketmez. Kullanıcı izin verdiğinde, yerel model, hassas bilgileri cihazda tutmaya devam ederken daha gelişmiş araştırma ve akıl yürütme için buluta geçiş yapabilir.

Yerel öncelikli yapay zeka altyapısı

Portable Computer, kullanıcıların performans ile verimliliği dengeleyerek işlem güçlerinden daha fazla yararlanmaya çalıştığı bir dönemde piyasaya sürüldü. İlk kez kendi bilgisayarlarında üst düzey modellere benzer bir güç bulunduran insanlar, zekayı ne için kullanacaklarını artık kısıtlamak zorunda kalmıyor.

Portable Computer; Qwen 3.8 27B veya Qwen modelinin eğitim sonrası sürümü olan PPLX 27B ile NVIDIA DGX Spark üzerinde çalışır. 30B'lik açık bir model olan NVIDIA Nemotron 3.5 Lightning yakında model seçiciye eklenecektir. Düzenleyici, planlayıcı, araç yönlendiricisi, zamanlayıcı, dayanıklı görev kuyruğu ve yerel arama dizini cihaz üzerinde çalışır.

Qwen modeli, her görevin mümkün olduğunca büyük bir kısmını yerelde tamamlamak ve gerektiğinde buluta aktarmak üzere eğitilmiştir. Yerel dosyaları okur, belgeler ve kodlar arasında arama yapar, cihaz üzerinde eylemler gerçekleştirir ve işlerin çalışmaya devam etmesini sağlar.

İşlem gücüne sahip olmak, yüksek hacimli yapay zeka görevlerini çalıştırmayı pratik hale getirir çünkü yerel modeller tarafından yürütülen işler için kredi başına ücret alınmaz.

Buluta aktarım

Portable Computer, herkesin tamamen yerelde çalıştırması gereken görevlerin çoğunu halleder. Ancak bazı işler web'e veya buluttaki üst düzey akıl yürütme özelliklerine erişmekten fayda sağlar. Bir kullanıcı, bir sözleşme taslağının gizli detaylarının yerelde kalmasını isteyebilir, ancak güncel piyasa emsallerini ya da son emsal anlaşmaları almak için buluta geçiş yapabilir.

Portable Computer'ın yerel düzenleyicisi; güncel bilgiler, tarayıcı kullanımı, bağlı uygulamalar veya gelişmiş akıl yürütme için 15'ten fazla üst düzey modelden biri için bir görevi buluta aktarabilir.

Uygulama bağlayıcıları aracılığıyla Portable Computer; Google Drive, Gmail, Slack ve GitHub ile çalışır. Bir kullanıcı, cihaz üzerinde Gmail'deki gece yarısı hata raporlarına karşı yeni GitHub sorunlarını önceliklendirebilir, ardından sabaha kadar önerilen sahipleriyle birlikte ilk üç sorun hakkında bir Slack mesajı gönderebilir.

Bir görev, cihazdan bir bulut servisine içerik göndermesi gerektiğinde Portable Computer, ilerlemeden önce kullanıcıdan izin ister.

Arama ve dikte

Yerel bir model yalnızca makinede ne olduğunu bilir. Bir görevin dış dünyaya ihtiyaç duyduğu durumlarda Portable Computer ayrıca Perplexity araması veya geniş ya da derin araştırma çalıştırabilir. Kullanıcılar, diğer her şeyin yerel yürütmesinden ödün vermeden web'den alıntılanan bulgular elde eder.

Dikte modu ayrıca NVIDIA Nemotron 3.5 ASR Modeli ile yerel olarak çalışır. Kullanıcılar bir belgeyi okurken veya kağıt üzerine çizim yaparken ajana talimat verir. Dosyalar üzerindeki transkripsiyon ve işlemlerin tamamı makinede kalır. Bir kullanıcı, ses buluta ulaşmadan bir müşteri durumunu konuşabilir veya özel bir kod tabanı üzerinden dikte yapabilir.

Güvenlik, Perplexity Computer'ın bulut sürümüyle eşleşir. Kod ve araç yürütme işlemleri, dosyalara ve bağlı uygulamalara kontrollü erişime sahip izole korumalı alan ortamlarında çalışır.

Bugün, yerel yapay zekanın sadece başlangıcı

Modeller güçlendikçe ve çipler hızlandıkça, daha fazla insan kendi makinelerinde karmaşık iş akışları çalıştıracak. Her çip döngüsü ve her model sürümü bunu daha da ileri taşıyor. Kişisel makinelerde yapay zeka çalıştırmak, işlerin nasıl yapıldığının çok daha büyük bir parçası haline gelecek.

Portable Computer, NVIDIA DGX Spark üzerindeki Pro ve Max Abonelerinin kullanımına sunulmuştur. İlk sürüm Linux üzerinde kullanılabilir olup, Windows desteği yakında gelecektir.

NVIDIA DGX Spark, Grace Blackwell GB10 platformu etrafında inşa edilmiştir: 20 çekirdekli Arm CPU ve 128 GB birleşik belleğe sahip NVIDIA GPU. Portable Computer, Perplexity uygulaması aracılığıyla tek tıkla kurulabilir.

Lansman hakkında daha fazla bilgiyi NVIDIA Yerel Yapay Zeka blogunda okuyun. Araştırma blogumuz Özel ve Maliyet Etkin Bilgi Çalışması için Yerel Öncelikli Bir Temsilci, Portable Computer'ın arkasındaki gelişimi ve doğruluk, hız ile kredi verimliliği kıyaslamalarındaki üstün performansını ayrıntılı olarak ele almaktadır.

Portable Computer'ı bugün deneyin.