Güvenli Zeka Enstitüsü'nün Duyurusu

Aralık 2022'de ilk yanıt motorunu piyasaya sürmesinden bu yana Perplexity, yapay zeka alanında tutarlı ve sürekli bir şekilde standartlar belirlemiştir. Dünyanın gerçekten yapay zeka tabanlı ilk tarayıcısını ve ilk güvenli sunucu yapay zeka bilgisayarını piyasaya sürdük. Perplexity, modelden bağımsız yapay zeka ve devasa çok modelli yapay zeka sistemlerinde liderdir.

Bu kategoriler şekillendikçe, etraflarındaki güvenlik soruları da şekillenmektedir.

Bugün Güvenli Zeka Enstitüsü'nü (Secure Intelligence Institute - SII) hizmete sokuyoruz. Güvenli Zeka Enstitüsü; sınır yapay zekasında güvenliği, gizliliği ve güveni ilerletmek amacıyla kurulan Perplexity'nin amiral gemisi araştırma merkezidir. SII, kurum içi araştırmalar ve daha geniş toplulukla işbirliği yoluyla Perplexity'nin güvenlik araştırmalarını derinleştirecek ve tüm alanda yapay zeka güvenliğini ileri taşıyabilecek çalışmalara katkıda bulunacaktır.

Mevcut çalışmalar üzerine kurulmuştur

Bu girişim, Perplexity'de hâlihazırda devam etmekte olan araştırma ve mühendislik çalışmaları üzerine kurulmuştur:

Nisan 2025'te, Comet'in kamuya açık lansmanından önce, sistematik tehdit modelleme ve yeni düşmanca test biçimleri de dahil olmak üzere alanında ilk olan ajan tabanlı tarayıcı güvenlik denetimini gerçekleştirmesi için Trail of Bits ile anlaşma yaptık.

Temmuz 2025'te, kullanıcıları açık dünya ortamlarında korumak için tasarlanmış bir derinlemesine savunma mimarisi (defense-in-depth architecture) ile Comet'i piyasaya sürdük.

Aralık 2025'te; 14 zarar kategorisinde 14.700'den fazla gerçek dünya saldırı senaryosu içeren açık kaynaklı bir kıyaslama (benchmark) ve içerik algılama modeli olan BrowseSafe'i yayınladık.

Mart 2026'da, özerk yapay zeka ajanlarının güvenliğini sağlamaya yönelik bilgi talebine NIST'in yanıtı niteliğinde olan Yapay Zeka Ajanları için Güvenlik Hususları'nı (Security Considerations for Artificial Intelligence Agents) yayınladık.

SII, bu çabaları daha geniş bir araştırma programı altında birleştirmektedir. En önemli çalışmalar aynı anda iki işi birden yapar: Ciddi bir bilim olarak ayakta durur ve insanların her gün güvendiği sistemleri iyileştirir.

Güvenlikte liderlik

Güçlü araştırma liderliği, SII'nin misyonunun merkezinde yer alır. Dr. Ninghui Li, SII'nin kurucu direktörü olarak görev yapacaktır. Ninghui, Purdue Üniversitesi'nde Bilgisayar Bilimleri dalında Samuel D. Conte Profesörüdür ve aynı zamanda Bölüm Başkan Yardımcısı olarak görev yapmaktadır. Hem ACM hem de IEEE üyesi olan kendisi; ACM CCS Yönlendirme Komitesi Başkanlığı, ACM SIGSAC Başkanlığı ve ACM Transactions on Privacy and Security Dergisi Başeditörlüğü dahil olmak üzere güvenlik araştırma topluluğunda çeşitli liderlik rollerinde bulunmuştur.

Kendisi, güvenlik ve gizlilik araştırmalarındaki onlar yıllık liderliğini SII'ye ve güçlü yapay zeka sistemleri inşa etme çalışmalarına taşımaktadır.

Açık iş birliği

Yapay zeka güvenliğinin sınırındaki zorluklar, tek başına ele alınamayacak kadar geniş ve disiplinler arasıdır. SII'nin araştırmaları kimlik doğrulama, kullanılabilir gizlilik ve güvenlik, sağlam makine öğrenimi ve ajan tabanlı yapay zeka sistemlerinin savunulmasını kapsamaktadır. Bu alanları ilerletmek, akademi ve endüstri arasında sürdürülebilir bir iş birliği gerektirecektir.

Gelecek nesil sınır zekasının güvenliğine yardımcı olmak isteyen araştırmacılar, kurumlar ve kuruluşlarla çalışmaktan heyecan duyuyoruz. Çalışmalarımız ve gelecekteki iş birliği fırsatları hakkında daha fazla bilgi edinmek için SII ana sayfasını ziyaret edin.