Ogłoszenie powstania Instytutu Bezpiecznej Inteligencji
Dzisiaj uruchamiamy Instytut Bezpiecznej Inteligencji (SII). Instytut Bezpiecznej Inteligencji to flagowe centrum badawcze Perplexity, zajmujące się zwiększaniem bezpieczeństwa, prywatności i zaufania w nowatorskich systemach AI.
Od momentu uruchomienia pierwszej wyszukiwarki odpowiedzi w grudniu 2022 r., Perplexity konsekwentnie i wielokrotnie wyznacza standardy w dziedzinie sztucznej inteligencji. Wprowadziliśmy pierwszą na świecie przeglądarkę natywnie obsługującą sztuczną inteligencję oraz pierwszy komputer AI z bezpiecznym serwerem. Perplexity jest liderem w dziedzinie sztucznej inteligencji niezależnej od modelu oraz masowych systemów wielomodelowych.
Wraz z kształtowaniem się tych kategorii pojawiają się również pytania dotyczące ich bezpieczeństwa.
Dzisiaj uruchamiamy Instytut Bezpiecznej Inteligencji (SII). Instytut Bezpiecznej Inteligencji to flagowe centrum badawcze Perplexity, zajmujące się zwiększaniem bezpieczeństwa, prywatności i zaufania w nowatorskich systemach AI. Dzięki własnym badaniom oraz współpracy z szerszą społecznością, SII pogłębi badania Perplexity w zakresie bezpieczeństwa i wniesie wkład w działania mające na celu poprawę bezpieczeństwa AI w całej branży.
W oparciu o dotychczasowe prace
Ta inicjatywa opiera się na badaniach i pracach inżynieryjnych, które już trwają w Perplexity:
W kwietniu 2025 r., przed publicznym udostępnieniem Comet, zaangażowaliśmy firmę Trail of Bits do przeprowadzenia pierwszego w swoim rodzaju audytu bezpieczeństwa przeglądarki opartej na agentach, obejmującego systematyczne modelowanie zagrożeń oraz nowe formy testów kontradyktoryjnych.
W lipcu 2025 r. uruchomiliśmy Comet z architekturą obrony wielowarstwowej, zaprojektowaną w celu ochrony użytkowników w środowiskach otwartych.
W grudniu 2025 r. udostępniliśmy BrowseSafe, model benchmarkowy i detekcji treści typu open-source, zawierający ponad 14 700 rzeczywistych scenariuszy ataków w 14 kategoriach szkodliwości.
W marcu 2026 r. opublikowaliśmy Security Considerations for Artificial Intelligence Agents (Zalecenia dotyczące bezpieczeństwa agentów sztucznej inteligencji) – naszą odpowiedź na wniosek NIST o informacje dotyczące zabezpieczania autonomicznych agentów AI.
SII integruje te wysiłki w ramach szerszego programu badawczego. Najważniejsze prace łączą dwa aspekty: stanowią rzetelną naukę i jednocześnie udoskonalają systemy, z których ludzie korzystają na co dzień.
Przywództwo w dziedzinie bezpieczeństwa
Silne przywództwo badawcze jest kluczowe dla misji SII. Dr Ninghui Li obejmie stanowisko pierwszego dyrektora SII. Ninghui jest profesorem Computer Science na Uniwersytecie Purdue, gdzie pełni również funkcję zastępcy kierownika wydziału. Jako członek ACM i IEEE, pełnił szereg czołowych ról w społeczności badaczy bezpieczeństwa, w tym przewodniczącego komitetu sterującego ACM CCS, przewodniczącego ACM SIGSAC oraz redaktora naczelnego ACM Transactions on Privacy and Security.
Wnosi on do SII dziesięciolecia doświadczenia w przywództwie w badaniach nad bezpieczeństwem i prywatnością oraz w prace nad tworzeniem silnych systemów sztucznej inteligencji.
Otwarta współpraca
Wyzwania związane z bezpieczeństwem sztucznej inteligencji są zbyt szerokie i interdyscyplinarne, by można było im sprostać w pojedynkę. Badania SII obejmują uwierzytelnianie, użyteczną prywatność i bezpieczeństwo, solidne uczenie maszynowe oraz obronę systemów AI opartych na agentach. Postęp w tych obszarach wymaga trwałej współpracy między środowiskiem akademickim a przemysłem.
Z entuzjazmem podejmujemy współpracę z badaczami, instytucjami i organizacjami, które chcą pomóc zabezpieczyć nową generację nowoczesnych rozwiązań AI. Odwiedź stronę główną SII, aby dowiedzieć się więcej o naszej pracy oraz o przyszłych możliwościach współpracy.