Oznamujeme založenie Secure Intelligence Institute

Od uvedenia prvého vyhľadávača s umelou inteligenciou v decembri 2022 Perplexity systematicky a opakovane stanovuje štandardy v oblasti umelej inteligencie. Predstavili sme prvý skutočne natívny prehliadač s umelou inteligenciou na svete a prvý počítač s umelou inteligenciou so zabezpečeným serverom. Perplexity je lídrom v oblasti umelej inteligencie nezávislej od modelov a masívnych multimodálnych systémov umelej inteligencie.

S formovaním týchto kategórií vznikajú aj otázky týkajúce sa ich bezpečnosti.

Dnes spúšťame Secure Intelligence Institute (SII). Secure Intelligence Institute je hlavné výskumné centrum spoločnosti Perplexity na presadzovanie bezpečnosti, súkromia a dôvery v špičkovej umelej inteligencii. Prostredníctvom interného výskumu a spolupráce so širšou komunitou SII prehĺbi bezpečnostný výskum spoločnosti Perplexity a prispeje prácou, ktorá môže posunúť bezpečnosť umelej inteligencie v celej oblasti.

Nadväzovanie na doterajšiu prácu

Táto iniciatíva nadväzuje na výskumnú a inžiniersku prácu, ktorá už v spoločnosti Perplexity prebieha:

V apríli 2025, pred verejným uvedením prehliadača Comet, sme poverili spoločnosť Trail of Bits vykonaním prvej bezpečnostnej audítorskej kontroly agentného prehliadača svojho druhu, ktorá zahŕňala systematické modelovanie hrozieb a nové formy testovania odolnosti voči útokom.

V júli 2025 sme uviedli na trh prehliadač Comet s architektúrou hĺbkovej obrany navrhnutou na ochranu používateľov v prostrediach otvoreného sveta.

V decembri 2025 sme vydali BrowseSafe, open-source benchmark a model detekcie obsahu s viac ako 14 700 reálnymi scenármi útokov v 14 kategóriách škodlivosti.

V marci 2026 sme zverejnili dokument Security Considerations for Artificial Intelligence Agents ako našu reakciu na výzvu NIST na predloženie informácií o zabezpečení autonómnych agentov umelej inteligencie.

Inštitút SII spája tieto snahy do širšieho výskumného programu. Práca, na ktorej záleží najviac, plní dva ciele naraz:obstojí ako vážna veda a zlepšuje systémy, na ktoré sa ľudia spoliehajú každý deň.

Vodcovstvo v oblasti bezpečnosti

Silné výskumné vedenie má ústredný význam pre poslanie inštitútu SII. Prvým riaditeľom SII bude Dr. Ninghui Li. Ninghui je profesorom informatiky Samuela D. Conteho na Purdueovej univerzite, kde pôsobí aj ako zástupca vedúceho katedry. Je členom organizácií ACM aj IEEE a zastával viac popredných úloh v komunite zaoberajúcej sa výskumom bezpečnosti, vrátane predsedu riadiaceho výboru pre ACM CCS, predsedu ACM SIGSAC a šéfredaktora časopisu ACM Transactions on Privacy and Security.

Do SII a do práce na budovaní silných systémov umelej inteligencie prináša desaťročia skúseností s vedením výskumu v oblasti bezpečnosti a súkromia.

Otvorená spolupráca

Výzvy na hranici bezpečnosti umelej inteligencie sú príliš široké a interdisciplinárne na to, aby sa dali riešiť osamote. Výskum inštitútu SII zahŕňa autentifikáciu, využiteľné súkromie a bezpečnosť, robustné strojové učenie a obranu agentných systémov umelej inteligencie. Napredovanie v týchto oblastiach si vyžaduje trvalú spoluprácu naprieč akademickou sférou a priemyslom.

Tešíme sa na spoluprácu s výskumníkmi, inštitúciami a organizáciami, ktoré chcú pomôcť zabezpečiť ďalšiu generáciu špičkovej inteligencie. Navštívte domovskú stránku SII a dozvedzte sa viac o našej práci a budúcich príležitostiach na spoluprácu.