Představujeme Institut pro zabezpečenou inteligenci

Od spuštění prvního vyhledávacího stroje v prosinci 2022 společnost Perplexity soustavně a opakovaně nastavuje standardy v oblasti umělé inteligence. Spustili jsme první skutečný prohlížeč nativně integrovaný s umělou inteligencí na světě a první počítač s umělou inteligencí a zabezpečeným serverem. Perplexity je lídrem v oblasti umělé inteligence nezávislé na modelech a masivně multimodelových systémů umělé inteligence.

S tím, jak tyto kategorie získávají konkrétní podobu, se objevují i bezpečnostní otázky s nimi spojené.

Dnes spouštíme Institut pro zabezpečenou inteligenci (Secure Intelligence Institute – SII). Institut pro zabezpečenou inteligenci je stěžejním výzkumným centrem společnosti Perplexity zaměřeným na prosazování bezpečnosti, soukromí a důvěry v pokročilé umělé inteligenci. Prostřednictvím interního výzkumu a spolupráce se širší komunitou bude SII prohlubovat výzkum bezpečnosti ve společnosti Perplexity a přispívat pracemi, které mohou posunout bezpečnost umělé inteligence v celém oboru.

Stavíme na dosavadní práci

Tato iniciativa navazuje na výzkumné a inženýrské práce, které již ve společnosti Perplexity probíhají:

V dubnu 2025, před veřejným spuštěním prohlížeče Comet, jsme pověřili společnost Trail of Bits provedením první bezpečnostní auditu agentního prohlížeče svého druhu, který zahrnoval systematické modelování hrozeb a nové formy nepřátelského testování.

V červenci 2025 jsme spustili prohlížeč Comet s architekturou hloubkové obrany navrženou tak, aby chránila uživatele v prostředích reálného světa.

V prosinci 2025 jsme vydali BrowseSafe, open-source benchmark a model pro detekci obsahu s více než 14 700 reálnými scénáři útoků napříč 14 kategoriemi škodlivosti.

V březnu 2026 jsme publikovali dokument Bezpečnostní aspekty agentů umělé inteligence, který je naší reakcí na výzvu NIST k poskytnutí informací o zabezpečení autonomních agentů umělé inteligence.

SII sdružuje tyto snahy do širšího výzkumného programu. Práce, na které záleží nejvíce, plní dva úkoly současně: obstojí jako seriózní věda a vylepšují systémy, na které se lidé každý den spoléhají.

Lídrovství v oblasti bezpečnosti

Silné vědecké vedení je pro poslání SII klíčové. Úřadujícím ředitel SII se stane Dr. Ninghui Li. Ninghui je profesorem informatiky Samuela D. Conteho na Purdueově univerzitě, kde působí také jako zástupce vedoucího katedry. Je členem organizací ACM i IEEE a zastával řadu vedoucích rolí v komunitě zabývající se výzkumem bezpečnosti, včetně předsedy řídícího výboru pro ACM CCS, předsedy ACM SIGSAC a šéfredaktora časopisu ACM Transactions on Privacy and Security.

Přináší do SII desítky let zkušeností z vedení výzkumu v oblasti bezpečnosti a soukromí a do práce na budování silných systémů umělé inteligence.

Otevřená spolupráce

Výzvy na hranici bezpečnosti umělé inteligence jsou příliš široké a mezioborové na to, aby je bylo možné řešit osamoceně. Výzkum SII pokrývá ověřování totožnosti, použitelné soukromí a bezpečnost, robustní strojové učení a obranu agentních systémů umělé inteligence. Pokrok v těchto oblastech bude vyžadovat trvalou spolupráci napříč akademickou sférou a průmyslem.

Těšíme se na spolupráci s výzkumnými pracovníky, institucemi a organizacemi, které chtějí pomoci zabezpečit příští generaci pokročilé inteligence. Navštivte domovskou stránku SII a dozvíte se více o naší práci a budoucích příležitostech ke spolupráci.