Najava osnivanja Instituta za sigurnu inteligenciju

Otkako je u prosincu 2022. pokrenuo prvi mehanizam za odgovore, Perplexity dosljedno i opetovano postavlja standarde u umjetnoj inteligenciji. Pokrenuli smo prvi doista AI-nativni preglednik na svijetu i prvo AI računalo sa sigurnim poslužiteljem. Perplexity je lider u umjetnoj inteligenciji neovisnoj o modelima i masivnim višemodelnim AI sustavima.

Kako se ove kategorije oblikuju, tako se pojavljuju i sigurnosna pitanja oko njih.

Danas pokrećemo Institut za sigurnu inteligenciju (SII). Institut za sigurnu inteligenciju vodeći je Perplexityjev istraživački centar za unapređenje sigurnosti, privatnosti i povjerenja u naprednoj umjetnoj inteligenciji. Kroz vlastito istraživanje i suradnju s šire zajednicom, SII će produbiti Perplexityjevo istraživanje sigurnosti i dati doprinos radu koji može unaprijediti AI sigurnost u cijelom području.

Izgrađeno na postojećem radu

Ova inicijativa nadovezuje se na istraživački i inženjerski rad koji je već u tijeku u Perplexityju:

U travnju 2025., prije javnog lansiranja Cometa, angažirali smo Trail of Bits da provede prvu sigurnosnu reviziju agentskog preglednika ove vrste, uključujući sustavno modeliranje prijetnji i nove oblike neprijateljskog testiranja.

U srpnju 2025. lansirali smo Comet s arhitekturom višeslojne obrane dizajniranom za zaštitu korisnika u okruženjima otvorena svijeta.

U prosincu 2025. objavili smo BrowseSafe, open-source mjerilo i model detekcije sadržaja s više od 14.700 scenarija napada iz stvarnog svijeta u 14 kategorija štete.

U ožujku 2026. objavili smo Sigurnosna razmatranja za agente s umjetnom inteligencijom, naš odgovor na NIST-ov zahtjev za informacijama o osiguravanju autonomnih AI agenata.

SII okuplja ove napore u širi istraživački program. Rad koji je najvažniji obavlja oba posla odjednom: stoji kao ozbiljna znanost i poboljšava sustave na koje se ljudi oslanjaju svaki dan.

Vodstvo u sigurnosti

Snažno istraživačko vodstvo središnje je za SII-jevu misiju. Dr. Ninghui Li služit će kao SII-jev inauguralni direktor. Ninghui je profesor računalnih znanosti Samuel D. Conte na Sveučilištu Purdue, gdje također služi kao pomoćnik voditelja odjela. Član je i ACM-a i IEEE-a, a obnašao je nekoliko vodećih uloga u istraživačkoj zajednici za sigurnost, uključujući predsjednika Upravnog odbora za ACM CCS, predsjednika ACM SIGSAC-a i glavnog urednika časopisa ACM Transactions on Privacy and Security.

Donosi desetljeća vodstva u istraživanju sigurnosti i privatnosti u SII i u rad na izgradnji snažnih AI sustava.

Otvorena suradnja

Izazovi na granici AI sigurnosti preširoki su i interdisciplinarni da bi se rješavali sami. SII-jeva istraživanja obuhvaćaju autentifikaciju, privatnost i sigurnost koje se mogu koristiti, robusno strojno učenje i obranu agentskih AI sustava. Unapređenje ovih područja zahtijevat će trajnu suradnju akademske zajednice i industrije.

Uzbuđeni smo što ćemo raditi s istraživačima, institucijama i organizacijama koje žele pomoći u osiguravanju sljedeće generacije napredne inteligencije. Posjetite početnu stranicu SII-ja kako biste saznali više o našem radu i budućim prilikama za suradnju.