Pristatome Saugiojo intelekto institutą
Šiandien pristatome Saugiojo intelekto institutą (SII). Saugiojo intelekto institutas yra pagrindinis „Perplexity“ tyrimų centras, skirtas saugumui, privatumui ir pasitikėjimui pažangiuoju dirbtiniu intelektu skatinti.
Nuo pirmojo atsakymų variklio paleidimo 2022 m. gruodį „Perplexity“ nuosekliai ir pakartotinai nustatė dirbtinio intelekto standartus. Paleidome pasaulyje pirmąją tikrą dirbtinio intelekto naršyklę ir pirmąjį saugaus serverio dirbtinio intelekto kompiuterį. „Perplexity“ yra modelių atžvilgiu neutralaus dirbtinio intelekto ir masinių daugelio modelių dirbtinio intelekto sistemų lyderė.
Šioms kategorijoms įgaunant pavidalą, kyla ir su jomis susiję saugumo klausimai.
Šiandien pristatome Saugiojo intelekto institutą (SII). Saugiojo intelekto institutas yra pagrindinis „Perplexity“ tyrimų centras, skirtas saugumui, privatumui ir pasitikėjimui pažangiuoju dirbtiniu intelektu skatinti. Atlikdamas vidaus tyrimus ir bendradarbiaudamas su platesne bendruomene, SII gilins „Perplexity“ saugumo tyrimus ir prisidės prie darbų, galinčių pagerinti dirbtinio intelekto saugumą visoje srityje.
Remiamasi esamu darbu
Ši iniciatyva remiasi tyrimų ir inžineriniais darbais, kurie „Perplexity“ jau vykdomi:
2025 m. balandį, dar prieš viešą „Comet“ paleidimą, pasitelkėme „Trail of Bits“, kad atliktume pirmąjį tokio pobūdžio agentinės naršyklės saugumo auditą, įskaitant sisteminį grėsmių modeliavimą ir naujų formų priešišką testavimą.
2025 m. liepos mėn. paleidome „Comet“ su daugiapakope saugumo architektūra, skirta apsaugoti vartotojus atvirojo pasaulio aplinkoje.
2025 m. gruodį išleidome „BrowseSafe“ – atvirojo kodo standartą ir turinio aptikimo modelį, apimantį daugiau nei 14 700 realaus pasaulio atakų scenarijų 14 žalos kategorijų.
2026 m. kovą paskelbėme Saugumo sumetimus dirbtinio intelekto agentams – mūsų atsakymą į NIST prašymą pateikti informaciją apie autonominių dirbtinio intelekto agentų apsaugą.
SII apjungia šias pastangas į platesnę tyrimų programą. Svarbiausi darbai atlieka dvi užduotis vienu metu: išlaiko rimto mokslo lygį ir pagerina sistemas, kuriomis žmonės kasdien pasitiki.
Lyderystė saugumo srityje
Stipri tyrimų lyderystė yra pagrindinė SII misijos dalis. Pirmuoju SII direktoriumi taps dr. Ninghui Li. Ninghui yra Piuperio universiteto (Purdue University) kompiuterijos profesorius (Samuel D. Conte Chair), kur jis taip pat eina departamento vadovo pavaduotojo pareigas. Būdamas ir ACM, ir IEEE narys (Fellow), jis užėmė kelis vadovaujančius vaidmenis saugumo tyrimų bendruomenėje, įskaitant ACM CCS Valdymo komiteto pirmininko, ACM SIGSAC pirmininko ir žurnalo „ACM Transactions on Privacy and Security“ vyriausiojo redaktoriaus pareigas.
Jis atneša į SII ir į tvirtų dirbtinio intelekto sistemų kūrimo darbus dešimtmečius trukusią lyderystės patirtį saugumo ir privatumo tyrimų srityje.
Atviras bendradarbiavimas
Iššūkiai dirbtinio intelekto saugumo riba yra per plačiai apimantys ir tarpdisciplininiai, kad juos būtų galima įveikti vieniems. SII tyrimai apima autentifikavimą, pritaikomą privatumą ir saugumą, patikimą mašininį mokymąsi bei agentinių dirbtinio intelekto sistemų apsaugą. Šių sričių plėtrai reikės tvaraus mokslo ir pramonės bendradarbiavimo.
Džiaugiamės galėdami bendradarbiauti su tyrėjais, institucijomis ir organizacijomis, norinčiomis padėti apsaugoti naujos kartos pažangųjį intelektą. Apsilankykite SII pagrindiniame puslapyje, kad sužinotumėte daugiau apie mūsų darbą ir būusias bendradarbiavimo galimybes.