Kaip „Comet“ saugumą kūrėme nuo pat pirmos dienos
„Comet“ saugumo darbai: išoriniai auditai, sluoksniuotos apsaugos nuo užklausų injekcijų ir atvirojo kodo tyrimai.
„Comet“ suteikia dirbtinio intelekto asistentams galingas galimybes naršyti interneto svetainėse, sąveikauti su turiniu ir atlikti sudėtingas užduotis vartotojų vardu. Šioms galimybėms reikia lygiai taip pat galingų apsaugos priemonių. Prieš viešai paleisdami „Comet“, pasamdėme „Trail of Bits“, kad formaliais auditais išbandytų mūsų apsaugą stresinėmis sąlygomis. Jų darbas padėjo mums nustatyti pažeidžiamumus ir sustiprinti apsaugos priemones, kol vartotojai dar nepradėjo pasitikėti „Comet“ atlikdami jautrias užduotis.
Saugumo kūrimas nuo pat pagrindų
Užklausų injekcijos atakos nuolat kinta, o apsauga nuo jų reikalauja daugiapakopio požiūrio. Nuo pat pradžių žinojome, kad vieno apsaugos mechanizmo nepakaks. Mūsų pagrindinis principas paprastas: besidubliuojančios apsaugos priemonės užtikrina, kad jei vienas sluoksnis bus apeitas, kiti liks apsaugoti vartotojus. Štai kaip mes tai pritaikome praktikoje.
Mūsų saugumo kelionė: svarbiausi pasiekimai
2025 m. balandis: saugumo auditas prieš paleidimą
Prieš viešai paleisdami „Comet“, pasamdėme „Trail of Bits“, kad atliktų sisteminį mūsų architektūros grėsmių modeliavimą. Jų komandos išbandė realaus pasaulio atakų scenarijus, bandydamos apeiti mūsų apsaugą naudodamos metodus, kuriuos priešininkai gali naudoti realiomis sąlygomis. Auditas nustatė konkrečias mūsų apsaugos sistemos spragas ir pradėjo kartojamą šalinimo procesą. Mes patobulinome apsaugos priemones ir pašalinome pažeidžiamumus, kol jie negalėjo paveikti vartotojų.
2025 m. spalis: mūsų apsaugos architektūros paskelbimas
Paskelbėme išsamų techninį įrašą, kuriame paaiškinama mūsų keturių sluoksnių apsaugos architektūros sistema ir kiekvieno komponento loginis pagrindas. Įraše buvo apibūdinti konkretūs atakų tipai, nuo kurių ginamės – nuo paslėptų HTML ir CSS injekcijų iki turinio painiojimo ir tikslų pasisavinimo. Taip pat pranešėme apie savo klaidų atlyginimo programą, kviesdami saugumo tyrėjus išbandyti mūsų apsaugą ir pranešti apie pažeidžiamumus. Skaidrumas visada buvo mūsų saugumo požiūrio pagrindas: tikime, kad mūsų metodologijos bendrinimas sustiprina visą dirbtinio intelekto pramonę.
2025 m. gruodis: „BrowseSafe“ atvirasis kodas
Saugumas pagerėja, kai visa dirbtinio intelekto bendruomenė gali pasimokyti iš bendrų tyrimų. Išleidome „BrowseSafe“ – savo aptikimo modelį ir vertinimo etaloną – kaip atvirojo kodo įrankius. „BrowseSafe-Bench“ sudaro 14 719 pavyzdžių, apimančių 11 atakų tipų, 9 injekcijos strategijas ir 3 kalbinius stilius. Skleisdami savo metodologiją ir duomenų rinkinius, padedame kitiems dirbtinio intelekto kūrėjams kurti saugesnes sistemas ir prisidedame prie visai pramonės šakai skirtų saugumo standartų. Kūrėjų bendruomenės reakcija buvo džiuginanti – komandos jau naudoja „BrowseSafe“, kad pagerintų savo dirbtinio intelekto asistentų saugumą.
Ko išmokome
Saugumo kūrimas dirbtinio intelekto asistentams išmokė mus svarbių pamokų apie kintančią grėsmių aplinką. Išorinis priešiškas testavimas atskleidžia akląsias zonas, kurias vidinės komandos gali praleisti, nesvarbu, kiek jos kvalifikuotos. Grėsmių modeliavimas nėra vienkartinė užduotis, o nuolatinė disciplina, kuri turi keistis tobulėjant atakų technikoms. Svarbiausia, kad saugumo užtikrinimui reikia bendradarbiavimo visoje pramonėje. Dalindamiesi savo tyrimais, įtraukdami išorinius ekspertus ir prisidėdami prie atvirųjų standartų, padedame kurti saugesnę ekosistemą.
Mūsų nuolatinis įsipareigojimas
Vykdome reguliarius saugumo vertinimus „Comet“ tobulėjimo metu, užtikrindami, kad naujoms funkcijoms prieš paleidimą būtų taikoma griežta patikra. Siekdami padėti sumažinti dezinformaciją dirbtinio intelekto saugumo tyrimuose, investuojame į patikimą vertinimo praktiką ir skaidrią atskaitomybę, kad išvados apie „Comet“ apsaugą būtų tikslios, atgaminamos ir nebūtų iškraipytos sensacingų ar nebaigtų saugumo teiginių.
Mūsų komanda taip pat vykdo sėkmingą pažeidžiamumų atskleidimo programą ir privačią klaidų atlyginimo programą, kviesdama saugumo tyrėjus visur išbandyti mūsų apsaugą. Dirbtinio intelekto asistentams tampant pajėgesniems ir tvarkant vis jautresnes užduotis, mūsų investicijos į saugumą ir toliau atitinkamai augs.