Kako smo izgradili bezbednost u sistemu Comet od prvog dana
Uvid u bezbednosni rad sistema Comet: spoljne revizije, slojevita odbrana od prompt-injektovanja i istraživanja otvorenog koda.
Comet pruža veštačkoj inteligenciji moćne mogućnosti za pregledanje veb-lokacija, interakciju sa sadržajem i obavljanje složenih zadataka u ime korisnika. Ove mogućnosti zahtevaju podjednako moćne mere zaštite. Pre nego što smo javno lansirali Comet, angažovali smo kompaniju Trail of Bits da izvrši testiranje otpornosti naših odbrambenih mehanizama kroz formalne revizije. Njihov rad nam je pomogao da identifikujemo ranjivosti i ojačamo mere predostrožnosti pre nego što su korisnici počeli da se oslanjaju na Comet za osetljive zadatke.
Izgradnja odbrane od samog početka
Napadi injektovanjem prompotova neprestano se razvijaju, a odbrana od njih zahteva pristup u više slojeva. Od samog početka smo znali da jedan odbrambeni mehanizam neće biti dovoljan. Naš osnovni princip je jednostavan: preklapajuće zaštite osiguravaju da, ako je jedan sloj zaobiđen, drugi ostaju da zaštite korisnike. Evo kako smo to sproveli u praksi.
Naš bezbednosni put: Ključne prekretnice
April 2025: Bezbednosna revizija pre lansiranja
Pre nego što smo javno lansirali Comet, angažovali smo kompaniju Trail of Bits da sprovede sistematsko modelovanje pretnji naše arhitekture. Njihov tim je testirao scenarije napada iz stvarnog sveta, pokušavajući da zaobiđe našu odbranu koristeći tehnike koje protivnici mogu da primene u praksi. Revizija je identifikovala specifične praznine u našem sistemu zaštite i pokrenula iterativni proces sanacije. Prilagodili smo naše mere predostrožnosti i zatvorili ranjivosti pre nego što su mogle da utiču na korisnike.
Oktobar 2025: Objavljivanje naše odbrambene arhitekture
Objavili smo detaljan tehnički tekst koji objašnjava naš okviri arhitekture odbrane u četiri sloja i argumentaciju iza svake komponente. Tekst je naveo specifične vrste napada od kojih se branimo, od skrivenih HTML i CSS injektovanja do konfuzije sadržaja i preuzimanja ciljeva. Takođe smo najavili naš program nagrada za otkrivanje grešaka u sistemu (bug bounty), pozivajući bezbednosne istraživače da testiraju našu odbranu i prijave ranjivosti. Transparentnost je oduvek bila srž našeg bezbednosnog pristupa: verujemo da deljenje naše metodologije čini celokupnu industriju veštačke inteligencije jačom.
Decembar 2025: Otvaranje koda alata BrowseSafe (Open-sourcing)
Bezbednost se poboljšava kada cela zajednica veštačke inteligencije može da uči iz zajedničkih istraživanja. Objavili smo BrowseSafe, naš model detekcije i evaluacioni benčmark, kao alate otvorenog koda. BrowseSafe-Bench obuhvata 14.719 primera koji pokrivaju 11 vrsta napada, 9 strategija injektovanja i 3 lingvistička stila. Objavljivanjem naše metodologije i skupova podataka pomažemo drugim programerima veštačke inteligencije da izgrade bezbednije sisteme i doprinosimo bezbednosnim standardima na nivou cele industrije. Reakcija zajednice programera bila je ohrabrujuća, pri čemu timovi već koriste BrowseSafe za poboljšanje bezbednosti sopstvenih asistenata veštačke inteligencije.
O čemu smo naučili
Izgradnja bezbednosti za asistente veštačke inteligencije naučila nas je ključnim lekcijama o pejzažu pretnji koji se razvija. Spoljno kontratestiranje otkriva mrtve uglove koje interni timovi mogu da propuste, bez obzira na njihovu stručnost. Modelovanje pretnji nije jednokratna aktivnost već stalna disciplina koja mora da se razvija kako napreduju tehnike napada. Što je još važnije, bezbednost zahteva saradnju širom industrije. Deljenjem naših istraživanja, angažovanjem spoljnih stručnjaka i doprinosom otvorenim standardima pomažemo u izgradnji bezbednijeg ekosistema.
Naša stalna posvećenost
Održavamo redovne bezbednosne procene kako se Comet razvija, osiguravajući da nove funkcije prolaze kroz rigoroznu kontrolu pre lansiranja. Kako bismo pomogli u smanjenju dezinformacija u istraživanju bezbednosti veštačke inteligencije, ulažemo u pouzdane prakse evaluacije i transparentno izveštavanje kako bi nalazi o odbrani sistema Comet bili tačni, reproduktivni i bez izobličenja senzacionalističkim ili nepotpunim bezbednosnim tvrdnjama.
Naš tim takođe vodi uspešan Program otkrivanja ranjivosti i privatni program nagrada za otkrivanje grešaka (bug bounty), pozivajući bezbednosne istraživače svuda da testiraju našu odbranu. Kako asistenti veštačke inteligencije postaju sposobniji i rukuju sve osetljivijim zadacima, naša bezbednosna ulaganja nastaviće da se razvijaju u skladu s tim.