Hur vi byggde in säkerhet i Comet från första dagen

Comet ger AI-assistenter kraftfulla funktioner för att söka på webbplatser, interagera med innehåll och utföra komplexa uppgifter för användarnas räkning. Dessa funktioner kräver lika kraftfulla skyddsåtgärder. Innan vi lanserade Comet offentligt anlitade vi Trail of Bits för att stresstesta våra försvar genom formella granskningar. Deras arbete hjälpte oss att identifiera sårbarheter och stärka våra åtgärder innan användarna började förlita sig på Comet för känsliga uppgifter.

Bygga försvar från grunden

Attacker med promptinjektion utvecklas ständigt, och att skydda sig mot dem kräver ett mångskiktat tillvägagångssätt. Vi visste från början att en enda försvarsmekanism inte skulle räcka. Vår kärnprincip är enkel: överlappande skydd säkerställer att om ett lager kringgås finns andra kvar för att hålla användarna säkra. Så här omsätter vi det i praktiken.

Vår säkerhetsresa: Viktiga milstolpar

April 2025: Säkerhetsgranskning före lansering

Innan vi lanserade Comet offentligt anlitade vi Trail of Bits för att utföra systematisk hotmodellering av vår arkitektur. Deras team testade verkliga attackscenarier och försökte kringgå våra försvar med tekniker som motståndare kan använda i verkligheten. Granskningen identifierade specifika brister i vårt skyddssystem och inledde en iterativ åtgärdsprocess. Vi finjusterade våra skyddsåtgärder och stängde sårbarheter innan de kunde påverka användarna.

Oktober 2025: Publicering av vår försvarsarkitektur

Vi publicerade ett detaljerat tekniskt inlägg som förklarar vårt ramverk för fyrspröts försvarsarkitektur och resonemanget bakom varje komponent. Inlägget beskrev specifika attacktyper som vi skyddar mot, från dolda HTML- och CSS-injekteringar till innehållsförblandning och målhijacking. Vi tillkännagav också vårt buggbountyprogram som bjuder in säkerhetsforskare att testa våra försvar och rapportera sårbarheter. Transparens har alltid varit kärnan i vårt säkerhetstänkande: vi tror att delning av vår metodik gör hela AI-branschen starkare.

December 2025: Öppen källkod för BrowseSafe

Säkerheten förbättras när hela AI-gemenskapen kan lära sig av delad forskning. Vi släppte BrowseSafe, vår detekteringsmodell och utvärderingsbenchmark, som verktyg med öppen källkod. BrowseSafe-Bench innehåller 14 719 exempel som täcker 11 attacktyper, 9 injektionsstrategier och 3 språkliga stilar. Genom att publicera vår metodik och våra datauppsättningar hjälper vi andra AI-utvecklare att bygga säkrare system och bidrar till branschomfattande säkerhetsstandarder. Responsen från utvecklargemenskapen har varit uppmuntrande, och team använder redan BrowseSafe för att förbättra säkerheten för sin egen AI-assistenter.

Vad vi har lärt oss

Att bygga säkerhet för AI-assistenter har lärt oss avgörande läxor om det föränderliga hotlandskapet. Extern motståndstestning avslöjar döda vinklar som interna team kan missa, oavsett hur skickliga de är. Hotmodellering är inte en engångsövning utan en pågående disciplin som måste utvecklas i takt med att attackteknikerna utvecklas. Viktigast av allt är att säkerheten kräver samarbete över hela branschen. Genom att dela vår forskning, engagera externa experter och bidra till öppna standarder hjälper vi till att bygga ett säkrare ekosystem.

Vårt pågående åtagande

Vi upprätthåller regelbundna säkerhetsbedömningar i takt med att Comet utvecklas, vilket säkerställer att nya funktioner genomgår noggrann granskning före lansering. För att bidra till att minska felaktig information inom AI-säkerhetsforskning investerar vi i robusta utvärderingsmetoder och transparent rapportering så att slutsatser om Comets försvar är korrekta, reproducerbara och inte förvrängda av sensationella eller ofullständiga säkerhetsanspråk.

Vårt team driver också ett blomstrande program för sårbarhetsutlämnande och ett privat buggbountyprogram som bjuder in säkerhetsforskare överallt att testa våra försvar. I takt med att AI-assistenter blir mer kapabla och hanterar allt känsligare uppgifter kommer våra säkerhetsinvesteringar att fortsätta att skalas upp därefter.