Slik bygde vi sikkerhet inn i Comet fra dag én

Comet gir AI-assistenter kraftige funksjoner for å sondere nettsider, samhandle med innhold og fullføre komplekse oppgaver på vegne av brukere. Disse funksjonene krever like kraftige beskyttelsestiltak. Før vi lanserte Comet offentlig, engasjerte vi Trail of Bits til å stressteste forsvarsverkene våre gjennom formelle revisjoner. Arbeidet deres hjalp oss med å avdekke sårbarheter og styrke sikkerhetstiltakene våre før brukerne begynte å stole på Comet til sensitive oppgaver.

Bygger forsvar fra grunnen av

Angrep med ledetekstinjisering (prompt injection) er i konstant utvikling, og forsvaret mot dem krever en flerlags tilnærming. Vi visste fra starten av at en enkelt forsvarsmekanisme ikke ville være tilstrekkelig. Vårt kjerneprinsipp er enkelt: overlappende beskyttelsestiltak sikrer at hvis ett lag blir omgått, vil andre forbli for å holde brukerne trygge. Slik omsetter vi dette i praksis.

Vår sikkerhetsreise: Viktige milepæler

April 2025: Sikkerhetsrevisjon før lansering

Før vi lanserte Comet offentlig, engasjerte vi Trail of Bits til å utføre systematisk trusselmodellering av arkitekturen vår. Teamet deres testet virkelige angrepsscenarier og forsøkte å omgå forsvaret vårt ved hjelp av teknikker som motstandere kan ta i bruk ute i feltet. Revisjonen identifiserte spesifikke mangler i beskyttelsessystemet vårt og startet en iterativ utbedringsprosess. Vi finjusterte sikkerhetstiltakene våre og lukket sårbarheter før de kunne påvirke brukere.

Oktober 2025: Publisering av forsvarsarkitekturen vår

Vi publiserte et detaljert teknisk innlegg som forklarer rammeverket vårt for forsvarsarkitektur i fire lag og begrunnelsen bak hver enkelt komponent. Innlegget skisserte spesifikke angrepstyper vi forsvarer oss mot, fra skjulte HTML- og CSS-injeksjoner til innholdsforvirring og kapring av mål. Vi kunngjorde også programmet vårt for bug bounty, der vi inviterer sikkerhetsforskere til å teste forsvaret vårt og rapportere sårbarheter. Transparens har alltid vært kjernen i vår sikkerhetstilnærming: vi tror at det å dele metodikken vår gjør hele AI-bransjen sterkere.

Desember 2025: Åpen kildekode for BrowseSafe

Sikkerheten forbedres når hele AI-fellesskapet kan lære av delt forskning. Vi lanserte BrowseSafe, vår deteksjonsmodell og evalueringsbenchmark, som verktøy med åpen kildekode. BrowseSafe-Bench inneholder 14 719 eksempler fordelt på 11 angrepstyper, 9 injeksjonsstrategier og 3 språklige stiler. Ved å publisere metodikken og datasettene våre hjelper vi andre AI-utviklere med å bygge sikrere systemer og bidrar til bransjestandarder for sikkerhet. Responsen fra utviklerfellesskapet har vært oppmuntrende, og team bruker allerede BrowseSafe til å forbedre sikkerheten til sine egne AI-assistenter.

Det vi har lært

Å bygge sikkerhet for AI-assistenter har lært oss viktige leser om det utviklende trusselbildet. Ekstern testing av motstandere avdekker blindsoner som interne team kan gå glipp av, uansett hvor dyktige de er. Trusselmodellering er ikke en engangsøvelse, men en pågående disiplin som må utvikle seg i takt med at angrepsteknikkene avanserer. Viktigst av alt er at sikkerhet krever samarbeid på tvers av bransjen. Ved å dele forskningen vår, engasjere eksterne eksperter og bidra til åpne standarder, bidrar vi til å bygge et sikrere økosystem.

Vår pågående forpliktelse

Vi opprettholder regelmessige sikkerhetsvurderinger i takt med at Comet utvikler seg, og sikrer at nye funksjoner gjennomgår grundig kontroll før lansering. For å bidra til å redusere feilinformasjon i AI-sikkerhetsforskning investerer vi i robuste evalueringspraksiser og transparent rapportering, slik at funn om Comets forsvar er nøyaktige, reproduserbare og ikke fordreid av oppsiktsvekkende eller ufullstendige sikkerhetspåstander.

Teamet vårt driver også et blomstrende program for sårbarhetsrapportering og et privat bug bounty-program, som inviterer sikkerhetsforskere overalt til å teste forsvaret vårt. Ettersom AI-assistenter blir mer kapable og håndterer stadig mer sensitive oppgaver, vil sikkerhetsinvesteringene våre fortsette å skalere deretter.