Hoe we vanaf dag één beveiliging in Comet hebben ingebouwd

Comet geeft AI-assistenten krachtige mogelijkheden om websites te doorzoeken, met inhoud te interageren en complexe taken namens gebruikers te voltooien. Deze mogelijkheden vereisen even krachtige waarborgen. Voordat Comet openbaar werd gelanceerd, hebben we Trail of Bits ingehuurd om onze verdedigingsmechanismen te testen via formele audits. Hun werk hielp ons kwetsbaarheden te identificeren en onze risicobeperkende maatregelen te versterken voordat gebruikers op Comet gingen vertrouwen voor gevoelige taken.

Verdediging vanaf de basis opbouwen

Prompt-injectieaanvallen evolueren voortdurend en verdediging hiertegen vereist een meerlaagse aanpak. We wisten vanaf het begin dat één enkel verdedigingsmechanisme niet voldoende zou zijn. Ons kernprincipe is simpel: overlappende bescherming zorgt ervoor dat als één laag wordt omzeild, er andere lagen overblijven om gebruikers veilig te houden. Hier is hoe we dit in de praktijk brengen.

Onze veiligheidsreis: Belangrijke mijlpalen

April 2025: Beveiligingsaudit vóór de lancering

Voordat we Comet publiekelijk lanceerden, huurden we Trail of Bits in om een systematische dreigingsmodellering van onze architectuur uit te voeren. Hun teams testten realistische aanvalsscenario's en probeerden onze verdediging te omzeilen met technieken die aanvallers in de praktijk zouden kunnen gebruiken. De audit identificeerde specifieke hiaten in ons beschermingssysteem en startte een iteratief herstelproces. We hebben onze risicobeperkende maatregelen verfijnd en kwetsbaarheden gedicht voordat ze gevolgen konden hebben voor gebruikers.

Oktober 2025: Publicatie van onze verdedigingsarchitectuur

We hebben een gedetailleerd technisch artikel gepubliceerd waarin ons verdedigingsarchitectuurraamwerk met vier lagen wordt uitgelegd, evenals de onderbouwing van elk onderdeel. Het artikel schetste specifieke aanvalstypen waartegen we ons verdedigen, van verborgen HTML- en CSS-injecties tot inhoudsverwarring en doelhijacking. We kondigden ook ons bug bounty-programma aan, waarbij we beveiligingsonderzoekers uitnodigden om onze verdediging te testen en kwetsbaarheden te rapporteren. Transparantie vormt altijd de kern van onze beveiligingsaanpak: we zijn ervan overtuigd dat het delen van onze methodologie de hele AI-industrie sterker maakt.

December 2025: BrowseSafe open-source maken

Beveiliging verbetert wanneer de gehele AI-gemeenschap kan leren van gedeeld onderzoek. We hebben BrowseSafe, ons detectiemodel en evaluatiebenchmark, uitgebracht als open-source tools. BrowseSafe-Bench bevat 14.719 voorbeelden die 11 aanvalstypen, 9 injectiestrategieën en 3 linguïstische stijlen beslaan. Door onze methodologie en datasets te publiceren, helpen we andere AI-ontwikkelaars om veiligere systemen te bouwen en dragen we bij aan beveiligingsstandaarden voor de gehele industrie. De reactie van de ontwikkelaarsgemeenschap is bemoedigend; teams gebruiken BrowseSafe al om de beveiliging van hun eigen AI-assistenten te verbeteren.

Wat we hebben geleerd

Het opbouwen van beveiliging voor AI-assistenten heeft ons kritieke lessen geleerd over het evoluerende dreigingslandschap. Extern vijandig testen onthult blinde vlekken die interne teams kunnen missen, ongeacht hoe bekwaam ze zijn. Dreigingsmodellering is geen eenmalige oefening maar een doorlopende discipline die moet evolueren naarmate aanvalstechnieken vorderen. Het allerbelangrijkste is dat beveiliging samenwerking over de gehele industrie vereist. Door ons onderzoek te delen, externe experts te betrekken en bij te dragen aan open standaarden, helpen we een veiliger ecosysteem op te bouwen.

Onze voortdurende inzet

We onderhouden periodieke beveiligingsbeoordelingen naarmate Comet evolueert, en zorgen ervoor dat nieuwe functies aan strikte controle worden onderworpen vóór de lancering. Om desinformatie in AI-beveiligingsonderzoek te helpen verminderen, investeren we in robuuste evaluatiepraktijken en transparante rapportage, zodat bevindingen over de verdediging van Comet accuraat en reproduceerbaar zijn, en niet worden vertekend door sensationele of onvolledige beveiligingsclaims.

Ons team beheert ook een bloeiend Vulnerability Disclosure Program en een privaat bug bounty-programma, waarbij we beveiligingsonderzoekers overal uitnodigen om onze verdediging te testen. Naarmate AI-assistenten capabeler worden en steeds gevoeligere taken uitvoeren, zullen onze beveiligingsinvesteringen dienovereenkomstig blijven schalen.