Come abbiamo integrato la sicurezza in Comet fin dal primo giorno

Comet offre agli assistenti AI potenti funzionalità per navigare nei siti web, interagire con i contenuti e completare attività complesse per conto degli utenti. Queste funzionalità richiedono tutele altrettanto potenti. Prima di lanciare Comet pubblicamente, abbiamo incaricato Trail of Bits di sottoporre a stress test le nostre difese attraverso audit formali. Il loro lavoro ci ha aiutato a identificare le vulnerabilità e a rafforzare le nostre misure di mitigazione prima che gli utenti iniziassero a fare affidamento su Comet per attività sensibili.

Costruire la difesa dalle fondamenta

Gli attacchi di iniezione tramite prompt sono in costante evoluzione e difendersi da essi richiede un approccio a più livelli. Sapevamo fin dall'inizio che un singolo meccanismo di difesa non sarebbe stato sufficiente. Il nostro principio fondamentale è semplice: protezioni sovrapposte garantiscono che, se un livello viene bypassato, gli altri rimangano per mantenere gli utenti al sicuro. Ecco come mettiamo tutto ciò in pratica.

Il nostro percorso di sicurezza: traguardi chiave

Aprile 2025: Audit di sicurezza pre-lancio

Prima di lanciare Comet pubblicamente, abbiamo incaricato Trail of Bits di condurre una modellazione sistematica delle minacce della nostra architettura. Il loro team ha testato scenari di attacco reali, tentando di aggirare le nostre difese utilizzando tecniche che gli avversari potrebbero impiegare sul campo. L'audit ha identificato lacune specifiche nel nostro sistema di protezione e ha avviato un processo di riparazione iterativo. Abbiamo perfezionato le nostre misure di mitigazione e chiuso le vulnerabilità prima che potessero influenzare gli utenti.

Ottobre 2025: Pubblicazione della nostra architettura di difesa

Abbiamo pubblicato un dettagliato post tecnico che spiega la nostra architettura di difesa a quattro livelli e la logica alla base di ogni componente. Il post ha delineato tipi di attacco specifici contro i quali ci difendiamo, dalle iniezioni HTML e CSS nascoste alla confusione dei contenuti e al dirottamento degli obiettivi. Abbiamo anche annunciato il nostro programma bug bounty, invitando i ricercatori di sicurezza a testare le nostre difese e a segnalare le vulnerabilità. La trasparenza è sempre stata fondamentale per il nostro approccio alla sicurezza: crediamo che condividere la nostra metodologia renda l'intera industria dell'IA più forte.

Dicembre 2025: Rilascio open-source di BrowseSafe

La sicurezza migliora quando l'intera comunità dell'IA può imparare dalla ricerca condivisa. Abbiamo rilasciato BrowseSafe, il nostro modello di rilevamento e benchmark di valutazione, come strumenti open-source. BrowseSafe-Bench include 14.719 esempi che coprono 11 tipi di attacco, 9 strategie di iniezione e 3 stili linguistici. Pubblicando la nostra metodologia e i nostri set di dati, stiamo aiutando altri sviluppatori di IA a costruire sistemi più sicuri e contribuendo agli standard di sicurezza dell'intero settore. La risposta della comunità degli sviluppatori è stata incoraggiante, con i team che utilizzano già BrowseSafe per migliorare la sicurezza dei propri assistenti IA.

Cosa abbiamo imparato

Costruire la sicurezza per gli assistenti IA ci ha insegnato lezioni critiche sull'evoluzione del panorama delle minacce. I test avversari esterni rivelano punti ciechi che i team interni possono perdere, indipendentemente dalla loro competenza. La modellazione delle minacce non è un esercizio una tantum ma una disciplina continua che deve evolversi man mano che le tecniche di attacco avanzano. Soprattutto, la sicurezza richiede la collaborazione in tutto il settore. Condividendo la nostra ricerca, coinvolgendo esperti esterni e contribuendo agli standard aperti, stiamo aiutando a costruire un ecosistema più sicuro.

Il nostro impegno costante

Manteniamo valutazioni di sicurezza regolari man mano che Comet si evolve, assicurando che le nuove funzionalità vengano sottoposte a un controllo rigoroso prima del lancio. Per contribuire a ridurre la disinformazione nella ricerca sulla sicurezza dell'IA, investiamo in pratiche di valutazione robuste e report trasparenti, in modo che i risultati sulle difese di Comet siano accurati, riproducibili e non distorti da affermazioni sulla sicurezza sensazionalistiche o incomplete.

Il nostro team gestisce anche un fiorente Programma di divulgazione delle vulnerabilità e un programma privato di bug bounty, invitando i ricercatori di sicurezza di tutto il mondo a testare le nostre difese. Man mano che gli assistenti IA diventano più capaci e gestiscono attività sempre più sensibili, i nostri investimenti nella sicurezza continueranno ad essere adeguati di conseguenza.