Jak od początku wbudowaliśmy bezpieczeństwo w Comet

Comet zapewnia asystentom AI zaawansowane możliwości przeglądania stron internetowych, interakcji z treściami oraz wykonywania złożonych zadań w imieniu użytkowników. Te funkcje wymagają równie zaawansowanych zabezpieczeń. Przed publicznym udostępnieniem Comet, firma Trail of Bits przeprowadziła formalne audyty w celu sprawdzenia wytrzymałości naszych systemów obronnych. Ich praca pozwoliła nam zidentyfikować luki w zabezpieczeniach i wzmocnić nasze mechanizmy ochronne, zanim użytkownicy zaczęli polegać na Comet w realizacji wrażliwych zadań.

Budowanie ochrony od podstaw

Ataki typu prompt injection nieustannie ewoluują, a obrona przed nimi wymaga wielowarstwowego podejścia. Od początku wiedzieliśmy, że pojedynczy mechanizm obronny będzie niewystarczający. Nasza podstawowa zasada jest prosta: nakładające się na siebie zabezpieczenia gwarantują, że jeśli jedna warstwa zostanie ominięta, pozostałe nadal będą chronić użytkowników. Oto jak wprowadzamy to w życie.

Nasza droga do bezpieczeństwa: kluczowe etapy

Kwiecień 2025: Audyt bezpieczeństwa przed wdrożeniem

Przed publicznym udostępnieniem Comet zatrudniliśmy firmę Trail of Bits w celu przeprowadzenia systematycznego modelowania zagrożeń naszej architektury. Ich zespoły przetestowały rzeczywiste scenariusze ataków, próbując ominąć nasze zabezpieczenia za pomocą technik, które mogą być stosowane przez przeciwników w środowisku zewnętrznym. Audyt zidentyfikował konkretne luki w naszym systemie ochrony i zainicjował proces iteracyjnej naprawy. Udoskonaliliśmy nasze mechanizmy mitygacji i wyeliminowaliśmy luki w zabezpieczeniach, zanim mogły one wpłynąć na użytkowników.

Październik 2025: Publikacja naszej architektury obronnej

Opublikowaliśmy szczegółowy artykuł techniczny, w którym wyjaśniliśmy nasze czterowarstwowe ramy architektury obronnej oraz uzasadnienie każdego z ich komponentów. Artykuł przedstawia konkretne typy ataków, przed którymi się bronimy, od ukrytych wstrzyknięć HTML i CSS, po manipulację treścią i przejmowanie celów. Ogłosiliśmy również nasz program nagród za wykryte błędy (bug bounty), zachęcając badaczy bezpieczeństwa do testowania naszych zabezpieczeń i zgłaszania luk. Przejrzystość zawsze była fundamentem naszego podejścia do bezpieczeństwa: wierzymy, że dzielenie się naszą metodologią wzmacnia całą branżę AI.

Grudzień 2025: Udostępnienie BrowseSafe jako oprogramowania typu open source

Bezpieczeństwo poprawia się, gdy cała społeczność AI może uczyć się z udostępnionych badań. Udostępniliśmy BrowseSafe, nasz model detekcji i benchmark ewaluacyjny, jako narzędzia typu open source. BrowseSafe-Bench zawiera 14 719 przykładów obejmujących 11 typów ataków, 9 strategii wstrzykiwania i 3 style językowe. Publikując naszą metodologię i zbiory danych, pomagamy innym deweloperom AI budować bezpieczniejsze systemy i przyczyniamy się do ustanawiania standardów bezpieczeństwa w całej branży. Odzew ze strony społeczności deweloperskiej jest zachęcający, a zespoły już teraz wykorzystują BrowseSafe do poprawy bezpieczeństwa własnych asystentów AI.

Nasze wnioski

Budowanie bezpieczeństwa dla asystentów AI dostarczyło nam cennych lekcji na temat ewoluującego krajobrazu zagrożeń. Zewnętrzne testy kontradyktoryjne ujawniają słabe punkty, które wewnętrzne zespoły mogą pominąć, niezależnie od swoich kompetencji. Modelowanie zagrożeń to nie jednorazowe zadanie, lecz ciągła dyscyplina, która musi ewoluować wraz z postępem technik ataków. Co najważniejsze, bezpieczeństwo wymaga współpracy w ramach całej branży. Dzieląc się naszymi badaniami, angażując zewnętrznych ekspertów i przyczyniając się do rozwoju otwartych standardów, pomagamy budować bezpieczniejszy ekosystem.

Nasze stałe zaangażowanie

Utrzymujemy regularne oceny bezpieczeństwa w miarę rozwoju Comet, zapewniając, że nowe funkcje poddawane są rygorystycznej kontroli przed wprowadzeniem na rynek. Aby pomóc w ograniczaniu dezinformacji w badaniach nad bezpieczeństwem AI, inwestujemy w solidne praktyki ewaluacyjne i przejrzyste raportowanie, dzięki czemu wnioski dotyczące zabezpieczeń Comet są dokładne, powtarzalne i nie są zniekształcone przez sensacyjne lub niekompletne twierdzenia dotyczące bezpieczeństwa.

Nasz zespół prowadzi również prężnie działający Program Ujawniania Podatności oraz prywatny program nagród za wykryte błędy, zachęcając badaczy bezpieczeństwa z całego świata do testowania naszych zabezpieczeń. W miarę jak asystenci AI stają się coraz bardziej zaawansowani i obsługują coraz bardziej wrażliwe zadania, nasze inwestycje w bezpieczeństwo będą odpowiednio skalowane.