Cara kami membangun keamanan ke dalam Comet sejak Hari Pertama

Comet memberikan kemampuan yang kuat kepada asisten AI untuk menjelajahi situs web, berinteraksi dengan konten, dan menyelesaikan tugas-tugas rumit atas nama pengguna. Kemampuan ini membutuhkan perlindungan yang sama kuatnya. Sebelum meluncurkan Comet secara publik, kami menyewa Trail of Bits untuk menguji ketahanan pertahanan kami melalui audit formal. Pekerjaan mereka membantu kami mengidentifikasi kerentanan dan memperkuat mitigasi kami sebelum pengguna mulai mengandalkan Comet untuk tugas-tugas yang sensitif.

Membangun pertahanan dari awal

Serangan injeksi prompt terus berkembang, dan mempertahankan diri darinya memerlukan pendekatan berlapis. Kami tahu sejak awal bahwa satu mekanisme pertahanan saja tidak akan cukup. Prinsip inti kami sederhana: perlindungan yang saling tumpang tindih memastikan bahwa jika satu lapisan dilewati, lapisan lainnya tetap ada untuk menjaga keselamatan pengguna. Berikut adalah cara kami menerapkannya.

Perjalanan keamanan kami: Pencapaian penting

April 2025: Audit keamanan pra-peluncuran

Sebelum meluncurkan Comet secara publik, kami menyewa Trail of Bits untuk melakukan pemodelan ancaman yang sistematis terhadap arsitektur kami. Tim mereka menguji skenario serangan di dunia nyata, mencoba melewati pertahanan kami menggunakan teknik yang mungkin digunakan oleh penyerang di alam liar. Audit tersebut mengidentifikasi celah tertentu dalam sistem perlindungan kami dan memulai proses perbaikan berulang. Kami menyempurnakan mitigasi dan menutup kerentanan sebelum hal itu dapat memengaruhi pengguna.

Oktober 2025: Mempublikasikan arsitektur pertahanan kami

Kami menerbitkan pos teknis terperinci yang menjelaskan kerangka kerja arsitektur pertahanan empat lapis kami dan alasan di balik setiap komponen. Pos tersebut menguraikan jenis serangan spesifik yang kami pertahankan, mulai dari injeksi HTML dan CSS tersembunyi hingga kebingungan konten dan pembajakan tujuan. Kami juga mengumumkan program hadiah bug kami, mengundang peneliti keamanan untuk menguji pertahanan kami dan melaporkan kerentanan. Transparansi selalu menjadi inti dari pendekatan keamanan kami: kami percaya bahwa berbagi metodologi kami membuat seluruh industri AI menjadi lebih kuat.

Desember 2025: Sumber terbuka BrowseSafe

Keamanan meningkat ketika seluruh komunitas AI dapat belajar dari penelitian bersama. Kami merilis BrowseSafe, model deteksi dan tolok ukur evaluasi kami, sebagai alat sumber terbuka. BrowseSafe-Bench mencakup 14.719 contoh yang mencakup 11 jenis serangan, 9 strategi injeksi, dan 3 gaya linguistik. Dengan mempublikasikan metodologi dan kumpulan data kami, kami membantu pengembang AI lain membangun sistem yang lebih aman dan berkontribusi pada standar keamanan di seluruh industri. Tanggapan dari komunitas pengembang sangat menggembirakan, dengan tim yang sudah menggunakan BrowseSafe untuk meningkatkan keamanan asisten AI mereka sendiri.

Apa yang telah kami pelajari

Membangun keamanan untuk asisten AI telah mengajarkan kepada kami pelajaran penting tentang lanskap ancaman yang terus berkembang. Pengujian musternal eksternal mengungkapkan titik buta yang dapat dilewatkan oleh tim internal, tidak peduli seberapa ahli mereka. Pemodelan ancaman bukanlah latihan sekali jalan tetapi disiplin berkelanjutan yang harus berkembang seiring kemajuan teknik serangan. Yang terpenting, keamanan membutuhkan kolaborasi di seluruh industri. Dengan membagikan penelitian kami, melibatkan ahli eksternal, dan berkontribusi pada standar terbuka, kami membantu membangun ekosistem yang lebih aman.

Komitmen berkelanjutan kami

Kami mempertahankan penilaian keamanan berkala saat Comet berkembang, memastikan fitur baru menjalani pengawasan ketat sebelum diluncurkan. Untuk membantu mengurangi misinformasi dalam penelitian keamanan AI, kami berinvestasi dalam praktik evaluasi yang kuat dan pelaporan yang transparan sehingga temuan tentang pertahanan Comet akurat, dapat direproduksi, dan tidak didistorsi oleh klaim keamanan yang sensasional atau tidak lengkap.

Tim kami juga menjalankan Program Pengungkapan Kerentanan yang berkembang pesat dan program hadiah bug pribadi, mengundang peneliti keamanan di mana pun untuk menguji pertahanan kami. Seiring dengan semakin canggihnya asisten AI dan penanganan tugas yang semakin sensitif, investasi keamanan kami akan terus berskala.