Wie wir von Anfang an Sicherheit in Comet integrierten

Comet verleiht KI-Assistenten leistungsstarke Funktionen, um Websites zu durchsuchen, mit Inhalten zu interagieren und komplexe Aufgaben im Namen der Nutzer zu erledigen. Diese Funktionen erfordern ebenso leistungsstarke Sicherheitsvorkehrungen. Bevor wir Comet öffentlich starteten, beauftragten wir Trail of Bits mit der Durchführung formeller Audits zur Stresstestung unserer Verteidigungsmechanismen. Ihre Arbeit half uns dabei, Schwachstellen zu identifizieren und unsere Gegenmaßnahmen zu stärken, bevor sich Nutzer bei sensiblen Aufgaben auf Comet verließen.

Sicherheit von Grund auf aufbauen

Prompt-Injection-Angriffe entwickeln sich ständig weiter, und die Abwehr erfordert einen mehrschichtigen Ansatz. Wir wussten von Anfang an, dass ein einzelner Verteidigungsmechanismus nicht ausreichen würde. Unser Grundprinzip ist einfach: Überlappende Schutzmaßnahmen stellen sicher, dass bei Umgehung einer Schicht weitere vorhanden sind, um die Sicherheit der Nutzer zu gewährleisten. Hier erfahren Sie, wie wir das in die Praxis umsetzen.

Unser Sicherheitsprozess: Wichtige Meilensteine

April 2025: Sicherheitsaudit vor dem Start

Bevor wir Comet öffentlich starteten, beauftragten wir Trail of Bits mit der Durchführung einer systematischen Bedrohungsmodellierung unserer Architektur. Ihr Team testete reale Angriffsszenarien und versuchte, unsere Verteidigung mit Techniken zu umgehen, die auch Angreifer in der Praxis einsetzen könnten. Das Audit identifizierte spezifische Lücken in unserem Schutzsystem und leitete einen iterativen Sanierungsprozess ein. Wir verfeinerten unsere Gegenmaßnahmen und schlossen Schwachstellen, bevor diese Auswirkungen auf die Nutzer haben konnten.

Oktober 2025: Veröffentlichung unserer Verteidigungsarchitektur

Wir haben einen detaillierten technischen Beitrag veröffentlicht, in dem wir unser vierstufiges Framework für die Verteidigungsarchitektur und die Logik hinter jeder Komponente erläutern. Der Beitrag beschrieb spezifische Angriffsarten, gegen die wir uns verteidigen, von versteckten HTML- und CSS-Injektionen bis hin zu Inhaltsverwirrung und Goal Hijacking. Zudem kündigten wir unser Bug-Bounty-Programm an und luden Sicherheitsforscher ein, unsere Verteidigung zu testen und Schwachstellen zu melden. Transparenz war schon immer ein Kernbestandteil unseres Sicherheitsansatzes: Wir sind überzeugt, dass das Teilen unserer Methodik die gesamte KI-Branche stärkt.

Dezember 2025: Open-Source-Veröffentlichung von BrowseSafe

Die Sicherheit verbessert sich, wenn die gesamte KI-Community von gemeinsamer Forschung lernen kann. Wir haben BrowseSafe, unser Erkennungsmodell und unseren Evaluierungs-Benchmark, als Open-Source-Tools veröffentlicht. BrowseSafe-Bench umfasst 14.719 Beispiele, die 11 Angriffsarten, 9 Injektionsstrategien und 3 sprachliche Stile abdecken. Durch die Veröffentlichung unserer Methodik und Datensätze unterstützen wir andere KI-Entwickler beim Aufbau sichererer Systeme und tragen zu branchenweiten Sicherheitsstandards bei. Die Resonanz aus der Entwickler-Community ist ermutigend; Teams nutzen BrowseSafe bereits, um die Sicherheit ihrer eigenen KI-Assistenten zu verbessern.

Was wir gelernt haben

Der Aufbau von Sicherheit für KI-Assistenten hat uns wichtige Lektionen über die sich entwickelnde Bedrohungslandschaft gelehrt. Externe Adversarial-Tests zeigen blinde Flecken auf, die interne Teams – ungeachtet ihrer Qualifikation – übersehen können. Bedrohungsmodellierung ist keine einmalige Übung, sondern eine fortlaufende Disziplin, die sich mit dem Fortschritt der Angriffstechniken weiterentwickeln muss. Am wichtigsten ist jedoch, dass Sicherheit branchenweite Zusammenarbeit erfordert. Indem wir unsere Forschung teilen, externe Experten einbinden und zu offenen Standards beitragen, helfen wir dabei, ein sichereres Ökosystem aufzubauen.

Unser fortlaufendes Engagement

Wir führen regelmäßige Sicherheitsbewertungen durch, während sich Comet weiterentwickelt, und stellen sicher, dass neue Funktionen vor der Markteinführung streng geprüft werden. Um zur Reduzierung von Fehlinformationen in der KI-Sicherheitsforschung beizutragen, investieren wir in robuste Bewertungspraktiken und transparente Berichterstattung. So stellen wir sicher, dass Erkenntnisse über die Verteidigungsmechanismen von Comet präzise und reproduzierbar sind und nicht durch sensationslüsterne oder unvollständige Sicherheitsbehauptungen verzerrt werden.

Unser Team betreibt zudem ein aktives Vulnerability Disclosure Program sowie ein privates Bug-Bounty-Programm, um Sicherheitsforscher weltweit einzuladen, unsere Verteidigung zu testen. Da KI-Assistenten leistungsfähiger werden und zunehmend sensible Aufgaben übernehmen, werden unsere Sicherheitsinvestitionen kontinuierlich entsprechend skaliert.