Како смо уградили безбједност у Comet од првог дана
Унутар безбједносног рада за Comet: спољне ревизије, слојевите одбране од инјектирања промптова и истраживања отвореног кода.
Comet пружа вјештачким асистентима моћне могућности за прегледање веб-сајтова, интеракцију са садржајем и обављање сложених задатака у име корисника. Ове могућности захтијевају подједнако моћне мјере заштите. Прије него што смо јавно лансирали Comet, ангажовали смо компанију Trail of Bits да изврши стрес-тестирање наше одбране кроз формалне ревизије. Њихов рад нам је помогао да идентификујемо рањивости и ојачамо наше мјере ублажавања прије него што су корисници почели да се ослањају на Comet за осјетљиве задатке.
Градња одбране од темеља
Напади инјектирањем промптова се стално развијају, а одбрана од њих захтијева вијешеслојни приступ. Од самог почетка смо знали да један одбрамбени механизам неће бити довољан. Наш основни принцип је јеставан: преклапајуће заштите осигуравају да, ако се један слој заобиђе, други остају да чувају кориснике безбједнима. Ево како то спроводимо у дјело.
Наше безбједносно путовање: Кључне прекретнице
Април 2025: Безбједносна ревизија прије лансирања
Прије него што смо јавно лансирали Comet, ангажовали смо компанију Trail of Bits да спроведе систематско моделовање пријетњи наше архитектуре. Њихов тим је тестирао сценарије напада из стварног свијета, покушавајући да заобиђе нашу одбрану користећи технике које би противници могли да примијене у пракси. Ревизија је идентификовала специфичне празнине у нашем систему заштите и покренула итеративни процес санације. Пречистили смо наше мјере за ублажавање ризика и затворили рањивости прије него што су могле да утичу на кориснике.
Октобар 2025: Објављивање наше одбрамбене архитектуре
Објавили смо детаљан технички чланак који објашњава наш оквир одбрамбене архитектуре у четири слоја и разлоге који стоје иза сваке компоненте. Чланак је навео специфичне типове напада од којих се бранимо, од скривених HTML и CSS инјекција до конфузије садржаја и отимања циљева. Такође смо најавили наш програм за награђивање за проналажење грешака (bug bounty), позивајући истраживаче безбједности да тестирају нашу одбрану и пријаве рањивости. Транспарентност је увијек била срж нашег приступа безбједности: вјерујемо да дијељење наше методологије чини цијелу индустрију вјештачке интелигенције јачом.
Децембар 2025: Отворени код за BrowseSafe
Безбједност се побољшава када цијела заједница вјештачке интелигенције може да учи из заједничких истраживања. Објавили смо BrowseSafe, наш модел детекције и референтну вриједност за оцјењивање, као алате отвореног кода. BrowseSafe-Bench укључује 14.719 примјера који покривају 11 типова напада, 9 стратегија инјектирања и 3 лингвистичка стила. Објављивањем наше методологије и скупова података помажемо другим програмерима вјештачке интелигенције да изграде сигурније системе и доприносимо стандардима безбједности у цијелој индустрији. Одговор из заједнице програмера је био охрабрујући, а тимови већ користе BrowseSafe како би побољшали безбједност сопствених асистената са вјештачком интелигенцијом.
Шта смо научили
Изградња безбједности за асистенте са вјештачком интелигенцијом научила нас је критичним лекцијама о пејзажу пријетњи који се стално развија. Спољно непријатељско тестирање открива мртве углове које интерни тимови могу пропустити, без обзира на то колико су вјешти. Моделовање пријетњи није једнократно упражњење већ континуирана дисциплина која мора да се развија како технике напада напредују. Што је најважније, безбједност захтијева сарадњу у цијелој индустрији. Дијељењем наших истраживања, ангажовањем спољних стручњака и доприносом отвореним стандардима, помажемо у изградњи безбједнијег екосистема.
Наша континуирана посвећеност
Одржавамо редовне безбједносне процјене како се Comet развија, осигуравајући да нове функције прођу кроз ригорозну провјеру прије лансирања. Да бисмо помогли у смањењу дезинформација у истраживању безбједности вјештачке интелигенције, улажемо у робусне праксе оцјењивања и транспарентно извјештавање како би налази о одбрани Comet били тачни, репродуктивни и без искривљавања од стране сензационалистичких или непотпуних безбједносних тврдњи.
Наш тим такође води успјешан Програм објелодањивања рањивости и приватни програм награђивања за проналажење грешака (bug bounty), позивајући истраживаче безбједности свуда да тестирају нашу одбрану. Како асистенти са вјештачком интелигенцијом постају способнији и руководе све осјетљивијим задацима, наше инвестиције у безбједност ће наставити да се сразмјерно повећавају.