SPACE, sandkassakerfið að baki Computer, gefið út sem opinn hugbúnaður

Allt frá því að Computer kom út í febrúar hefur Perplexity verið í fararbroddi á sviði persónulegra gervigreindarfulltrúa. Við erum staðráðin í að takast á við erfið viðfangsefni í stjórnun gervigreindarfulltrúa: að greina óörugga hegðun og koma í veg fyrir að gervigreindarfulltrúar fari út af sporinu. Í júlí skiptum við út sandkassaþjónustu sem við keyptum af utanaðkomandi aðila fyrir öflugri og seigari lausn sem við þróuðum sjálf og nefndum SPACE.

SPACE veitir öflugt öryggi fyrir háþróuð kerfi gervigreindarfulltrúa. Nýleg röð öryggisprófana sýndi raunar að SPACE stenst aðferðir til að komast fram hjá takmörkunum á netaðgangi á borð við þær sem notaðar voru í atvikinu hjá OpenAI/Hugging Face.

Í dag gefum við SPACE út sem opinn hugbúnað svo að forritarar hafi grunn til að smíða öruggari kerfi fyrir gervigreindarfulltrúa og geti stuðlað að öflugri vörnum í allri greininni. Forritarar geta nálgast kóðasafnið hér.

Stjórnun gervigreindarfulltrúa er verkfræðilegt viðfangsefni og opinn hugbúnaður er nauðsynlegur til að leysa það. Þegar forritarar hafa kerfi sem þeir geta skoðað, aðlagað og byggt á finna þeir fleiri veikleika og þróa betri tól. Með því að gefa SPACE út sem opinn hugbúnað fá forritarar grunn að keyrsluumhverfi gervigreindarfulltrúa sem hefur verið prófaður í raunnotkun, með innbyggðri einangrun, endurheimt stöðu og stýringum á aðgangsauðkennum og netaðgangi.

Grunnur fyrir aðra þróunaraðila

Sandkassar halda gervigreindarfulltrúum öruggum og veita þeim aðgang að þeim tólum og skrám sem þeir þurfa til að ljúka þessum verkefnum, á sama tíma og viðkvæmar upplýsingar eru varðar.

Með því að gefa SPACE út sem opinn hugbúnað fá forritarar upphafspunkt fyrir umhverfin þar sem gervigreindarfulltrúar þeirra keyra kóða og vinna með skrár. Teymi geta séð hvernig SPACE-sandkassakerfið virkar og byggt á útfærslu þess. Þau geta einnig aðlagað það að eigin þörfum í stað þess að endurgera undirliggjandi innviði.

Í Computer styður SPACE einangraða keyrslu kóða, hlé og áframhald, endurheimt og kvíslun samtala. Þessir eiginleikar mynda grunninn að aðstoðarkerfum sem gætu:

• Greina gögn: Hreinsa töflureikni, framkvæma útreikninga og búa til gröf í aðskildu vinnuumhverfi.
• Halda vinnu áfram: Gera hlé á meðan einhver fer yfir drög eða útvegar upplýsingar sem vantar og halda svo áfram þar sem frá var horfið, án þess að skrár eða keyrslustaða tapist.
• Kanna aðra kosti: Prófa tvær leiðir til að hreinsa gagnasafn í aðskildum afritum af vinnuumhverfinu eða endurheimta eldri skrá eftir mistök.

Þessi dæmi sýna hvernig forritarar gætu nýtt sér skjalfesta einangrun og stýringar á samtölum í SPACE. Kerfis- og öryggisverkfræðingar geta einnig farið yfir einangrunarlíkanið og öryggisdæmin áður en þeir samþætta SPACE við eigin kerfi.

Aukið öryggi í sjálfstæðri vinnu

Þegar við gefum gervigreindarfulltrúum meira svigrúm til að leysa vandamál þurfum við skýr mörk um hvernig þeir fara að því. Við vitum að gervigreindarfulltrúar sem sinna lögmætum verkefnum geta samt farið yfir öryggismörk þegar þeir reyna að komast fram hjá skrám sem vantar, beiðnum sem mistakast eða synjunum um heimildir.

Við getum innleitt varnir í líkönum til að draga úr líkum á óöruggri hegðun. Sjálfstæðar stýringar í kerfinu umhverfis líkanið hjálpa til við að takmarka skaðann ef þær varnir bregðast. Þær takmarka það sem gervigreindarfulltrúi hefur aðgang að, óháð því hvað hann ákveður að gera.

SPACE setur þessar stýringar utan um aðskilið vinnuumhverfi fyrir kóða og skrár sem gervigreindarfulltrúar búa til. Við hönnuðum það til að sameina einangrun, endurheimt og skilvirka keyrslu. Þannig geta gervigreindarfulltrúar unnið gagnlega vinnu í löngum samtölum án þess að treysta eingöngu á að líkanið virði öryggismörk.

Keyrir í eigin stýrikerfi

Hver SPACE-sandkassi keyrir í lítilli sýndarvél sem hefur sitt eigið stýrikerfi, og þannig myndast einangrunarmörk milli vinnu gervigreindarfulltrúans og hýsilkerfisins. Miðlægt stjórnlag samræmir hvenær þessi vinnuumhverfi eru stofnuð, sett í bið, ræst aftur eða fjarlægð.

SPACE lítur á sandkassann sem ótraustan og stýrir netaðgangi og aðgangsauðkennum í vörslu kerfisins utan sandkassans. Gervigreindarfulltrúar geta tengst heimiluðum þjónustum án þess að þessi auðkenni séu geymd í vinnuumhverfi þeirra.

Tíðar skyndimyndir af skrám og vistunarpunktar af öllu keyrsluumhverfinu varðveita framvindu þrátt fyrir truflanir. Til að halda þessum aðgerðum skilvirkum vistar SPACE breytingar í stað þess að afrita heilu umhverfin aftur og aftur. Það dregur úr vinnunni sem þarf til að stofna, endurheimta eða kvísla sandkassa.

Bætt afköst í raunumhverfi

Frá því í júlí hefur SPACE knúið öll samtöl í Computer og séð um að stofna milljónir sandkassa á dag. Í samanburði á sömu raunumferð var stofnun sandkassa þrisvar til fimm sinnum hraðari en hjá fyrri þjónustuveitanda okkar.

Við prófuðum SPACE einnig gegn gervigreindarfulltrúum sem reyndu vísvitandi að brjótast út fyrir mörk þess. Í öryggismati okkar, sem við höfum birt, tókst engum að sleppa úr sýndarvélinni yfir í hýsilinn í 108 tilraunum, en sumir fundu leiðir fram hjá takmörkunum á netaðgangi. Við lagfærðum þá veikleika og hvorug þeirra árásaraðferða sem greindar voru bar árangur í eftirfylgniprófunum.

Við upplýstum einnig framleiðendur annarra sandkassakerfa um tengda veikleika sem við fundum í kerfum þeirra og færðum þannig þessa vinnu út fyrir okkar eigin innviði.

Framlag til öruggari gervigreindarfulltrúa

SPACE er hluti af víðtækara átaki til að styrkja kerfin sem fólk reiðir sig á eftir því sem gervigreind tekur að sér meiri vinnu. Í gegnum Secure Intelligence Institute stundum við öryggisrannsóknir í samstarfi við breiðara samfélag og nýtum niðurstöðurnar í hagnýtar varnir.

Við teljum að með því að gefa öryggistól út sem opinn hugbúnað fái forritarar fleiri leiðir til að prófa varnir, finna veikleika og byggja öruggari gervigreindarkerfi. Við höfum deilt tólum sem taka á ólíkum þáttum þessarar vinnu:

• BrowseSafe, líkan og viðmiðunarpróf til að greina skaðleg fyrirmæli sem eru falin á vefsíðum.
• Numbat, öryggisverkfærasafn sem var gefið út sem opinn hugbúnaður í júlí og hjálpar til við að greina, rannsaka og koma í veg fyrir hættulega hegðun gervigreindarfulltrúa í tölvum
• Bumblebee, skanni sem var gefinn út sem opinn hugbúnaður í maí og kannar hvort á tölvum forritara séu áhættusamir hugbúnaðarpakkar, viðbætur og stillingar gervigreindartóla

Með því að gera þessi tól aðgengileg geta önnur teymi skoðað vinnu okkar, aðlagað hana að eigin þörfum og lagt til úrbætur. Með SPACE útvíkkum við þessa nálgun til umhverfanna þar sem gervigreindarfulltrúar keyra kóða og vinna með skrár.

Innleiðing í kerfi gervigreindarfulltrúa

Akamai hefur prófað SPACE og hleypt því af stokkunum á skýjavettvangi sínum og vinnur með Perplexity að því að bjóða viðskiptavinum sínum upp á það. Crusoe er einnig í samstarfi við Perplexity um að bæta SPACE við vöruframboð sitt, Managed AI Services. CoreWeave hefur birt leiðbeiningar um uppsetningu fyrir forritara sem vilja setja SPACE upp til prófunar á CKS.

Forritarar geta byrjað á leiðbeiningum SPACE um uppsetningu og öryggi til að innleiða það í eigin kerfi gervigreindarfulltrúa. Í kóðasafninu og skjölunum eru studdar stillingar og meðfylgjandi íhlutir skilgreindir.