Nvidia ühendab OpenShelli agentide välise järelevalvega riistvaraarhitektuuriks

Nvidia toob AI-agentide tegevuspiirid arvutustaristu tasemele. Ettevõtte 21. oktoobri teadaande järgi täiendab OpenShelli olemasolevat turvalist käituskeskkonda arhitektuur, kus mudeli töö, tööriistade kasutamine ja järelevalve saavad eraldi rollid. The Next Web kinnitab disaini avaldamist ning kirjeldab tootja partnerite tegevusi.

Buildrya hinnangul on selle uudise keskne küsimus kontrolli asukoht. Kui agendil on ligipääs failidele, võrgule ja ettevõtte tööriistadele, peab keelatud tegevus peatuma ka siis, kui mudel peab seda ekslikult vajalikuks. Sellise piiri tugevust saab hinnata konkreetse katsega.

Järelevalve eraldub agendi enda tööprotsessist

Nvidia kirjelduses jookseb Sentry BlueField-4 andmetöötlusüksustel ning jälgib agendi käitumist põhikeskkonnast väljastpoolt. Tootja ütleb, et piiri ületada püüdev agent isoleeritakse ja peatatakse millisekunditega. See on süsteemi lubatud käitumine, mitte sõltumatu mõõtmise tulemus selles loos.

Sellise eraldamise praktiline eesmärk on vältida olukorda, kus agent ise otsustab, kas enda piirangut järgida. Kasutaja juhis kirjeldab soovitud tööd, kuid tegelik ligipääsupoliitika peab määrama, millistele ressurssidele töö üldse ulatuda saab. Need kaks tasandit peavad olema omavahel kooskõlas.

Näiteks ei tohiks ainult raporti koostamiseks mõeldud agent vajada kliendiandmete kustutamise õigust. Kui see õigus on olemas, ei paranda eraldi turbekiht automaatselt liiga laia algset poliitikat. Kontrollsüsteem saab jõustada talle antud piiri; vale piir võib lubada ka soovimatut tegevust.

Partnerite nimekiri ei näita kõigi integratsioonide valmidust

The Next Web toob välja SAP ja ServiceNow' seosed lahendusega ning Euroopa pankade BBVA ja Santanderi uuriva huvi. Nende staatust tuleb eristada: uurimine, integreerimine ja valmis teenuse kasutamine pole samatähenduslikud.

Ettevõtte ostuotsuses tuleks seetõttu küsida konkreetse kombinatsiooni kohta. Milline operatsioonisüsteem, agendikeskkond, tööriist ja poliitika on toetatud? Kes vastutab vea uurimise eest, kui töö peatub eri tarnijate komponentide piiril? Üldine partnerlus ei anna neile küsimustele veel vastust.

Nvidia sõnul laieneb disain ka servasüsteemidele. See ei tähenda, et iga väiksema seadme konfiguratsioon kordaks täielikult andmekeskuse turbeomadusi. Hindamine peab algama sellest keskkonnast, mida organisatsioon tegelikult kasutab, mitte kõige võimekamast avalikus esitluses näidatud variandist.

Kontrollkatse peab proovima nii lubatud kui keelatud tegevust

Buildrya soovitatud vastuvõtukatse algab lihtsa poliitikaga: agent võib lugeda üht kausta ja kasutada üht lubatud teenust, kuid ei tohi kirjutada teise kausta ega pöörduda keelatud võrguaadressi poole. Keskkond peaks sisaldama näidisandmeid ja olema taastatav.

Seejärel tuleb proovida piirangu ületamist mitmel viisil. Otsene keelatud tööriistakutse näitab üht riketüüpi; lubatud tööriista kaudu kaudselt tehtud pöördumine võib näidata teist. Katseplaan peaks kirjeldama oodatud tulemust enne käivitamist, et peatamist ei tõlgendataks tagantjärele sobival viisil.

Sama oluline on lubatud töö lõpetamine. Kui kaitse peatab sageli korrektsed ülesanded, kandub kulu kasutajatoele ja käsitsi taastamisele. Turbe hindamisel tuleb seetõttu kõrvuti näidata tabatud piiririkkumisi, läbi läinud rikkumisi ja põhjendamatuid peatamisi.

Peatamiskiirusest üksi ei piisa

Millisekundite mõõtmine vajab täpset alguspunkti. Aeg keelatud kavatsuse tekkest pole sama mis aeg jälgitava tööriistakutse või võrgupaketi ilmumisest. Ka peatamise lõpp peab olema üheselt määratud: kas peatub protsess, lõpeb ühendus või muutub andmete väljastamine võimatuks?

Praktiline mõõdik on kahju enne peatamist. Kui lubamatu andmeosa on juba lahkunud, ei kirjelda kiire protsessi sulgemine kogu tulemust. Katses tuleb seetõttu kontrollida ka sihtkohta ja tegelikult tehtud muudatusi, mitte ainult turbelogi rohelist märget.

Taastamine vajab eraldi läbimängimist. Organisatsioon peab teadma, milline töö jäi pooleli, kas osalised muudatused säilisid ning kellel on õigus agent uuesti käivitada. Muidu võib õige peatamine tekitada uue vea, kui sama ülesanne tehakse teadmata seisust uuesti.

Euroopa ettevõtte jaoks on väärtus tõendatavas kontrolliahelas

Pankade huvi näitab probleemi asjakohasust, kuid ei kinnita ühegi konkreetse Eesti organisatsiooni vastavust tema nõuetele. Kohalik kasutuselevõtt vajab sama põhilist tõendit: poliitika, täitmise ja tegeliku tulemuse seos peab olema taastatav.

Hankes võiks nõuda näidisjuhtumi läbimist kliendi enda kontrollitud keskkonnas. Sellest saadud logi, blokeerimise tulemus ja taastamise kirjeldus on otsustamiseks sisukamad kui üldine lubadus turvalistest agentidest. Arhitektuuri avaldamine annab hindamiseks lähtekoha; töökindlus selgub konkreetse töökoormusega.