Liigu põhisisu juurde
Buildrya

Äri ja hinnad

Sentra avalikustas 150 miljoni dollari vooru: agentide risk algab andmeõigustest

Sentra teatas 4. novembril Capital One Venturesi juhitud C-seeria rahastusest. AI-agendi riski hindamiseks tuleb jälgimise kõrval kontrollida, milliste tundlike andmeteni tema konto ulatub.

Toimetaja Kristjan Krimm · Avaldatud · 6 min lugemist

Olulisus
Sihtrühm
Kõik
Allikaid
2
Esmaallikas
Sentra
Sentra roheline tunnusmärk ja valge sõnamärk mustal taustal.
Pilt: Sentra

Viimase 60 päeva seismograaf: 139 signaali. Joone kõrgus näitab olulisust.

Mis juhtus

Sentra teatas 4. novembril Capital One Venturesi juhitud C-seeria rahastusest. AI-agendi riski hindamiseks tuleb jälgimise kõrval kontrollida, milliste tundlike andmeteni tema konto ulatub.

Miks see loeb

Agendi teenusekonto liiga laiad õigused võivad avada tundlikud andmed juba enne esimest ekslikku toimingut. Ettevõttel tasub kontrollida andmetele ligipääsu ja väljasaatmise tõkestamist eraldi agendi tegevuslogist.

Lühidalt

4 põhipunkti
  1. Sentra avalikustas 4. novembril 150 miljoni dollari suuruse C-seeria rahastusvooru.
  2. Vooru juhtis Capital One Ventures ning ettevõte kirjeldab seda lõpetatud rahastusena.
  3. Sentra seob oma arendussuuna tundlike andmete leidmise, liigitamise ja ligipääsude kontrolliga.
  4. Rahastus ei tõenda toote kaitsevõimet; ettevõte peab agentide tegelikke õigusi ise kontrollima.

Sentra rahastusuudis puudutab tehisaruagentide turvalisuse üht lihtsat küsimust: milliste andmeteni ulatub konto, mille nimel agent tegutseb? Kui ligipääs on algusest peale liiga lai, võib väga põhjalik tegevuslogi kirjeldada probleemi alles pärast seda, kui tundlik teave on juba loetud või kopeeritud.

Ettevõtte teade ja The Wall Street Journali kajastus kinnitavad rahastuse suurust ning vooru juhtinvestorit. Täpset sulgemiskuupäeva avalik tekst ei erista. Seetõttu on 4. november siin teate avaldamise ja rahastuse avalikustamise päev, mitte eraldi tõend kõigi tehingutoimingute samapäevasest lõpetamisest.

Mida rahastusteade kinnitab?

Sentra nimetab kapitali kasutamise suundadena tootearendust, inseneritöö laiendamist ja tegevuse kasvatamist. Ettevõte kirjeldab oma platvormi andmeturbe lahendusena, mille kasutus hõlmab pilveteenuseid ja teisi andmekeskkondi. Need on ettevõtte enda toote- ja arendusväited, mitte selle uudise raames läbi viidud sõltumatu kontrolli tulemused.

Investeering näitab, et rahastajad näevad ettevõttes võimalust. Sellest ei saa tuletada, kui täpselt lahendus tundlikke andmeid leiab või kui hästi see konkreetse kliendi valesti seadistatud õigusi parandab. Samuti ei ütle vooru suurus, milline kaitse töötab andmete kopeerimise hetkel ja milline saadab üksnes hilisema hoiatuse.

Tootest rääkimisel tuleb seetõttu hoida eraldi nähtavus, soovitus ja jõustatud piirang. Süsteem võib leida, et fail on tundlik, soovitada selle õiguste muutmist või takistada sellele ligipääsu. Iga tulemus on kasulik erineval viisil, kuid need ei ole omavahel asendatavad.

Agent pärib sageli olemasoleva konto võimalused

Ettevõtte assistent võib lugeda dokumente töötaja konto või eraldi teenusekonto kaudu. Mõlemal juhul sõltub tegelik ligipääs lisaks ülesande sõnastusele ka rühmadest, jagatud kaustadest, rakenduslubadest ja ühendatud tööriistadest. Väide „agent aitab ainult kliendipakkumisi teha” ei näita, millised tehnilised õigused talle anti.

Näiteks võib pakkumiste koostamiseks loodud ühendus anda ligipääsu tervele dokumendikogule. Kui sinna on sattunud personalifailid või teiste klientide lepingud, tuleb hinnata kogu seda ulatust. Probleem ei eelda, et agent oleks pahatahtlik. Piisata võib ekslikust otsingutulemusest, valest kasutajaülesandest või andmetes peituvast eksitavast juhisest.

Õiguste hindamisel ei piisa seega üksnes mudelile kirjutatud reeglist. Tuleb proovida, kas tööriist keeldub keelatud faili lugemisest ka siis, kui agent seda küsib. Rakenduse keeld ja mudeli vabatahtlik hoidumine annavad erineva kindluse.

Andmete asukoht ja tundlikkus tuleb siduda õigustega

Andmekogu leidmine on esimene samm. Järgmiseks tuleb aru saada, millised andmed seal on, kellel on neid vaja ning millise tee kaudu neile ligi pääseb. Sama klienditabel võib olla korraga põhiandmebaasis, ekspordifailis ja jagatud kaustas. Ühe koha korrastamine ei sulge automaatselt teisi teid.

Liigitamisel on samuti piirid. Kui tundlik fail jääb märkamata, ei rakendu sellele mõeldud reegel. Kui tavaline fail liigitatakse liiga rangelt, võib töövoog katkeda põhjendamatult. Sellepärast peaks piloot hindama nii ohtlikult lubatud kui ka asjatult keelatud tegevusi.

Ettevõtte jaoks on kasulik salvestada iga olulise leiu juurde vastutaja. Turvatiim võib probleemi avastada, kuid andmeomanik teab paremini, kas jagamine on vajalik. Õiguse eemaldamine ilma töö vajadust mõistmata võib viia uute kontrollimata koopiate tekkimiseni, kui töötajad otsivad endale kiiremat lahendust.

Buildrya katse: mida üks agent tegelikult saab teha?

AI-Radari praktiline kontroll võiks võtta ühe piiratud ülesandega agendi ja kasutada selle proovikeskkonnas sünteetilisi tundlikke andmeid. Kõigepealt kaardistataks kontod ning tööriistad, mille kaudu agent tegutseb. Seejärel võrreldaks ülesande jaoks vajalikku ligipääsu tegelikult lubatuga.

Kontroll võiks eristada lugemist, kopeerimist ja välisele tööriistale saatmist. Faili lugemise õigus ei tähenda, et kõiki selle andmeid tohiks edastada järgmisele teenusele. Ka koondvastus võib sisaldada tundlikku infot. Seetõttu peab katse jõudma andmete liikumiseni, mitte lõppema avatud failide loendiga.

Tulemuseks peaks olema väike kontrollitav kirjeldus: millist tegevust prooviti, milline süsteem selle lubas või keelas ning milline tõend alles jäi. Kui kontroll saadab ainult hoiatuse, tuleb see täpselt nii kirja panna. Hoiatuse ilmumine ei tõenda, et andmete saatmine ebaõnnestus.

Logi ja blokeerimine peavad vastama eri küsimustele

Tegevuslogi aitab aru saada, mida agent tegi. Ligipääsupiirang määrab, mida ta üldse teha saab. Väljuva andmevoo kontroll võib lisada kolmanda piiri: ka loetud andmeid ei tohi igale poole saata. Need kihid toetavad üksteist, kuid ükski neist ei muuda teisi automaatselt üleliigseks.

Katsetada tasub ka seda, kuidas õiguse muutmine mõju avaldab. Kui konto ligipääs eemaldatakse, kas juba avatud ühendus jätkab toimimist? Kas otsinguteenusesse jäänud koopia on endiselt leitav? Need on kontrollküsimused, mitte väited Sentra ega mõne nimetatud teenuse puuduste kohta.

Samuti peab ettevõte teadma, kes reageerib. Kui süsteem leiab liigse ligipääsu, võiks olla määratud otsustaja ja parandamise tähtaeg. Ilma vastutajata võib nähtavus kasvada, kuid õigused jääda samaks. Hanke tulemusena oleks siis parem ülevaade probleemist, mitte väiksem andmekokkupuude.

Ostetav tulemus vajab oma mõõdikut

Turvalahenduse piloodis võiks võrrelda enne ja pärast sama töövoogu. Kas agendi vajalik töö jätkub? Kas keelatud andmed jäävad kättesaamatuks? Kui palju käsitööd nõuab õiguste korrastamine? Vastused aitavad otsustada, kas lahendus annab konkreetses keskkonnas oodatud tulemuse.

Mõõtmisse tuleb kaasata ka uued andmed ja uued ühendused. Ühekordne korrastamine ei näita, kuidas süsteem märkab järgmisel nädalal loodud kausta või lisatud teenusekontot. Rahastusuudis annab põhjust teemat jälgida, kuid ettevõtte otsus peaks põhinema sellistel kontrollitud tulemustel.

Pilt: Sentra ametlik ettevõtte sõnamärk. Logo ei ole tõend platvormi kontrollide toimivuse kohta.

KKK

Korduma kippuvad küsimused

5 küsimust
Kas 4. november on vooru täpne sulgemispäev?

Ettevõte teatas sel päeval lõpetatud rahastusest. Avalik tekst ei täpsusta sulgemise eraldi kuupäeva.

Kas rahastuse suurus kinnitab toote tõhusust?

Rahastus kinnitab investeeringut. Konkreetse kaitse toimivus vajab eraldi mõõtmist ja katset.

Miks ei piisa agendi tegevuse logimisest?

Logi aitab tegevust jälgida või uurida. Liigse ligipääsu piiramiseks peab süsteem keelatud toimingu ka tehniliselt takistama.

Mida kontrollida esimese asjana?

Kaardistada tuleb agendi kasutatavad kontod ja nende tegelikud andmeõigused. Seejärel saab võrrelda neid ülesande jaoks vajaliku ulatusega.

Kas tundliku faili leidmine tähendab, et see on kaitstud?

Leidmine teeb riski nähtavaks. Kaitse sõltub sellest, milline ligipääsu- või väljasaatmispiirang failile tegelikult rakendub.