Cairni AI-agendid ründasid sadu saite: kaitse peab märkama pikki ründeahelaid

NorForge’i uurimus annab vaate AI-agentide kasutamisele päris ründetegevuses. Uurija Snorre Fagerland leidis avalikke Cairni juhtpaneele, kust paistsid operaatorite seatud eesmärgid ja agentide tegevus. Ühes kontrollitud juhtumis leidis NorForge sihtsaidilt ka üleslaadimist võimaldava veebikesta. See on tugevam tõend kui pelgalt agendi enda teade õnnestumisest.

Reuters vaatas ühe hiinakeelse operaatori tegevust sõltumatult ja tuvastas ohvrite seas Deere’i, SharkNinja ning Cumminsiga seotud saidid. Deere ütles agentuurile, et tundlikule teabele ligipääsu märke ei leitud. SharkNinja kirjeldas eraldiseisvat tootetoe saiti, Cummins uuris võimalikku rünnet kolmanda osapoole hallatud veebilehele.

Uus sündmus on 19. oktoobril avaldatud uurimus ja ajakirjanduslik kontroll. Reutersi järgi algas vaadeldud operaatori kampaania vähemalt 25. septembril. Kõiki katseid ei saa lugeda edukateks sissemurreteks ning sissemurre ei tõenda iseenesest andmete väljaviimist.

Agent muudab ründaja aja kasutamist

Uurimuse praktiline tähendus ei nõua eeldust, et agent on parem kui kogenud turvaspetsialist. Oluline on võimalus jätta ülesanne pikaks ajaks tööle ja uurida mitut sihtmärki paralleelselt. Nii võib ründajale tasuda ka siht, mille käsitsi uurimiseks ta varem aega ei kulutanuks.

Buildrya hinnangul nihutab see kaitse tähelepanu üksikult kahtlaselt päringult pikemale tegevusjadale. Üks ebaõnnestumine võib olla automaatse töövoo vaheetapp, mille järel proovitakse teist teed. Kui seire näeb iga sündmust eraldi, võib kogu katse eesmärk jääda märkamata.

See ei tähenda, et iga pika päringujada taga on AI. Sama käitumine võib pärineda tavalisest automaatikast või lubatud testist. Kaitseotsus peaks tuginema tegevusele, õigustele ja mõjule, mitte mudelinime oletamisele.

Projektide arv ei võrdu ohvrite arvuga

NorForge’i üle 1100 projekti ja Reutersi üle 1200 sihtsaidi kirjeldavad erinevaid loendusi ja vaatlushetki. Üks projekt, üks sait ja üks ettevõte ei ole samad ühikud. Nende ühendamine üheks täpseks edukusmääraks looks näilise kindluse.

Ka ligikaudne kümneprotsendiline edukus on uurija hinnang vaadeldud tegevusele, mitte juhusliku valimiga katse kogu interneti vastu. Paneelid olid nähtavad just seetõttu, et operaatorid jätsid need avatuks. Selline vaade võib erineda paremini kaitstud ründetaristust.

Veidi alla 23 tunni kirjeldab peamise kogumi eesmärgi saavutanud ülesannete keskmist kestust. See ei ole kõigi katsete keskmine ega lubadus, et kaitsjale jääb alati ligi ööpäev aega. Reageerimist tuleks korraldada esimesest usaldusväärsest ohusignaalist, mitte tuletatud ajapiirist.

Kaitse vajab veebikihi ja serveri sündmuste ühendamist

Praktiline seire võiks siduda veebipäringud autentimise, failimuutuste ja protsesside käivitamise ajalooga. Nii saab eristada kahjutut skannimist tegevusest, mille järel tekib serverisse uus fail või ootamatu välisühendus. Üks logiallikas ei pruugi kogu mõju näidata.

Turvatiimi jaoks võiks juhtum koondada sama rakenduse ja seotud taristu sündmused pikemale ajajoonele. Identne IP-aadress ei pea olema ainus seos: rakendus, konto, päringumuster ja sellele järgnev muutus võivad anda tugevama pildi. Reeglid vajavad siiski häälestamist, et tavapärane kasutus ei mattuks häiretesse.

Kõigepealt tuleks teada, millised saidid ja halduspaneelid ettevõtte nimel üldse töötavad. Tarnija hallatud tootetoe või kampaanialeht võib jääda põhiteenuse seirest välja, kuigi kannab ettevõtte nime. Vastutus ja logidele ligipääs tasub selliste teenuste puhul lepingus selgelt määrata.

Avatud agendipaneel võib lekitada ka lubatud testi andmed

NorForge märkas avatuks jäetud paneele ka näiliselt õiguspärastes turvatestides. See toob esile eraldi probleemi: ründe või testi juhtkeskkond võib muutuda tundliku info lekkekohaks. Kliendi jaoks ei muuda lekke mõju väiksemaks see, et esialgne test oli lubatud.

Toimetuse soovitus on käsitleda agentide juhtpaneele privilegeeritud haldusliidestena. Need vajavad autentimist, piiratud võrguligipääsu ja selget kasutajate haldust. Arendusdemonstratsioon ei tohiks sisaldada päris kliendi võtmeid ega jääda vaikimisi avalikku võrku.

Saladuste eemaldamine logidest peab toimuma enne andmete laialdast jagamist. Samuti tuleks piirata seda, mida agent oma märkmetesse ja tegevusajalukku salvestab. Kui ligipääsutunnus siiski lekib, ei piisa ainult paneeli sulgemisest: tunnus tuleb asendada ja selle kasutust kontrollida.

Püsiva ligipääsu loomine nõuab eraldi kontrolli

Ettevõtte enda turvaagent võiks alustada rangelt määratud sihtmärkidest ja lubatud toimingutest. Haavatavuse olemasolu kinnitamine ja serverisse püsiva faili jätmine on erineva mõjuga tegevused. Üldine luba „testi turvalisust” ei peaks automaatselt lubama kõiki järgmisi samme.

Lubatud töövoog vajab tegevuspiire, katkestamise võimalust ja inimese kinnitust suurema mõjuga sammudele. Kontroll peab asuma ka tööriistade ning õiguste kihis, sest mudeli enda ettevaatlikkus ei ole piisav piir. Logidest peab hiljem selguma, milline tegevus oli tellitud ja milline tegelikult tehti.

Eesti ettevõtte jaoks annab lugu põhjuse üle vaadata nii avalik veebitaristu kui ka enda agendikeskkonnad. Kasulik esimene kontroll on lihtne: kas kõik haldusliidesed on arvel, kaitstud ja vastutajaga seotud? Seejärel saab hinnata, kas seire suudab siduda pika uuriva tegevuse sellele järgnenud serverimuudatusega.