Teadlased nõuavad kübervõimekale AI-le rangemat isolatsiooni ja intsidendiregistrit

13. oktoobril avalikult kajastatud teadlaste kiri seob AI-ohutuse tavalise küberturbe praktiliste piiridega. Autorite hinnangul vajavad võimekad mudelid lisaks käitumise parandamisele tugevamat tehnilist keskkonda, mis piirab nende tegutsemisvõimalusi. ABC News kajastas sama päeva loos kirja ja selle rahvusvahelist toetajaskonda.

Buildrya jaoks on keskne küsimus, millise tegevuse saab agent päriselt käivitada. Mudeli sõnaline lubadus juhiseid järgida ei ole sama mis võimatus lubamatule süsteemile ligi pääseda. Kiri tõstabki esile vahe prognoositava käitumise ning tehniliselt jõustatud piiride vahel.

Mida teadlased täpselt soovivad?

Kirjas on kolm põhisuunda: usaldusväärne isoleerimine, rahvusvahelised standardid ning tõsiste isoleerimisvigade registreerimine ja hilisem avalikustamine. Esialgse vaikeseadena soovitatakse kübervõimekad mudelid välisvõrkudest eraldada. Internetiühendust võimaldavate alternatiivide jaoks soovivad autorid ühiselt kujundatud praktikaid.

Allkirjade arv muutub aja jooksul. ABC kirjeldas ilmumisel sadadest teadlastest koosnevat toetajaskonda; kirja veebilehel oli kontrollimise ajal 499 allkirjastajat. Neid arve ei tohiks esitada sama hetke mõõtmisena. Oluline uudis on ühise ettepaneku sisu, mitte muutuv loendur või oletus, et kõik teadlased esindavad ühesugust seisukohta.

Võrgust eraldamine muudab töö võimalusi

Välisvõrgust eraldatud mudel ei saa sama ühenduse kaudu vabalt veebi sirvida ega kaugteenustega suhelda. See vähendab üht võimalike tegevuste kanalit, kuid piirab ka ülesandeid, mille lahendamiseks ühendus vajalik on. Seetõttu ei ole ühenduse keelamine ainult abstraktne ohutusvalik: see muudab toote kasutusviisi.

Praktiline hindamine peaks alustama töö vajadusest. Kui ülesanne on suletud koodikogu analüüs, võib vajalik materjal olla kontrollitud keskkonnas olemas. Kui agent peab tegema päris teenuses toiminguid, tuleb määrata konkreetne sihtkoht ja tegevus. Üldise võrguõiguse andmine mugavuse pärast muudab hiljem keerulisemaks selgitamise, milliseid kõrvaltegevusi süsteem üldse suutis teha.

Liivakasti nimi ei tõenda piiri tugevust

Keskkonna nimetamine liivakastiks ei kirjelda veel selle õigusi. Turvapiir sõltub sellest, milliseid faile, võrke, võtmeid ja tööriistu agent kasutada saab ning kas nende kaudu on võimalik teise keskkonda jõuda. Mudeli juhistes olev keeld ja käituskeskkonna jõustatud piir on eri mehhanismid.

Need on süsteemi kavandamise küsimused, mitte selle kirja põhjal tõendatud puudused igas agentplatvormis. Organisatsioon võiks proovida oma agendi lubatud tegevusi ka vigase või pahatahtliku sisendi korral. Kontrolli tulemus peaks kirjeldama tegelikku mõjuulatust: mida õnnestus teha, mis peatati ning milline piir selle takistas.

Intsidendiregister aitaks õppida, kuid vajab reegleid

Kirja autorid soovivad, et isoleerimise ebaõnnestumisi ei hoitaks ainult ühe labori siseteadmisena. Ühine register võiks aidata näha korduvaid vigu ning võrrelda, millised kaitsemeetmed toimisid. Avalik kirjeldus oleks kasulikum, kui see selgitaks nii juhtumi mõju kui ka tehnilist põhjust.

Samas jääb ettepanekust lahtiseks, kuidas tulevane organ andmeid kontrolliks ja millal oleks ohutu neid avaldada. Liiga napp kirjeldus ei aita teistel õppida; lahendamata nõrkuse üksikasjad võivad aga anda ründajale juhiseid. Need valikud nõuavad menetlust, vastutajaid ja kokkuleppeid. Avalik kiri ise sellist toimivat institutsiooni veel ei loo.

Ettepaneku ja kohustuse vahe peab säilima

Kirjast ei tulene automaatselt uus kohustus Eesti ettevõttele ega üldine internetti ühendatud AI keeld. Samuti ei esita kiri kõigi olukordade jaoks üht tehnilist künnist, millest alates mudel kuulub piirangute alla. Seetõttu oleks eksitav käsitleda üleskutset valmis regulatsioonina või kindla rakendusjuhendina.

Organisatsiooni jaoks on sõnum siiski rakendatav küsimusena: kas praeguse agendi ligipääs vastab tema tööle ja võimalikule eksimusele? Sellele saab vastata oma keskkonna kontrolli, õiguste kaardi ja katkestusvõimalusega. Rahvusvahelise organi loomist ei pea ootama, et teada, kelle vastutusel agent töötab ja millal tema tegevus peatatakse.

Katkestuskatse näitab, kas kontroll on päris

Agentkeskkonna kontrollimiseks võib läbi mängida olukorra, kus ülesanne tuleb pooleli jätta. Oluline on näha, kas peatuvad ainult uued mudelipäringud või ka juba käivitatud tööriistad ja välised toimingud. Kui taustal jätkab töö mõne teise konto või teenuse kaudu, ei pruugi nähtava vestluse sulgemine tegevust lõpetada. Selline proov peab toimuma volitatud ja kontrollitud keskkonnas.

Teine kasulik olukord on välisest dokumendist pärit vastuoluline juhis. Süsteem peab eristama tööandmeid kasutaja või rakenduse antud volitusest. Muidu võib ülesande lahendamiseks loetud tekst muutuda ekslikult uueks tegevuskäsuks. Isoleerimise tugevust saab hinnata selle järgi, kas ootamatu juhis suudab laiendada agendi ligipääsu või jääb talle antud tehniliste piiride sisse.

Sellised proovid ei tõenda absoluutset ohutust, kuid annavad konkreetsema pildi kui üldine lubadus, et agent järgib reegleid. Tulemuse dokumenteerimisel on väärtuslik nimetada keskkonna versioon, õigused ja katse ulatus. Nii saab hiljem eristada varem kontrollitud olukorda uuest seadistusest, millele sama järeldus veel ei kehti. See sobib ka kirja läbipaistvuse eesmärgiga: õppimiseks on vaja kirjeldatud sündmust ja piiri, mitte ainult hinnangut, et süsteem oli turvaline.