Poola NASK ja OpenAI allkirjastasid AI-ohutuse uurimiskoostöö kokkuleppe, tingimusi ei avaldatud

Poola riiklik uurimisinstituut NASK ja OpenAI teatasid 23. oktoobril, et on allkirjastanud kokkuleppe AI-ohutuse ja turbe uurimiseks. OpenAI sõnastus on ettevaatlik: kokkulepe on sõlmitud selleks, et „uurida koostööd” AI-ohutuse, turbe ja tehnilise uurimistöö alal. NASK kirjeldab seda poola keeles kui koostöökokkulepet AI-ohutuse uuringutes.

NASK-i poolt juhib tööd instituudi AI-ohutuse uurimiskeskus, mis täidab Poola AI-ohutuse instituudi ülesandeid. Koostöö peab aitama hinnata üha võimekamaid AI-süsteeme, leida nende nõrkusi ja tugevdada kaitsemeetmeid. Rohkem sisulisi üksikasju avalikud teated ei anna.

NASK toob kokku AI-ohutuse uuringud ja riikliku küberintsidentide meeskonna

NASK on Varssavis asuv riigile kuuluv uurimisinstituut. Selle struktuuris tegutseb ka CERT Polska, Poola riiklik küberintsidentidele reageerimise meeskond. Kooslus on oluline, sest sama asutus tegeleb nii AI-süsteemide ohtude uurimise kui ka päris intsidentide käsitlemisega.

NASK-i direktor Radosław Nielek ütles, et instituudi AI-ohutuse uurimiskeskus tegeleb kaitsemeetmetega uute riskide vastu, AI-ga loodud sisu tuvastamisega, AI pahatahtliku kasutamise uurimisega ning sellega, kuidas ohud eri keeltes erinevad. Viimane on Kesk- ja Ida-Euroopa jaoks praktiline küsimus. Suurte mudelite turvateste tehakse sageli inglise keeles ning väiksemate keelte kaitsemeetmete toimimist on vaja eraldi kontrollida.

Koostöö jätkab juulikuist CERT Polska ja OpenAI tööd

Kokkulepe ei alga tühjalt kohalt. Mõlema poole teadete järgi sai CERT Polska juulis OpenAI Daybreaki programmi kaudu ligipääsu ettevõtte küberturbeks mõeldud mudelitele. OpenAI sõnul aitasid need mudelid CERT Polskal leida MikroTik RouterOS-ist kuus haavatavust. Osa neist sai kombineerida nii, et seadme üle oli võimalik ilma autentimiseta kontroll saada. Tootja avaldas parandused ning NASK-i sõnul kinnitas CERT Polska, et need blokeerivad tuvastatud ründemeetodid.

See näide näitab, milline koostöö võib praktikas välja näha: riiklik turvameeskond kasutab laboriga kokkulepitud ligipääsu võimekale mudelile, leiab päris tarkvarast haavatavusi ning need parandatakse koordineeritult. Uus kokkulepe nimetab aga peamiselt teemasid. See ei kirjelda, millised mudelid ja millal NASK-ile kättesaadavaks tehakse.

„Ainus selline leping ELis” on NASK-i enda väide

NASK-i pealkiri nimetab kokkulepet ainsaks selliseks Euroopa Liidus. See on instituudi väide. Avalikest allikatest ei selgu, millise määratluse järgi võrdlus on tehtud. OpenAI enda teade seda väidet ei korda. OpenAI sõnul on ta varem teinud koostööd USA keskusega CAISSI, Ühendkuningriigi AI Security Institute'iga ja teiste avalike uurimisasutustega. Ühendkuningriik ei kuulu Euroopa Liitu, seega ei lähe see NASK-i väitega otseselt vastuollu. Tegemist on siiski väitega, mida ei saa praegu sõltumatult kontrollida.

OpenAI seob kokkuleppe oma ettepanekuga töötada välja rahvusvahelised tehnilised standardid tipptasemel AI jaoks. Ettevõtte sõnul aitavad ühised meetodid võimekuste hindamiseks, riskide analüüsimiseks, kaitsemeetmete testimiseks ja intsidentidest teatamiseks riikidel tõendeid võrrelda. NASK lisab, et riiklikud partnerid aitavad standardeid siduda kohalike kasutustingimustega.

Kokkuleppe väärtus sõltub ligipääsust ja avaldamisõigusest

Avalikud teated ei vasta neljale küsimusele, mis määravad, kas tegemist on sisulise hindamise või pigem poliitilise koostöösignaaliga.

• Kas NASK saab mudeleid testida enne nende avalikku väljalaset või ainult siis, kui need on juba kasutajatele kättesaadavad?
• Kui sügav on ligipääs: kas see hõlmab ainult tavalist API-t või ka spetsiaalseid testkeskkondi, vähem piiratud mudeliversioone ja tehnilist dokumentatsiooni?
• Kas NASK võib oma leiud avaldada ilma OpenAI nõusolekuta ja kes otsustab, mida tuleb turvakaalutlustel varjata?
• Kas koostööl on oma rahastus ja kestus või toimub see olemasolevate eelarvete raames?

Need küsimused ei ole tehnilised detailid. Riikliku hindaja usaldusväärsus sõltub sellest, kas ta suudab mudeli kohta esitada järeldusi, mida tootja ei kontrolli. NASK-i ja OpenAI teated selliseid tingimusi ei avalda.

Eesti jaoks on see võrdluskoht, mitte valmis mudel

Poola näide on Eesti jaoks kasulik võrdluskoht, sest see seob mudelilabori sama asutusega, mis tegeleb riikliku küberintsidentide käsitlemisega. Juuli MikroTiku juhtum näitab ka, et selline koostöö võib anda tulemusi kohe, kui ligipääs on konkreetne ja eesmärk kitsas.

Eesti riigiasutuste ja teadlaste jaoks on praktiline õppetund see, et koostöökokkuleppe pealkirjast olulisem on selle sisu. Läbirääkimistel tasub kirja panna, milliseid mudeleid ja millal hinnatakse, milliseid tööriistu ja dokumentatsiooni hindaja saab, kuidas käsitletakse eesti keele ja kohalike teenuste riske ning millised on avaldamise reeglid. Ilma nende tingimusteta on raske hinnata, kas riiklik asutus kontrollib mudelit või aitab peamiselt tootjal oma teste laiendada.

Järgmise kuue kuni kaheteistkümne kuu jooksul näitab Poola koostöö tegelikku sisu see, kas NASK avaldab OpenAI mudelite hindamise tulemusi, kas need käsitlevad ka poola keelt ja kas leiud jõuavad parandustena kasutajateni.