Lõuna-Austraalia OpenAI memorandum jätab hanketingimused lahtiseks

01Lühidalt

• Lõuna-Austraalia peaminister Peter Malinauskas ja OpenAI president Greg Brockman allkirjastasid San Franciscos koostöömemorandumi.
• Raamistikuga uuritakse töötajate oskusi, teadus- ja iduettevõtlust, OpenAI võimalikku investeeringut, avalikke teenuseid ning osariigi andmekeskuste strateegiaga sobivat AI-taristut.
• Konkreetseid kasutusjuhte, eelarvet, andmete töötlemise tingimusi, mudelivalikut, sõltumatut järelevalvet ega andmekeskuse investeeringut pole kinnitatud.
• Malinauskase sõnul peavad võimalikud algatused jääma inimese juhituks ning vastama õigus-, privaatsus-, turbe- ja hankekaitsetele.

Lõuna-Austraalia valitsus ja OpenAI sõlmisid 9. augustil San Franciscos koostöömemorandumi. AAP kajastuse järgi allkirjastasid dokumendi peaminister Peter Malinauskas ja OpenAI kaasasutaja ning president Greg Brockman ettevõtte peakontoris.

Memorandum avab mitu võimalikku rada: avaliku sektori ja teiste töötajate AI-oskused, kohaliku teaduse ning iduettevõtete toetamine, OpenAI investeeringute uurimine, avalike teenuste töövood ja osariigi andmekeskuste strateegiaga sobiv taristu. Ühtegi neist pole veel kirjeldatud rahastatud projektina.

Seetõttu on uudise keskmes vähem tehnoloogia ja rohkem valitsemismudel. Strateegiline suhe võib anda kiire ligipääsu ekspertiisile, kuid avaliku sektori tegelikud kohustused selguvad alles siis, kui määratakse kasutusjuht, tehakse hange ja kirjutatakse lepingusse andmete, kulude, auditi ning väljumise tingimused.

02Memorandum loob vestluse, mitte valmis teenuse

AAP nimetas kokkulepet arvatavasti esimeseks Austraalia osariigi või territooriumi otselepinguks suure alusmudelifirmaga. See hinnang kirjeldab poliitilist uudsust, kuid ei ole ammendav audit kõigist valitsusasutuste varasematest pilve- või tarkvaralepingutest.

Memorandum ise ei näita, milline amet kasutaks millist OpenAI teenust. Avalik pole andmekaitse mõjuhinnang, andmete säilitamise koht, ligipääsumudel, ostumaht ega mõõdik, mille järgi piloodi edu hinnata. Samuti ei kinnita dokument, et OpenAI rajab Lõuna-Austraaliasse andmekeskuse.

Malinauskas ütles, et võimalikud algatused on inimese juhitud ja alluvad ootuspärastele õigus-, privaatsus-, turbe- ning hankekaitsetele. See on oluline põhimõte, kuid kontrollitavaks muutub see alles projekti dokumentides: kes kinnitab otsuse, milliseid andmeid tohib sisestada ja kuidas saab inimene vea parandada.

03Avalik teenus vajab enne mudelit selget kasutusjuhtu

Hea avaliku sektori AI-projekt algab probleemist. Näiteks võib eesmärk olla vähendada ametniku aega pika dokumendi kokkuvõtmisel või aidata elanikul leida õige teenus. Mudeli nimi tuleb pärast seda, kui on määratud täpsus, lubatud risk ja inimese roll.

Kui lähtekoht on ühe pakkuja üldine võimekus, võib projekt hakata otsima probleemi, mida selle tootega lahendada. See suurendab ökosüsteemilukustust: juhised, integratsioonid, koolitus ja logid ehitatakse ühe API ning kasutajaliidese ümber enne, kui alternatiive võrreldakse.

Piloodil peab olema algus ja lõpp. Enne käivitamist tuleb kirja panna baasnäitaja, kvaliteedikriteerium, kululagi ja peatamise tingimus. Pärast pilooti peab otsustaja saama võrrelda tulemust käsitöö, teise mudeli ja üldse automatiseerimata protsessiga.

04Andmete asukoht ei lahenda kogu andmeriski

AI-taristu arutelus keskendutakse sageli sellele, millises riigis server asub. Andmete asukoht on tähtis, kuid sellest üksi ei selgu, kas päringuid kasutatakse teenuse parandamiseks, kui kaua logisid säilitatakse, kes neile ligi pääseb või millised alltöötlejad osalevad.

Avalik asutus peab andmed enne mudelisse saatmist liigitama. Avalik tekst, asutusesisene tööinfo, isikuandmed ja eriliigilised andmed vajavad erinevaid reegleid. Kõige tundlikuma info puhul võib sobiv lahendus olla lokaalne töötlus, pseudonüümimine või otsus AI-d üldse mitte kasutada.

Lepingus tuleb määrata päringute ning väljundite säilitus, koolituseks kasutamise keeld või tingimused, turvaintsidendi teavitus ja andmete kustutamise tõend. Sama oluline on ligipääs: teenusepakkuja kontroll ei asenda asutuse enda rollipõhist õigust, autentimist ja tegevuslogi.

05Auditijälg peab ulatuma inimese otsuseni

Malinauskase rõhutatud inimese juhtimine ei tohiks tähendada üksnes nuppu „kinnita“. Ülevaatajal peab olema piisav info, aeg ja õigus AI soovitus tagasi lükata. Kui süsteem koostab toetuse otsuse mustandi, peab lõplik vastutaja nägema allikaid ja ebakindlust.

Auditilogis tuleb siduda kasutaja, sisend, mudeli ning juhise versioon, kasutatud andmeallikad, väljund ja inimese tegevus. Ilma selle ahelata ei saa hiljem selgitada, miks kaks sarnast juhtumit said erineva tulemuse või kas viga tuli andmest, juhisest või mudelist.

Logi ise võib sisaldada tundlikke andmeid. Seetõttu vajab ka auditijälg säilitustähtaega, ligipääsupiiranguid ja kustutamisprotsessi. Läbipaistvus ei tähenda kogu päringuajaloo piiramatut säilitamist.

06Väljumisplaan vähendab ökosüsteemilukustust

Avalik asutus peab saama teenusepakkujat vahetada ilma kogu töövoogu nullist ehitamata. Selleks tuleb juhised, hindamistestid, andmeskeemid ja ärireeglid hoida organisatsiooni kontrolli all. Mudelikutsed võib eraldada adapterikihi taha, et uut teenust saaks võrrelda sama testkoguga.

Portatiivsus pole täielik, sest mudelite võimekus ja tööriistakutsed erinevad. Küll aga saab vältida olukorda, kus ainus protsessikirjeldus asub ühe pakkuja visuaalses tööriistas. Leping peab andma masinloetava ekspordi andmetest, konfiguratsioonist ja vajalikust auditiloost.

Väljumise test tuleks teha piloodi ajal, mitte lepingu lõpus. Asutus võib eksportida ühe töövoo, käivitada selle alternatiivse mudeliga ja mõõta kvaliteedi ning kulu erinevust. Kui test ebaõnnestub, on lukustus nähtav enne ulatuslikku kasutuselevõttu.

07Eesti avalik sektor saab kasutada sama kontrollnimekirja

Lõuna-Austraalia memorandum ei loo Eestile õiguslikke kohustusi. See annab aga praktilise näite, kuidas poliitiline koostööteade võib olla palju laiem kui hilisem projekt. Eesti asutus peaks strateegilise partnerluse ja konkreetse hanke teadlikult lahus hoidma.

Enne AI-pilooti tasub avaldada vähemalt eesmärk, vastutaja, andmekategooriad, inimese järelevalve ja edukriteerium. Kõrge mõjuga teenuses lisanduvad sõltumatu testimine, vaidlustamise võimalus ja ligipääsetav selgitus inimesele, keda otsus puudutab.

Kulude puhul ei piisa ühe päringu hinnast. Arvestada tuleb integratsiooni, kvaliteedikontrolli, turbe, logimise, mudelivahetuse ja ametnike ajaga. Eelarvele saab seada mahupiiri ning automaatse teavituse, et ekslik tsükkel või kasutuse kasv ei tekitaks ootamatut arvet.

Järgmised sisulised tõendid Lõuna-Austraalias oleksid nimetatud piloot, avalik hankedokument, mõjuhinnang, eelarverida ja mõõdetav tulemus. Seni on memorandum kavatsus uurida koostööd. Selle väärtus või risk sõltub tingimustest, mida praegu veel avalikult ei ole.

08Juhtimine peab muutuma iga etapiga rangemaks

Kõik AI-katsed ei vaja sama kontrollikoormust. Avaliku veebiteksti sisemine kokkuvõte on väiksema mõjuga kui automaatne soovitus toetuse, tervishoiuteenuse või järelevalvemenetluse kohta. Asutus saab jagada töö nelja etappi: uurimine, piiratud piloot, tootmiskatse ja püsiv teenus ning nõuda igas etapis tugevamat tõendit.

Uurimisel piisab sünteetilistest või avalikest andmetest ja väikesest kulupiirist. Piloot vajab nimetatud vastutajat, turvatesti ning kvaliteedi võrdlust. Püsivas teenuses lisanduvad teenustase, intsidentide käsitlus, regulaarne sõltumatu hindamine ja toimiv alternatiiv juhuks, kui mudel või teenus muutub.

Selline väravatega mudel võimaldab koostöömemorandumi võimalusi uurida ilma, et poliitiline teade muutuks vaikimisi tootmisloaks. Iga järgmine samm peab põhinema eelmise etapi tulemustel ja dokumenteeritud otsusel. See annab ka avalikkusele arusaadava vastuse, millal oli tegemist katsega ja millal hakkas AI mõjutama päris teenust.

Läbipaistev etapivahetus vähendab ka vastutuse hajumist.

09Korduma kippuvad küsimused

Mida Lõuna-Austraalia ja OpenAI allkirjastasid?

Nad allkirjastasid koostöömemorandumi, mis loob raami oskuste, teaduse, investeeringute, avalike teenuste ja AI-taristu võimaluste uurimiseks. Avaldatud info ei kirjelda konkreetset ostulepingut.

Kas OpenAI investeerib Lõuna-Austraaliasse?

Võimaliku investeeringu uurimine on üks koostööteema. Investeeringu summat, projekti, asukohta ega siduvat otsust pole kinnitatud.

Kas osariik hakkab kasutama ChatGPT-d avalikes teenustes?

Avalike teenuste ja töövoogude võimalusi uuritakse, kuid konkreetset ametit või kasutusjuhtu pole nimetatud. Seetõttu ei saa veel hinnata andmeid, mudelit ega mõju elanikele.

Millised kaitsed valitsus lubas?

Peaministri sõnul peavad algatused olema inimese juhitud ning vastama õigus-, privaatsus-, turbe- ja hankekaitsetele. Nende praktilised kontrollid peavad selguma projekti- ning lepingudokumentides.

Miks on väljumisplaan avalikule sektorile oluline?

See võimaldab teenusepakkujat vahetada ja säilitada andmed, juhised ning auditijälje. Ilma väljumisplaanita võib ühe piloodi integratsioon muutuda pikaajaliseks ökosüsteemilukustuseks.

Mida peab AI-hanke auditilogi sisaldama?

Logi peaks siduma kasutaja, sisendi, mudeli ja juhise versiooni, andmeallikad, väljundi ning inimese otsuse. Logile endale tuleb määrata ligipääs ja säilitustähtaeg.

Mida tähendab memorandum Eesti asutusele?

See ei mõjuta Eesti õigust, kuid pakub kasuliku kontrollnimekirja partnerluse ja hanke eristamiseks. Eesti asutus peaks enne pilooti määrama eesmärgi, andmereeglid, kululae, auditijälje ja mudelivahetuse tee.