Eesti tahab anda tehisaru agentidele digitaalse ID: järgmine samm e-riigi usaldusmudelis

Eesti plaanib luua tehisaru agentidele ametlikud digitaalsed identiteedid ehk AI ID-koodid. Eesmärk on võimaldada agentidel tegutseda inimese, ettevõtte või organisatsiooni nimel nii, et iga tegevus oleks kontrollitav, piiratud ja auditeeritav.

Peaminister Kristen Michal toetas Eesti.ai nõukoja ettepanekut liikuda edasi lahendusega, mis annaks tehisaru agentidele omaette tuvastatava digitaalse identiteedi. Valitsuse sõnumi järgi ei tähenda see, et agent saaks inimese õigused üle võtta. Vastupidi: eesmärk on vältida olukorda, kus kasutaja peab andma tehisaru abilisele liiga laia ligipääsu oma kontodele, andmetele ja teenustele.

Michali sõnul hakkab tehisaru tulevikus üha rohkem tegema meie nimel digitaalseid toiminguid: koostama aruandeid, valmistama ette deklaratsioone või suhtlema infosüsteemidega. Seetõttu peab olema selge, kes tegutseb, kelle nimel, milliste õigustega ja kes lõpuks vastutab.

Kui plaan teoks saab, võib Eestist saada esimene riik maailmas, mis loob tehisaru agentidele ametliku digitaalse identiteedi. See sobitub Eesti varasemasse e-riigi loogikasse: digitaalne ID, X-tee, digiallkiri ja auditijälg tegid avalikud teenused kiiremaks, kuid säilitasid kontrolli selle üle, kes mida tegi.

Miks tehisaru agendile üldse ID-d vaja on?

Tänased tehisaru agendid liiguvad suunas, kus nad ei piirdu enam teksti kirjutamisega. Nad võivad broneerida aega, täita vorme, teha ostusoovitusi, koostada dokumente, küsida andmeid infosüsteemist või algatada makset. See muudab neid tööriistadest tegutsejateks.

Probleem tekib volitusega. Kui inimene tahab, et agent tegutseks tema nimel, on lihtsaim viis anda agendile juurdepääs olemasolevale kontole. See on mugav, kuid ohtlik. Agent võib näha liiga palju andmeid, teha liiga laiaulatuslikke toiminguid või tegutseda viisil, mida kasutaja ei kavatsenud.

Eesti pakutav lahendus püüab selle probleemi lahutada väiksemateks osadeks. Agent saaks oma ID, millele saab anda konkreetse ja piiratud volituse. Näiteks võib agent ainult vaadata üht registrikirjet, koostada dokumendimustandi, valmistada ette makse või tegutseda kuni kindla rahalise piirini. Sellisel juhul ei pea kasutaja loovutama kogu oma digitaalset identiteeti.

See on oluline põhimõtteline muutus. Tehisaru agent ei tegutse enam varjatult inimese konto taga, vaid nähtava ja kontrollitava esindajana.

Eesti e-riigi loogika: usaldus sünnib jälgitavusest

Eesti digiriik on seni põhinenud tuvastusel, volitusel ja jälgitavusel. Inimene saab end digitaalselt tõendada, allkirjastada dokumente, kasutada riigi teenuseid ja näha, kes on tema andmeid vaadanud. Sama loogika tahetakse nüüd laiendada tehisaru agentidele.

Kui agent tegutseb avalikus teenuses, peab süsteem nägema vähemalt nelja asja: milline agent tegutses, kelle nimel ta tegutses, milline volitus tal oli ja milline oli tegevuse tulemus. Ilma selleta muutub vastutus hägusaks.

Näiteks kui tehisaru abiline koostab ettevõtte maksudeklaratsiooni mustandi, on oluline eristada, kas ta ainult koostas teksti, sisestas andmed, esitas deklaratsiooni või algatas makse. Need ei ole sama riskiga tegevused. ID ja volituste mudel peaks lubama neid õigusi eraldi määrata.

Selline lähenemine võib aidata vältida üht agentide ajastu suurimat probleemi: „anna mulle kõik õigused, muidu ma ei saa aidata”. Riigi vaates peab abiline saama ainult nii palju õigusi, kui konkreetseks ülesandeks vaja.

AI ID-kood ei tähenda agendi isikustamist

Oluline on rõhutada, mida Eesti ettepanek ei tee. Tehisaru agent ei muutu inimeseks, kodanikuks ega iseseisvaks õiguslikuks vastutajaks. ID ei anna talle moraalset staatust ega õigust tegutseda oma huvides.

Digitaalne ID on tehniline ja õiguslik kontrollivahend. See aitab siduda tegevuse konkreetse agendi, kasutaja, volituse ja logiga. Kui midagi läheb valesti, peab olema võimalik uurida, kas viga tuli kasutaja juhisest, agendi käitumisest, teenusepakkuja süsteemist või infosüsteemi reeglitest.

See eristus on tähtis, sest tehisaru agentide üle peetav rahvusvaheline arutelu liigub kahes suunas. Üks suund räägib identiteedist ja volitusest. Teine räägib õigusvõimest ja vastutusest. Eesti ettepanek kuulub esimesse kategooriasse: agent peab olema tuvastatav, mitte õiguslikult inimesega võrdsustatud.

Vastutus jääb kõige raskemaks küsimuseks

• Tehisaru agentide suurim probleem ei ole ainult tehniline, vaid õiguslik. Kui agent teeb vea, kes vastutab? Kas kasutaja, kes agenti volitas? Ettevõte, kes agendi lõi? Platvorm, mis agendi käitas? Infosüsteem, mis toimingu vastu võttis? Või riik, kes andis identiteedi ja volituse raamistiku? Georgia Institute of Technology professorid Mark Riedl ja Deven Desai on kirjutanud, et arvutiteadus ja õigus kasutavad mõlemad mõistet „agent”, kuid tarkvaraline agent ei ole sama, mis inimagent. Inimagent võib vastutada rahaliselt või isegi kriminaalselt. Tarkvaraline agent ei saa samal viisil karistust kanda.

See tähendab, et agentide õigusi ei saa käsitleda samamoodi nagu inimese volitust. Kui inimene annab teisele inimesele käsundi, saab käsundisaaja oma tegude eest vastutada. Kui inimene annab ülesande tarkvarale, tuleb vastutus siduda inimeste ja organisatsioonidega, kes tööriista loovad, käitavad, volitavad või kasutavad.

Eesti AI ID-kood võib aidata vastutuse jälge selgemaks teha, kuid see ei lahenda kogu vastutuse probleemi. Selleks on vaja õiguslikke reegleid, teenusetingimusi, kindlustusloogikat, auditit ja vaidluste lahendamise korda.

Agent võib teha kahju siis, kui ta muudab maailma seisu

Tehisaru tekstivastus on üks asi. Agent, kes teeb ostu, esitab dokumendi, muudab andmeid või algatab makse, on teine asi. Kahju risk muutub suuremaks siis, kui agent ei anna enam lihtsalt soovitust, vaid teeb toimingu, millel on õiguslik või majanduslik tagajärg.

E-kaubanduses on see juba nähtav. Kui agent ostab kasutaja nimel vale toote, maksab liiga palju või valib vale müüja, ei ole küsimus enam ainult selles, et tekst oli ebatäpne. Raha liikus ja tehing toimus.

Seetõttu on erasektor hakanud vastutuse küsimust ise lahendama. Mõned kaupmehed loevad kasutaja volitatud agendi tehtud ostu kasutaja enda kinnitatud tehinguks. American Express on valinud teise tee ja lubanud teatud tingimustel kaitsta klienti agendi vea eest, kui agent edastab kaardiomaniku autentitud ostukavatsuse.

Need kaks mudelit näitavad, et turg ei ole veel kokku leppinud, kuidas agentide vigu käsitleda. Üks pool ütleb: kui sa volitasid agendi, vastutad sina. Teine ütleb: kui agent tegutseb kontrollitud protokolli kaudu, saab osa riski võtta maksevõrk või teenusepakkuja.

Kohtud on juba näidanud, et „AI eksis” ei pruugi vabandus olla

Kuigi tehisaru agentide õigus on alles kujunemas, on kohtud juba andnud ettevõtetele hoiatavaid signaale. Kanada juhtumis pidi Air Canada hüvitama kliendile kahju, kui ettevõtte vestlusrobot andis vale infot leinapileti soodustuse kohta. Kohus ei nõustunud mõttega, et vestlusrobot on ettevõttest eraldiseisev üksus, kelle vea eest lennufirma ei vastuta.

Saksamaal otsustas Müncheni kohus, et Google võib vastutada AI Overview’ valeväidete eest, sest tehisaru koostatud kokkuvõte ei ole pelgalt kolmanda osapoole link, vaid Google’i enda esitatud sisu. Google on teatanud, et kaebab otsuse edasi, kuid juhtum näitab selgelt, kuhu õigus liigub: kui ettevõte disainib, käitab ja levitab tehisaru süsteemi, võib tal olla vastutus selle väljundi eest.

Need juhtumid puudutavad peamiselt vestlusroboteid ja otsingukokkuvõtteid, mitte täielikke agente. Kuid suund on oluline. Mida rohkem süsteem tegutseb, seda raskem on ettevõttel öelda, et vastutus kuulub üksnes kasutajale või masinale.

Eesti lahendus võib olla praktilisem kui „digitaalne isik”

Mõnes riigis ja mõnes õiguspoliitilises arutelus on pakutud radikaalsemaid lahendusi: näiteks tarkvara juhitud „mitteinimlikke korporatsioone” või piiratud vastutusega automaatseid üksusi. Sellised ideed püüavad anda agentidele või nende ümber loodud juriidilistele struktuuridele võimaluse tegutseda majanduses omaette üksustena.

Eesti suund näib ettevaatlikum ja praktilisem. Fookus ei ole sellel, et tehisaru agent saaks omaette juriidilise isiku staatuse. Fookus on sellel, et agenti saaks infosüsteemides tuvastada ning tema volitusi saaks täpselt piirata.

See sobib paremini Eesti e-riigi senise ülesehitusega. Digiriik ei vaja tingimata „robotkodanikke”. Ta vajab selget mehhanismi, kuidas masinlik abiline saab inimese nimel teha ainult lubatud toiminguid ning jätta igast sammust kontrollitava jälje.

Tehnilised standardid arenevad samal ajal

Eesti algatus ei teki tühja koha peale. Rahvusvaheliselt arendatakse juba lahendusi, mis püüavad anda agentidele tuvastatava nime, kontrollitava identiteedi ja turvalise suhtlusviisi.

OWASP-i Agent Name Service on DNS-ist inspireeritud raamistik, mille eesmärk on aidata agentidel üksteist turvaliselt avastada ja tuvastada. Lahendus kasutab muu hulgas avaliku võtme taristut, struktureeritud kirjeldusi ja protokollide vahekihte. Samuti on pakutud agentide autentimise ja volitatud delegeerimise raamistikku, mis laiendab seniseid OAuthi ja OpenID Connecti loogikaid agentide eripäradele.

Need on peamiselt tehnilised ja platvormipõhised lahendused. Eesti huvi on riiklikum: kuidas siduda agent olemasoleva digiriigi, õiguste, volituste ja vastutusega. Kui need kaks suunda kokku saavad, võib sündida laiem usalduskiht, kus agent ei ole ainult tehniliselt leitav, vaid ka õiguslikult ja halduslikult arusaadav.

Avaliku sektori jaoks on küsimus eriti tundlik

Erasektoris võib agent teha ostu või koostada dokumendi. Avalikus sektoris võib ta puutuda kokku terviseandmete, maksude, registrite, toetuste, lubade ja järelevalvega. Sellistes töövoogudes peab volitus olema eriti täpne.

Kui agent aitab taotleda ehitusluba, peab olema selge, kas ta ainult kogub dokumente, täidab vormi, suhtleb ametnikuga või esitab taotluse. Kui agent aitab terviseandmetega, peab olema selge, millist teavet ta tohib näha ja kas ta võib seda edastada. Kui agent koostab deklaratsiooni, peab olema eristatud mustand ja lõplik esitamine.

Eesti RIA juures käivitatud Aruait / Reason Reserve’i arutelud käsitlevadki vajadust luua usaldus- ja valitsemiskiht avaliku sektori agentidele. Projekti kokkuvõtte järgi on keskne probleem see, et riigil puudub veel õiguslik, tehniline ja halduslik taristu, millega suhelda kodanike või ettevõtete nimel tegutsevate autonoomsete süsteemidega.

See näitab, et AI ID-kood ei ole ainult pressisõnum. Selle taga on laiem küsimus, kuidas e-riik muutub ajastul, kus osa toiminguid ei algata enam otse inimene, vaid tema volitatud tarkvaraline esindaja.

Mis võib valesti minna?

AI ID-kood võib tuua kontrolli, kuid see ei eemalda riske. Esimene risk on liigne usaldus. Kui agent on ametliku ID-ga, võib kasutaja või infosüsteem eeldada, et ta on turvaline. Tegelikult näitab ID ainult seda, kes agent on ja millised õigused tal on. See ei garanteeri, et agent teeb häid otsuseid.

Teine risk on volituste keerukus. Inimene ei pruugi aru saada, mida ta agendile lubab. Kui õiguste andmise kasutajaliides on segane, tekib sama probleem nagu küpsiste või rakenduse õigustega: inimene vajutab nõustumist, mõistmata tagajärgi.

Kolmas risk on auditijälje üleküllus. Kui kõik on logitud, kuid keegi ei suuda logisid mõtestada, ei teki päris vastutust. Auditijälg peab olema kasutatav nii vaidluste lahendamisel kui ka järelevalves.

Neljas risk on piiriülene kasutus. Kui Eesti loob agentidele ID, kuid teine riik või teenusepakkuja seda ei tunnista, jääb lahendus osaliselt siseriiklikuks. Euroopa tasandil tuleb see siduda eIDAS 2.0, digitaalse identiteedikukru, AI Acti ja andmekaitse nõuetega.

Eesti võib standardit kujundada, kui liigub kiiresti

Eesti tugevus on e-riigi kogemus ja usaldustaristu. Kui riik suudab tehisaru agentide identiteedi siduda olemasoleva digitaalallkirja, volituste, registrite ja auditijäljega, võib sellest saada mudel, mida teised riigid jälgivad.

Väikese riigi eelis on kiirus. Eesti saab katsetada piiratud kasutusjuhtudega: näiteks dokumendimustandid, andmete vaatamine, avalduse ettevalmistamine või madala riskiga toimingud kindla rahalise piiriga. Kui piloodid töötavad, saab õigusi järk-järgult laiendada.

Samas on esimese riigi eelis ainult siis väärtuslik, kui lahendus on usaldusväärne. Halb esimene versioon võib tekitada vastupidise tulemuse: inimesed kardavad agente, ametnikud väldivad neid ja ettevõtted ei taha vastutust võtta.

Kokkuvõte

Eesti plaan luua tehisaru agentidele digitaalne ID on loogiline järgmine samm e-riigi arengus. Kui masinad hakkavad tegutsema inimese, ettevõtte või organisatsiooni nimel, peab riik suutma näha, kes tegutseb, kelle nimel, milliste õigustega ja kes vastutab.

See ei ole tehisaru isikustamine. See on volituste ja vastutuse korrastamine. Agent ei saa inimeseks, kuid ta saab tuvastatavaks esindajaks, kelle tegevust saab piirata ja hiljem kontrollida.

Kõige suurem väärtus on õiguste täpsustamine. Inimene ei pea andma agendile kogu oma digitaalset identiteeti. Ta saab anda konkreetse ülesande jaoks piiratud õiguse: vaata andmeid, koosta dokument, valmista ette makse, kuid ära esita seda ilma kinnitust saamata.

Kui Eesti selle hästi lahendab, võib AI ID-koodist saada sama oluline usalduskiht nagu digiallkiri ja X-tee olid varasemas e-riigis. Kui lahendus jääb ainult loosungiks, ei kao põhiprobleem kuhugi: agendid tegutsevad edasi inimeste kontode taga, liiga laiade õigustega ja liiga hägusa vastutusega.

Korduma kippuvad küsimused

Mida tähendab tehisaru agendi digitaalne ID?

See tähendab ametlikku digitaalset identiteeti, mille abil saab tehisaru agent infosüsteemis tuvastatavalt tegutseda inimese, ettevõtte või organisatsiooni nimel.

Kas Eesti annab tehisaru agentidele isikuõigused?

Ei. Plaan ei anna agentidele inimõigusi ega iseseisvat õigusvõimet. Eesmärk on tuvastamine, piiratud volitused ja auditijälg.

Miks agent ei võiks lihtsalt kasutada inimese kontot?

Kui agent kasutab inimese kontot, võib ta saada liiga laia ligipääsu andmetele ja teenustele. Oma ID võimaldab anda agendile ainult konkreetse ülesande jaoks vajaliku õiguse.

Milliseid õigusi võiks agendile anda?

Näiteks võib agent saada õiguse vaadata kindlat andmestikku, koostada dokumendimustand, valmistada ette deklaratsioon või algatada makse kindla rahalise piirini.

Kes vastutab, kui agent teeb vea?

See on üks keerulisemaid küsimusi. ID aitab näha, mis juhtus ja kelle nimel agent tegutses, kuid vastutus tuleb siduda inimese, ettevõtte, teenusepakkuja ja õigusraamistikuga.

Miks see on Eesti jaoks oluline?

Eesti digiriik põhineb usaldusel, digitaalsel tuvastusel ja auditijäljel. Kui tehisaru agendid hakkavad avalikes ja eraõiguslikes teenustes tegutsema, peab sama usaldusloogika laienema ka neile.