Euroopa Komisjon avas arutelu frontier-AI arendustempo kontrollimiseks

01Lühidalt

• Euroopa Komisjoni president Ursula von der Leyen lubas kutsuda juhtivad frontier-AI laborid arutama, kuidas toetada võimekaimate mudelite arendustempo teadlikku kontrollimist.
• Komisjon soovib teha Kanada, Ühendkuningriigi ja teiste partneritega koostööd mudelite hindamise, kontrollimise, varajase hoiatuse ja AI-turbe alal.
• Kõne ei kehtestanud moratooriumi, uut õigusnormi ega siduvat väljalaskepiiri.
• Ettevõtte jaoks muutuks üldine tempokontroll praktiliseks alles siis, kui see seotakse mõõdetavate võimekuslävendite, sõltumatu hindamise ja ette määratud peatamistingimustega.

Euroopa Komisjoni president Ursula von der Leyen toetas 16. septembri Euroopa Liidu olukorra kõnes mõtet kontrollida võimekaimate AI-mudelite arendustempot. Ta lubas kutsuda peamised frontier-laborid arutelule, et toetada tööstuse samme, mida inglise keeles kirjeldatakse väljendiga „pace the frontier”.

Von der Leyen sidus teema mudelite kasvava kübervõime ja iseenda täiustamist võimaldavate süsteemide riskiga. Komisjoni plaan on teha Kanada, Ühendkuningriigi ja teiste partneritega koostööd mudelite hindamise, kontrollimise, varajase hoiatuse ja AI-turbe valdkonnas.

See on poliitiline suund, mitte uus reegel. Kõnes ei määratud, milline mudel või võimekus kuuluks tempokontrolli alla, kes otsustaks arenduse aeglustamise ega milline õiguslik alus muudaks laborite kokkuleppe siduvaks.

02Euroopa liigub kasutusreeglitelt võimekusväravate poole

EL-i AI-määrus jagab suure osa kohustustest süsteemi riski ja kasutusvaldkonna järgi ning kehtestab üldotstarbelistele mudelitele eraldi nõudeid. Von der Leyeni kõne lisab sellele tulevikku vaatava küsimuse: kas eriti võimeka mudeli arendamisel või väljalaskel peaks olema kontrollpunkt juba enne laialdast kasutust.

Tempokontroll ei pea tähendama kõigi mudelite arenduse peatamist. Praktilisem mudel oleks astmeline: teatud küber-, autonoomia- või enesetäiustamise võimekus käivitab tugevama välise testi, piiratud levitamise või täiendava turbekohustuse. Alles konkreetne lävend võimaldaks ettevõttel teada, millal tema arendusprotsessile uus nõue rakendub.

Komisjoni kõne ei pakkunud selliseid lävendeid. Samuti pole selge, kas arutelule kutsutakse ainult USA juhtivad laborid või ka Euroopa ja teiste piirkondade arendajad. Osalejate valik mõjutab nii legitiimsust kui ka seda, kas kokkulepe suudab konkurentsisurvet päriselt muuta.

03Vabatahtlik kokkulepe võib jääda konkurentsisurvele alla

Frontier-laborid tegutsevad turul, kus uue mudeli varasem väljalase võib anda kasutajaid, arendajaid ja kapitali. Kui üks ettevõte aeglustab ning konkurent mitte, tekib tugev stiimul kokkuleppest kõrvale kalduda. Seetõttu vajab usaldusväärne tempokontroll ühist mõõtmist ja sõltumatut kontrolli, mitte ainult juhtide avalikke lubadusi.

Samas võib liiga jäik süsteem tugevdada juba suurte ettevõtete positsiooni. Kallid auditid, arvutusvõimsuse aruandlus ja pikaajaline väljalaskemenetlus on lihtsamad laboritele, kellel on suured õigus- ja ohutusmeeskonnad. Reeglid peavad seetõttu olema seotud tõendatud riskivõimega, mitte pelgalt ettevõtte nime, mudeli suuruse või treeningkulu umbkaudse hinnanguga.

Rahvusvaheline koostöö on vältimatu, sest Euroopa kasutajad pääsevad ligi ka väljaspool EL-i arendatud mudelitele. Kui nõuded kehtivad ainult Euroopa laboritele, võib arendus liikuda teise jurisdiktsiooni. Kui ligipääsupiirangud seotakse Euroopa turuga, tuleb omakorda otsustada, kuidas hinnata suletud välismudelit ja jõustada reegleid API kaudu pakutava teenuse puhul.

04Kontrollitav värav vajab mõõdikuid ja tagajärgi

Esimene vajalik element on sõltumatu hindamine. Labori enda benchmark võib olla kasulik, kuid ei tõenda, kuidas süsteem käitub tundmatus testis, tööriistadega või pahatahtliku kasutaja käes. Hindajal peab olema piisav juurdepääs mudelile, tööriistadele ja turvameetmetele, säilitades samal ajal ärisaladuse.

Teine element on etapiviisiline kasutuselevõtt. Kõrge riskiga võimekus ei pea minema kohe kõigile API-klientidele. Piiratud piloot, madalamad õigused, võrgu- ja tööriistapiirangud ning tugevam logimine annavad võimaluse avastada probleeme enne laia levitamist.

Kolmas element on ette määratud peatamistingimus. Labor peab enne väljalaset teadma, milline testi tulemus, turvaintsident või kontrollikaotus sunnib levitamist peatama, õigusi vähendama või eelmisele versioonile naasma. Ilma tagajärjeta muutub hindamine lihtsalt aruandeks.

05Eesti ettevõtte jaoks loevad hanketingimused

Eesti ettevõte ei pea ootama rahvusvahelist lepet, et sama loogikat oma hankes kasutada. Võimekale mudelile saab seada väljalasest sõltumatud kontrollväravad: testida oma andmetel, piirata tööriistaõigusi, nõuda muudatuste kinnitamist ja säilitada täielik auditijälg.

Riigi või kriitilise taristu hankes tuleks küsida, milline mudeliversioon läbis hindamise, kas tarnija võib selle vaikimisi välja vahetada ning mis juhtub pärast tõsist intsidenti. Tempokontrolli kõige praktilisem vorm võib olla õigus keelduda uuest mudeliversioonist seni, kuni see on organisatsiooni enda riskistsenaariumides kontrollitud.

Järgmised tõendid on Komisjoni kohtumise osalejad, arutelu kirjalik mandaat ja konkreetsed ettepanekud. Seni ei ole alust väita, et EL oleks mudeliarenduse aeglustanud või kehtestanud uue moratooriumi.

06Korduma kippuvad küsimused

Kas Euroopa Liit peatas frontier-mudelite arenduse?

Ei. Komisjoni president toetas arutelu arendustempo kontrollimise üle ja lubas laborid kokku kutsuda, kuid moratooriumi ega siduvat otsust pole.

Mis on frontier-AI mudel?

Üht universaalset õiguslikku definitsiooni selles kõnes ei antud. Mõiste viitab tavaliselt hetke kõige võimekamatele üldotstarbelistele mudelitele, mille uued võimed võivad tuua laia mõjuga riske.

Kuidas erineb tempokontroll EL-i AI-määrusest?

AI-määrus on kehtestatud õigusraamistik konkreetsete kohustustega. Tempokontroll oli kõnes poliitiline idee tulevaste eriti võimekate mudelite arenduse ja väljalasete jaoks.

Milliseid kontrollimeetmeid Komisjon nimetas?

Von der Leyen nimetas mudelite hindamist, kontrollimist, varajast hoiatust ja AI-turvet. Täpseid teste, lävendeid ega vastutavaid asutusi ta ei määranud.

Mida peaks ettevõte praegu tegema?

Ettevõte saab seada oma mudeliuuendustele testid, õiguste piirid, etapiviisilise levitamise ja tagasipööramise tingimused. See vähendab sõltuvust sellest, millal rahvusvaheline raamistik valmib.