ÜRO ja Punane Rist nõuavad siduvaid reegleid autonoomsetele relvadele

01Lühidalt

• ÜRO peasekretär António Guterres ja Rahvusvahelise Punase Risti Komitee president Mirjana Spoljaric uuendasid 25. augustil üleskutset sõlmida autonoomsete relvade kohta õiguslikult siduv instrument.
• Nad soovivad keelata süsteemid, mille toimeid ei saa piisavalt mõista, ennustada ega seletada, ning relvad, mis on loodud või mida kasutatakse inimeste vastu.
• Teisi autonoomseid relvi ei soovitata täielikult keelata, vaid piirata sihtmärkide, aja, koha, jõu ulatuse ja kasutuskeskkonna järgi.
• Pöördumine ei ole uus seadus ega riikide kokkulepe. Järgmine poliitiline proovikivi on 16.–20. novembril Genfis toimuv CCW ülevaatekonverents.

ÜRO ja Rahvusvaheline Punase Risti Komitee ehk ICRC tõid autonoomsete relvade reeglid taas rahvusvahelise relvastuskontrolli päevakorda. Guterres ja Spoljaric nõuavad, et riigid alustaksid läbirääkimisi õiguslikult siduva instrumendi üle, mis ühendaks keelud ja piirangud.

Sõnumi ajastus on oluline. 31. augustist 4. septembrini jätkab Genfis tööd surmavate autonoomsete relvasüsteemide valitsusekspertide rühm. 7.–9. septembril koguneb ettevalmistuskomitee ning 16.–20. novembril toimub tavarelvade konventsiooni ehk CCW seitsmes ülevaatekonverents. Just viimaselt ootavad pöördumise autorid teed ametlike läbirääkimisteni.

Ootus ei võrdu tulemusega. Riigid ei ole siduva instrumendi läbirääkimisi veel alustanud ning novembris ei sünni automaatselt lepet. Konverents võib anda mandaadi, seada ajakava või jääda poliitiliste erimeelsuste tõttu üldsõnaliseks.

02Ettepanek ühendab kaks keeldu ja rea piiranguid

Üleskutse ei taotle iga autonoomse funktsiooniga relva üldkeeldu. Esimene kavandatud keeld puudutab süsteeme, mille toimeid ei saa nende kasutuskontekstis piisavalt mõista, ennustada ega seletada. ICRC seob selle juhuslike mõjude ning rahvusvahelise humanitaarõiguse nõuete täitmise raskusega.

Teine keeld puudutab autonoomseid relvi, mis on kavandatud või mida kasutatakse jõu rakendamiseks otse inimeste vastu. Siin on keskne eetiline väide: masina arvutus ei peaks otsustama, milline inimene elab või sureb.

Muude süsteemide puhul pakutakse piiranguid. Kasutus tuleks siduda kindlate sõjaliste sihtmärkidega ning piirata operatsiooni kestust, geograafilist ala, rakendatava jõu ulatust ja olukordi, kus relv töötab. Pöördumine nimetab ka vajadust välistada kasutamine asustatud aladel ning tagada õigeaegne aktiveerimine, peatamine ja neutraliseerimine.

Need kategooriad vajavad läbirääkimistel täpseid tehnilisi ja õiguslikke teste. Mõiste „ennustatav“ võib laborikatse, simuleeritud lahinguvälja ja muutuva päriskeskkonna puhul tähendada erinevat kindlustaset. Samuti tuleb määrata, kui palju ja millises punktis peab inimene süsteemi käitumist kontrollima.

03Kehtiv sõjaõigus juba kohaldub, kuid ei lahenda kogu küsimust

Autonoomsed relvad ei asu õiguslikus tühimikus. ICRC rõhutab, et rahvusvaheline humanitaarõigus kehtib kõigi relvade ja sõjapidamisviiside kohta. Eristamise, proportsionaalsuse ja ettevaatusabinõude nõuded ei kao, kui tarkvara osaleb sihtmärgi valikus.

Uue instrumendi argument on täpsus. Üldised kohustused ei ütle üheselt, milline autonoomia on lubamatu, millist inimese kontrolli nõuda või kuidas piirata süsteemi kasutuskeskkonda. Siduvad keelud ja piirangud muudaksid need piirid riikidele, relvajõududele ja arendajatele kontrollitavamaks.

ICRC ja ÜRO ei kinnita, et täielikult autonoomne relv oleks juba iseseisvalt inimese sihtmärgiks valinud ja teda rünnanud. Avalikkuses on olnud kinnitamata teateid ning autonoomseid funktsioone kasutatakse konfliktides, kuid tõenduslävend on siin oluline. Tulevikuriski reguleerimise vajadus ei sõltu tõestamata juhtumi esitamisest faktina.

04Otsustustugi ei ole sama mis autonoomne rünnak

Sõjalise AI arutelus satuvad ühe nimetuse alla väga erinevad süsteemid. Tarkvara võib analüüsida sensoriandmeid, järjestada võimalikke objekte või soovitada tegutsemist nii, et inimene kinnitab iga rünnaku. Teises otsas võib relv pärast aktiveerimist ise otsida, valida ja rünnata sihtmärki ilma uue inimotsuseta.

Õiguslik ja praktiline risk suureneb eriti seal, kus süsteemi väljund liigub soovitusest otse jõu kasutamiseni. Pelk märge „inimene ahelas“ ei tõesta sisulist kontrolli, kui operaatoril on otsuseks sekundeid, puudub vajalik kontekst või automaatset soovitust on töökorralduse tõttu raske vaidlustada.

Hankija peaks seetõttu kirjeldama otsustuspunktid, mitte ainult toodet „AI-toega“ või „autonoomsena“. Kes valib sihtmärgi? Kes kinnitab jõu kasutamise? Millist infot inimene näeb? Kui kaua saab ta otsustada? Kas süsteemi saab katkestada pärast aktiveerimist? Nende vastused määravad riski paremini kui turundusnimetus.

05Eesti jaoks algab valmisolek nõuetest ja logidest

Eesti ei pea ootama rahvusvahelise instrumendi lõplikku sõnastust, et parandada oma hanke- ja arenduspraktikat. Esimene samm on klassifitseerida iga funktsioon: vaatlus, tuvastus, prioriseerimine, soovitus, sihtmärgi valik või jõu rakendamine. Funktsioonid vajavad erinevaid lubasid ja kontrolle.

Kõrge riskiga töövoos peaks inimese kinnitamine olema tähenduslik. Operaator vajab piisavat aega, alternatiivset infot ja tegelikku võimalust soovitus tagasi lükata. Automaatselt eeltäidetud kinnitusnupp, mida peaaegu alati vajutatakse, ei anna sama kontrolli.

Teine nõue on auditeeritavus. Sündmuslogi peab näitama, milline mudeli- ja tarkvaraversioon töötas, millist sensorisisendit kasutati, millise kindlusega objekt tuvastati, kes otsuse kinnitas ning millal relv aktiveeriti või peatati. Logi peab olema kaitstud tagantjärele muutmise eest.

Kolmas nõue on ohutu katkestamine. Süsteemil peab olema dokumenteeritud viis missiooni piirata, sidekatkestusele reageerida ja pärast aktiveerimist neutraliseeruda. Vastutus ei tohi hajuda mudeli arendaja, integraatori, ülema ja operaatori vahel: iga otsustuspunkt vajab nimetatud omanikku.

06November mõõdab poliitilist tahet, mitte tehnoloogia valmimist

CCW ülevaatekonverentsi tulemust saab hinnata konkreetsete märkide järgi. Kõige tugevam oleks mandaat õiguslikult siduva instrumendi läbirääkimiseks koos ajakava ja selgete töömõistetega. Nõrgem tulemus oleks mittesiduv deklaratsioon või eksperdirühma töö pikendamine ilma läbirääkimismandaadita.

Ka läbirääkimiste algus ei annaks kiiret ega lihtsat jõustamist. Riigid peavad kokku leppima autonoomia, ennustatavuse ja inimese kontrolli lävendites, arvestades samal ajal kiiresti muutuvat tarkvara. Kontrollimehhanism peab töötama süsteemide puhul, mille kriitiline käitumine sõltub nii mudelist, sensoritest, reeglitest kui kasutuskeskkonnast.

Organisatsiooni praktiline järeldus on siiski kohe rakendatav: dokumenteerige inimese otsustusõigus, tehnilised piirid ja vastutus enne autonoomse funktsiooni kasutuselevõttu. Kui süsteemi käitumist pole võimalik piisavalt ennustada või katkestada, ei peaks seda jõu rakendamise töövoogu lubama.

07Korduma kippuvad küsimused

Kas ÜRO keelas autonoomsed relvad ära?

Ei. Tegemist on ÜRO peasekretäri ja ICRC presidendi ühise üleskutsega. See ei ole lepe, resolutsioon ega uus siduv õigusnorm.

Kas ettepanek keelaks kõik sõjalised AI-süsteemid?

Ei. Keeldu soovitatakse ettearvamatutele süsteemidele ning relvadele, mis on loodud või mida kasutatakse inimeste vastu. Teiste autonoomsete relvade jaoks pakutakse kasutuspiiranguid.

Millised piirangud on laual?

Pöördumine nimetab sihtmärkide liigi, geograafilise ala, kestuse, jõu ulatuse ja kasutuskeskkonna piiramist ning õigeaegse aktiveerimise, peatamise ja neutraliseerimise tagamist.

Kas olemasolev rahvusvaheline õigus juba kehtib?

Jah. Rahvusvaheline humanitaarõigus kehtib sõltumata relva tehnoloogiast. Uue instrumendi eesmärk oleks täpsustada autonoomsete süsteemide keelde, piiranguid ja kontrollinõudeid.

Kas täielikult autonoomne relv on juba inimese tapnud?

ÜRO ja ICRC pöördumine ei kinnita sellist juhtumit. Konfliktides kasutatakse autonoomseid funktsioone ja avaldatud on kinnitamata teateid, kuid nende põhjal ei saa iseseisvat sihtmärgi valikut faktina esitada.

Millal võib regulatsioonis toimuda järgmine muutus?

Oluline järgmine hetk on CCW seitsmes ülevaatekonverents Genfis 16.–20. novembril 2026. Seal võivad riigid anda mandaadi siduva instrumendi läbirääkimiseks, kuid tulemus pole ette otsustatud.

Mida peaks Eesti hankija juba praegu nõudma?

Nõuded peaksid katma tähendusliku inimese kinnituse, selged kasutuspiirid, muutmiskindla sündmuslogi, katkestamise ja neutraliseerimise ning nimetatud vastutaja iga kriitilise otsustuspunkti jaoks.