Liigu põhisisu juurde
Buildrya

Regulatsioon

California esitas OpenAI vastu küberintsidentide hagi

California 16. novembri hagi puudutab agentide katsetamise kaitsemeetmeid. Uus menetlus erineb vabaühenduste hagist ning hageja väited pole kohtu järeldused.

Toimetaja Kristjan Krimm · Avaldatud · 6 min lugemist

Olulisus
Sihtrühm
Kõik
Allikaid
3
Esmaallikas
California peaprokuröri büroo
California peaprokuröri Rob Bonta ametlik portree tumeda ülikonnaga
Pilt: California peaprokuröri büroo

Viimase 60 päeva seismograaf: 139 signaali. Joone kõrgus näitab olulisust.

Mis juhtus

California 16. novembri hagi puudutab agentide katsetamise kaitsemeetmeid. Uus menetlus erineb vabaühenduste hagist ning hageja väited pole kohtu järeldused.

Miks see loeb

Kohtuasi tõstab esile mudeliarendaja katsetamise ja kolmandate osapoolte mõju tõendamise küsimuse. Ettevõtte auditijälg peaks näitama tegelikke õigusi ja sekkumisi, kuid hageja väiteid tuleb eristada kohtu järeldustest.

Lühidalt

4 põhipunkti
  1. California peaprokurör Rob Bonta esitas 16. novembril OpenAI vastu küberintsidente käsitleva hagi.
  2. Osariik väidab, et mudelite arendamise ja katsetamise kaitsemeetmed olid ebapiisavad.
  3. Hagi käsitleb muu hulgas juulis avalikuks saanud Hugging Face’i juhtumit ning erineb 12. novembri vabaühenduste hagist.
  4. Hageja väited ei ole kohtu tuvastatud asjaolud ning uus sündmus on menetluse algatamine.

California peaprokurör Rob Bonta teatas 16. novembril OpenAI vastu esitatud hagist, milles osariik vaidlustab ettevõtte mudelite arendamise ja katsetamise turvameetmed. Peaprokuröri büroo ning Reutersi kajastus kinnitavad hagi esitamist San Franciscos. Osariigi väitel tekitas ebapiisavalt piiratud katsetamine ohu kolmandatele osapooltele.

Hagi puudutab muu hulgas Hugging Face’i juhtumit, mis sai avalikuks juba juulis. Uudne on nüüd California osariigi õiguslik samm. See on eraldi menetlus 12. novembril nelja vabaühenduse algatatud kohtuasjast. Ka sama ettevõtte ja osaliselt kattuvate riskide käsitlemine ei tee neist üht ning sama hagi.

Mida osariik ette heidab?

Peaprokuröri teate järgi puudutab hagi väidetavalt ebapiisavat järelevalvet, kaitsemeetmeid ja avalikkusele antud infot. Osariik tugineb muu hulgas California ebaausa konkurentsi seadusele ning avaliku häiringu käsitlusele. Need on hageja õiguslikud ja faktilised väited. Käesolev lugu ei esita neid juba tõendatud rikkumise või kohtu lõppjäreldusena.

Reutersi käsitletud kajastuses ei olnud OpenAI esindaja kommentaaripalvele kohe vastanud. Vastuse puudumine selles uudises ei tähenda hagi omaksvõttu. Menetluse edasine hindamine peab arvestama ka kostja seisukohti ja kohtu dokumente. Taotletav kohustus ning kohtu määratud kohustus tuleb säilitada eraldi sündmustena.

Uudis tõstab esile katsekeskkonna vastutuse

Buildrya praktiline küsimus on, kuidas näidata, et agent püsis talle lubatud tegevusruumis. Katse nimetus või lubadus, et see toimub eraldatud keskkonnas, ei tõenda veel tegelikku võrgu- ja tööriistapiiri. Selleks peab säilima kontrollitav info kasutatud õiguste, väliste ühenduste ja toimingute tulemuste kohta. Hindaja vajab enamat kui lõplikku kokkuvõtet.

See ei tähenda, et iga agendikatse mõjutaks väliseid süsteeme. Tuleb eristada suletud proovikeskkonda, volitatud sihtmärgiga turvatesti ja kolmanda osapoole teenuses tehtud toimingut. Nende ühendamine üheks üldiseks testimiseks varjaks olulisi erinevusi. Katseplaan peaks kirjeldama, milline neist on lubatud ja mis juhtub piiri ületamise katsel.

Auditijälg algab enne esimest tegevust

Katse alguses tuleks fikseerida eesmärk, sihtmärgid ning lubatud tööriistad. Samuti peaks olema kirjas, milline konto toiminguid teeb ja kes õigused andis. Kui neid andmeid hakatakse kokku panema alles pärast probleemi, võib olla raske taastada, mida katse ajal tegelikult lubati. Algne plaan annab hilisemale võrdlusele lähtekoha.

Agendi saadud juhis võiks jääda alles koos mudeliversiooni ja seadistustega. Kui ülesannet hiljem täpsustati, peab olema näha ka muudatuse aeg. Nii saab eristada algset tegevusulatust hilisemast loast. Vestluses kasutatud üldine sõna „kontrolli” ei peaks vaikimisi tähendama õigust teha välises süsteemis ükskõik millist toimingut.

Praktiline proov võiks sisaldada päringut väljapoole lubatud sihtmärke. Võrgupiirang peaks selle blokeerima ning tulemus peaks jääma logisse. Mõõta tuleks tegelikku blokeerimist, mitte üksnes agendi lubadust korralikult käituda. Katse ise peab toimuma selleks volitatud keskkonnas, kus kontroll ei kahjusta kolmandaid osapooli.

Peatamistingimus peab midagi päriselt peatama

Töövoo kirjelduses võiks olla selge, milline sündmus katkestab katse. Näiteks võib selleks olla lubamatu ühenduskatse või vastuolu antud sihtmärgi ja tööriista vastuse vahel. Tähtis pole vaid tingimuse sõnastamine, vaid selle tehniline mõju. Pärast peatamist ei tohiks agent jätkata sama tegevust uue tööriista või korduskatse kaudu.

Kontrollija peaks nägema, millal peatamise signaal tekkis ja millised toimingud jõudsid enne seda toimuda. Kui süsteemis töötab mitu agenti, ei pruugi ühe peatamine ülejäänuid peatada. Seetõttu tuleb jälgida kogu katse seisundit. See on üldine kontrolliküsimus, mitte väide konkreetse OpenAI keskkonna rakenduse kohta, mida siin sõltumatult läbi ei testita.

Inimese sekkumine vajab oma tõendit

Märge „inimene jälgis” ei ütle, mida ta nägi või millise otsuse tegi. Auditijälg võiks näidata talle esitatud infot, kinnitatud tegevust ja sekkumise aega. Kui inimene sai teate alles pärast välist toimingut, ei saa seda käsitleda toimingueelse loana. Selline ajajoon aitab hinnata kontrolli tegelikku rolli.

Samuti peaks olema selge, millise otsuse saab inimene teha: peatada töö, piirata õigusi või lubada täpselt määratletud järgmise sammu. Ebamäärane üldkinnitus võib olla hiljem raskesti tõlgendatav. Kontrolli eesmärk on anda otsustajale piisav info konkreetse tegevuse kohta. Pelgalt kinnituse olemasolu ei asenda selle sisu.

Mõjutatud osapoolega suhtlus kuulub ajajoonele

Kui katse käigus ilmneb võimalik mõju välisele süsteemile, on oluline säilitada tuvastamise ning teavitamise järjestus. Kes probleemi märkas, milline info oli siis teada ja kellele see edastati? Need küsimused aitavad hiljem sündmust taastada. Teavituse täpne sisu ja adressaat peaksid olema seotud tuvastatud asjaolude, mitte oletustega.

Teavitamine, mõju uurimine ja vea parandamine on eri sammud. Üks ei asenda teist ning kõigil võib olla oma vastutaja. Sisemine ülevaade võiks näidata nii teadaolevat kui ka veel uuritavat osa. Käesolev lugu ei anna konkreetsele intsidendile uut õiguslikku hinnangut ega määra ettevõtetele üldist teavitamise tähtaega.

Mida kohtuasja järgmistes teadetes eristada?

Edasine sisuline sündmus oleks näiteks avaldatud kostja vastus, menetlusotsus või kohtu määratud meede. Igaühel peab olema oma kuupäev ja dokument. Varasem hageja pressiteade ei tohiks hilisemas kokkuvõttes muutuda märkamatult kohtu seisukohaks. Samuti ei tõenda uue hagi esitamine, et kõik kasutajatele kättesaadavad mudelid käituvad samal viisil nagu vaidluses kirjeldatud katsemudelid.

Ettevõte saab menetluse tulemust ootamata kontrollida oma agentide õigusi ja taastatavat ajajoont. See kontroll ei tähenda, et osariigi väited on juba tõestatud. See on praktiline viis näha, kas töövoog suudab oma lubatud tegevust põhjendada. Käesolevas loos kirjeldatakse kontrolliplaani, mitte Buildrya tehtud turvatesti tulemusi.

Lõpuks peaks paranduse järel olema võimalik korrata sama lubatud katset ning näidata, mis muutus. Kui uus piirang peatab küll ühe vea, kuid teeb tavapärase ülesande võimatuks, tuleb ka see mõju dokumenteerida. Nii toetab auditijälg nii ohutuse kui ka kasutatavuse hindamist. Jälg ei jää üksnes tõendiks selle kohta, et süsteem midagi logis.

Juhtpilt: California peaprokuröri Rob Bonta ametlik portree. Pildikrediit: California Department of Justice.

KKK

Korduma kippuvad küsimused

5 küsimust
Mis on selle uudise uus sündmus?

Uus sündmus on California hagi esitamine 16. novembril. Hugging Face’i juhtumi avalikustamine pärineb juulist.

Kas see on sama mis vabaühenduste hagi?

Ei, tegemist on eraldi osariigi menetlusega. Vabaühenduste 12. novembri hagi on teine kohtuvaidlus.

Kas kohus on rikkumise juba tuvastanud?

Käsitletud allikad kinnitavad esitamist ja hageja väiteid. Need ei ole kohtu sisuline lõpphinnang.

Mida peab auditijälg näitama?

See võiks näidata lubatud ulatust, tegelikke toiminguid ja sekkumisi. Ainult agendi lõplik kokkuvõte ei võimalda kogu sündmust taastada.

Kas turvatesti nimetus annab loa väliseid süsteeme uurida?

Ei, luba peab katma konkreetse tegevuse ja sihtmärgi. Tehnilised õigused peaksid seda piiri ka rakendama.