Anthropic läheb Valgesse Majja arutama Fable 5 ja Mythos 5 mudelite peatamist

Anthropicu juhid kohtuvad Washingtonis USA valitsuse esindajatega, et arutada ettevõtte uusimate mudelite Fable 5 ja Mythos 5 peatamist. Kohtumine toimub pärast seda, kui USA kaubandusministeerium käskis ettevõttel sulgeda välisriikide kodanike ligipääsu mudelitele, viidates riiklikule julgeolekule.

Reutersi andmetel on vaidluse keskmes kartus, et Anthropicu uued mudelid võivad sattuda välisriikide sõjaväeluure, eeskätt Hiina ja Venemaa, kasutusse. Korraldus tugineb ekspordikontrolli õigusraamistikule ning seda kirjeldatakse kui esimest nii otsest sekkumist tehisaru mudelite kättesaadavusse.

Anthropic reageeris korraldusele mudelite üleilmse peatamisega. Ettevõte rõhutas, et valitsus ei nõudnud kõigi kasutajate blokeerimist, vaid välisriikide kodanike ligipääsu peatamist. Kuna sellist eristust ei olnud võimalik samal päeval usaldusväärselt ja globaalselt rakendada, suleti Fable 5 ja Mythos 5 kõigile klientidele.

Kohtumine USA kaubandusministeeriumi ja Valge Maja esindajatega võib otsustada, kas Anthropic saab mudelid uuesti kasutusse tuua või jääb keeld kehtima. Ettevõtte juht Dario Amodei on oodatud aruteludesse koos teiste Anthropicu tippjuhtidega.

Vaidlus algas mõni päev pärast avalikku väljalaset

Anthropic esitles Fable 5 mudelit kui seni kõige võimekamat üldkasutusse lastud süsteemi. Ettevõte rõhutas samal ajal, et sellise võimekuse avalikuks tegemine tuleb riskidega. Mythos 5 on seotud sama mudeliperekonnaga, kuid selle ligipääs oli piiratum ning mõeldud valitud organisatsioonidele, sealhulgas osale USA valitsusasutustele ja turvauurijatele.

Fable 5 on kirjeldatud kui avalik versioon, millele on lisatud täiendavad kaitsemeetmed. Mythos 5 on kitsamalt kättesaadav versioon, mille kontrollimehhanismid ja kasutusrežiim erinevad avalikust mudelist.

Mõni päev pärast Fable 5 väljalaset teatas USA valitsus, et on saanud infot võimalikust kaitsepiirete läbimurdmisest. Sellist juhtumit nimetatakse inglise keeles jailbreak’iks: kasutaja leiab viisi, kuidas panna mudel tegema midagi, milleks see ei olnud mõeldud või mida kaitsemehhanismid peaksid takistama.

Anthropic väidab, et talle anti ainult suulist infot võimaliku kitsalt piiritletud nõrkuse kohta. Ettevõtte hinnangul ei õigusta selline väide mudelite järsku eemaldamist turult, eriti kui sarnaseid probleeme esineb ka teiste arendajate mudelites.

USA ametnikud näevad laiemat julgeolekuriski

USA valitsuse vaade on karmim. Reutersi teatel nägi kaubandusministeerium ohtu, et Fable 5 ja Mythos 5 võimekust saab kasutada välisriikide sõjaväe- või luurestruktuuride huvides. Mure ei puuduta ainult üksikut vestlusroboti vastust, vaid mudelite võimalikku abi tarkvaravigade leidmisel, küberrünnete ettevalmistamisel või keerukate tehniliste töövoogude kiirendamisel.

Kaubandusministeeriumi juhib Howard Lutnick. Tema haldusalas on ekspordikontroll, mis on viimastel aastatel muutunud USA tehnoloogiapoliitika üheks peamiseks tööriistaks. Seni on fookuses olnud eeskätt kiibid, tootmisseadmed ja andmekeskuste taristu. Anthropicu juhtum näitab, et sama loogika liigub nüüd mudelite endi juurde.

Pentagoni ja Valge Maja ametnikud on rõhutanud riikliku julgeoleku tähtsust. Nende sõnum on, et kõige võimsamaid süsteeme ei saa käsitleda tavalise tarkvaratootena, kui need võivad anda eelise vaenulikele riikidele.

Anthropic tahab tõendeid ja selget protsessi

Anthropic ei vaidle vastu sellele, et võimsate mudelitega kaasnevad riskid. Ettevõte on ise aastaid rõhutanud tehisaru ohutust ja vajadust tugevama riskihindamise järele. Vaidluse tuum on selles, kas USA valitsuse sekkumine oli proportsionaalne ja läbipaistev.

Ettevõtte sõnul ei saanud ta piisavalt konkreetseid tehnilisi tõendeid, mis õigustaksid Fable 5 ja Mythos 5 järsku peatamist. Anthropic soovib kohtumisel näha rohkem dokumentatsiooni väidetava nõrkuse kohta ning esitada oma kaitsemeetmeid.

Business Insideri andmetel osalevad aruteludes Anthropicu turbe- ja kaitsemehhanismide eest vastutavad töötajad ning USA kaubandusministeeriumi ja riikliku küberdirektori büroo esindajad. Eesmärk on leida lahendus, mis lubaks mudelid vähemalt osaliselt uuesti kasutusse tuua.

Praegu ei ole selge, kas kohtumise järel muutub midagi kohe. Mudelite taastamine võib sõltuda sellest, kas Anthropic suudab valitsust veenda lisakaitsemeetmetes, kasutajate kontrollis või piiratud ligipääsumudelis.

Turvaeksperdid kardavad, et kaitsjad jäävad tööriistadest ilma

USA otsus on tekitanud tugevat vastuseisu küberturbe kogukonnas. Avatud kirjas kutsusid kümned turvajuhid, teadlased ja tehnoloogiaettevõtete töötajad kaubandusminister Howard Lutnickit piiranguid tühistama. Allakirjutanute seas on meediakajastuste järgi inimesi Nvidiast, Zoomist, Mercedes-Benzist, Adobe’ist ning endisi Google’i ja USA valitsuse turvatöötajaid.

Kirja põhiargument on lihtne: kui parimad mudelid võetakse kaitsjatelt ära, kuid vastased liiguvad edasi, nõrgeneb USA ja selle liitlaste küberturvalisus. Allakirjutanute sõnul vajavad turvameeskonnad tugevaid mudeleid haavatavuste leidmiseks, koodi kontrollimiseks, intsidentide uurimiseks ja kaitsetöö kiirendamiseks.

Kirjas palutakse valitsusel luua avatud, teaduslik ja läbipaistev protsess tehisaru riskide hindamiseks. See on oluline nõue, sest praegune juhtum paistab turule järsu ja osaliselt seletamata otsusena. Kui arendajad ei tea, milline riskihinnang võib viia mudeli sulgemiseni, muutub kogu sektor ebakindlamaks.

The Next Webi teatel kirjutasid ligikaudu 100 küberturbevaldkonna esindajat, et Fable 5 keeld võib aidata ründajaid rohkem kui kaitsjaid. Nende hinnangul ei kao ohtlikud võimalused maailmast, kui üks Ameerika mudel peatatakse; kasutajad võivad liikuda Hiina või muude alternatiivsete mudelite juurde.

Ekspordikontroll jõudis mudelite tasemele

Anthropicu juhtum võib kujuneda pretsedendiks. Kui USA valitsus suudab peatada mudeli kasutuse välisriikide kodanike jaoks, peavad kõik suuremad arendajad arvestama, et kõige võimsamad süsteemid võivad tulevikus kuuluda ekspordikontrolli alla.

See muudab ärimudelit. Rahvusvahelised kliendid, teadusasutused ja ettevõtted peavad hakkama hindama, kas Ameerika mudelile rajatud töövoog võib ootamatult katkeda. Ka Ameerika ettevõtete sees võib tekkida probleem: suur osa tehnoloogiasektori töötajatest ei ole USA kodanikud. Kui ligipääs sõltub kodakondsusest, tuleb ümber kujundada arendus, turbekontrollid, klienditugi ja sisemised tööriistad.

Snyki turvaanalüüs rõhutas, et korralduse formaalne siht oli välisriikide kodanike ligipääs, kuid praktiline tulemus oli globaalne sulgemine. Sama järeldus on turu jaoks keskne: kui teenusepakkuja ei suuda eristada kasutajaid piisavalt kiiresti, muutub osaline keeld kogu teenuse peatamiseks.

Valge Maja üldine AI-joon ja Anthropicu juhtum lähevad vastuollu

Trumpi administratsioon on seni andnud märku võrdlemisi ettevõtlussõbralikust ja vähem reguleerivast tehisaru poliitikast. Valge Maja on rõhutanud Ameerika tehnoloogilist juhtpositsiooni, innovatsiooni ja majanduslikku kasu. Anthropicu juhtum näitab aga, et riiklik julgeolek võib selle joone kiiresti ümber pöörata.

See vastuolu tekitab arendajates ebakindlust. Ühelt poolt oodatakse ettevõtetelt kiiret innovatsiooni ja maailmaturu vallutamist. Teiselt poolt võib valitsus peatada kõige võimsama toote, kui tekib kahtlus, et seda saab kasutada Ameerika huvide vastu.

Tehnoloogiapoliitika keskne küsimus muutub seetõttu konkreetsemaks: millal on mudel piisavalt võimas, et seda käsitleda eksporditava julgeolekukaubana? Ja kes otsustab, kas risk on piisavalt tõsine?

Anthropic ja valitsus vajavad uut usaldusmehhanismi

Vaidlus on keeruline ka seetõttu, et Anthropic on olnud üks tugevamaid ohutuskeskse lähenemise eestkõnelejaid. Ettevõte on toetanud mõtet, et kõige võimsamad süsteemid vajavad eraldi riskihindamist, punase tiimi teste ja kontrollimehhanisme.

Kui just sellise ettevõtte mudel suletakse valitsuse korraldusega, tekib kaks võimalikku tõlgendust. Ühe järgi näitab see, et riskid ongi nii suured, et isegi ettevaatlik arendaja ei suuda neid täielikult maandada. Teise järgi näitab see, et valitsusel puudub läbipaistev ja usaldusväärne protsess ning poliitiline sekkumine võib olla liiga järsk.

Mõlemal juhul on vaja selgemat mehhanismi. Kui mudel leitakse ohtlikuks, peab olema teada, kes hindab, millised tõendid esitatakse, millised parandused on piisavad ja kuidas ligipääs taastatakse. Vastasel juhul jääb iga uus tippmudel õiguslikku hallalasse.

Euroopa vaatest on see hoiatav näide

Euroopa ettevõtetele ja riikidele on Anthropicu juhtum selge hoiatus. Kui kriitilised töövood sõltuvad USA mudelitest, võib ligipääs muutuda USA riikliku julgeoleku otsusega. See ei ole ainult tehniline ega äriline risk, vaid geopoliitiline risk.

Euroopa arutelu tehnoloogilise suveräänsuse üle saab sellistest juhtumitest hoogu juurde. Mistral AI, Aleph Alpha, Euroopa pilvealgatused ja riiklikud andmetaristu projektid ei konkureeri ainult hinna ja kvaliteedi põhjal. Neid hinnatakse ka selle järgi, kas nad pakuvad poliitiliselt kindlamat ligipääsu.

Samas ei saa Euroopa lihtsalt Ameerika mudeleid kõrvale jätta. Tippmudelite võimekus, arendustempo ja ökosüsteem on endiselt suuresti USA ettevõtete käes. Küsimus on pigem selles, millistes töövoogudes võib kasutada parimat kättesaadavat mudelit ja millistes tuleb eelistada kontrollitavamat lahendust.

Mis võib edasi juhtuda?

Kohtumise järel on kolm peamist võimalust.

Esimene võimalus on kompromiss: Anthropic lisab kaitsemeetmeid, lubab täiendavat järelevalvet ja saab mudelid piiratud tingimustel uuesti avada. See oleks turule kõige rahustavam lahendus.

Teine võimalus on pikem peatamine. Sel juhul muutub Fable 5 ja Mythos 5 juhtum teistele arendajatele hoiatuseks, et valitsus võib sekkuda ka pärast avalikku väljalaset.

Kolmas võimalus on uue litsentsirežiimi teke. Mudelite kasutus võib hakata sõltuma kasutaja riigist, kodakondsusest, sektorist ja kasutusjuhust. See sarnaneks kiipide ja kaitsetehnoloogia ekspordikontrollile, kuid oleks tarkvarateenuste puhul palju raskemini jõustatav.

Kõigil juhtudel jääb küsimus samaks: kuidas kaitsta riiklikku julgeolekut nii, et kaitsjad, teadlased ja ettevõtted ei kaotaks ligipääsu tööriistadele, mida nad vajavad turvalisemate süsteemide ehitamiseks?

Kokkuvõte

Anthropicu kohtumine Valge Maja ja USA kaubandusministeeriumi ametnikega on rohkem kui ühe mudeli ligipääsuvaidlus. See on katse otsustada, kuidas Ameerika Ühendriigid hakkavad kohtlema kõige võimsamaid tehisaru süsteeme: kas need on pilveteenused, tarkvaratooted või ekspordikontrolli alla kuuluv strateegiline võimekus.

Fable 5 ja Mythos 5 peatamine näitas, et praegune süsteem ei ole valmis. Valitsus näeb riikliku julgeoleku riski, ettevõte nõuab täpsemaid tõendeid, turvaeksperdid kardavad kaitsevõime nõrgenemist ja kliendid näevad ootamatut ärikatkestust.

Kui kohtumine lõpeb läbipaistva lahendusega, võib sellest saada alus selgemale tehisaru riskihindamise korrale. Kui lahendus jääb hämaraks, suureneb ebakindlus kogu sektoris. Arendajad, investorid ja rahvusvahelised kliendid peavad siis arvestama, et järgmine tippmudel võib kaduda mitte tehnilise vea, vaid poliitilise otsuse tõttu.

Korduma kippuvad küsimused

• Miks Anthropic kohtub USA valitsusega? Anthropic kohtub USA kaubandusministeeriumi ja Valge Maja esindajatega, et arutada Fable 5 ja Mythos 5 mudelite peatamist ning USA ekspordikontrolli korraldust, mis piiras välisriikide kodanike ligipääsu.
• Mis mudelid on Fable 5 ja Mythos 5? Fable 5 on Anthropicu uus avalikum mudel, millele on lisatud kaitsemeetmed. Mythos 5 on sama mudeliperekonna piiratud ligipääsuga versioon, mida kasutavad valitud organisatsioonid.
• Miks USA valitsus mudelitele piirangu pani? USA valitsus viitas riiklikule julgeolekule ja võimalikule kaitsepiirete läbimurdmisele. Meediakajastuste järgi kardetakse, et mudeleid võiksid kasutada välisriikide sõjaväe- või luurestruktuurid.
• Mida Anthropic väidab? Anthropic väidab, et sai väidetava nõrkuse kohta vaid suulist infot ning et probleem oli kitsas ega õigustanud mudelite järsku peatamist kõigile klientidele.
• Miks turvaeksperdid piirangut kritiseerivad? Turvaeksperdid kardavad, et võimsate mudelite eemaldamine kahjustab kaitsjaid rohkem kui ründajaid. Nende sõnul vajavad küberturbe meeskonnad tugevaid tööriistu haavatavuste leidmiseks ja kaitsesüsteemide parandamiseks.
• Mida see tähendab Euroopa ettevõtetele? Euroopa ettevõtetele tähendab juhtum, et USA tippmudelitele rajatud töövood võivad sõltuda USA ekspordikontrollist ja riikliku julgeoleku otsustest. See suurendab vajadust hinnata tehnoloogilist sõltuvust ja alternatiivseid lahendusi.