Anthropic avaldas mudeli, mida peeti varem avalikuks kasutuseks liiga võimsaks

Anthropic tõi avalikult kasutusse Claude Fable 5 mudeli, mis põhineb ettevõtte võimsa Mythos-klassi tehisintellektil. Sama mudeliperekond tekitas juba kevadel tähelepanu ja muret, kui selle varasemat versiooni testiti piiratud ringis ning ettevõte kirjeldas seda avalikuks kasutuseks liiga riskantsena.

Claude Fable 5 on sisuliselt turvapiirangutega versioon Claude Mythos 5 mudelist. Anthropic väidab, et Fable 5 on võimekaim tehisintellekti mudel, mille ettevõte on seni üldkasutusse toonud. Samal ajal rõhutab ettevõte, et nii võimeka mudeli avaldamine toob kaasa riske, mistõttu on sellele lisatud täiendavad kaitsemehhanismid küberturbe ja bioloogia valdkonnas.

Uudis näitab, kui keeruliseks on muutunud kõige arenenumate AI-mudelite avaldamine. Mudelid muutuvad järjest võimekamaks tarkvaraarenduses, analüüsis, pikemate ülesannete täitmises ja keerukate töövoogude lahendamises. Samal ajal suureneb surve hinnata, millal mudel võib aidata kaitsta süsteeme ja teadustööd ning millal sama võimekus võib muutuda väärkasutuse riskiks.

Fable 5 on avalik, Mythos 5 jääb piiratud ligipääsuga

Anthropic esitles Claude Fable 5 mudelit avaliku versioonina, millele on lisatud tugevamad piirangud tundlikes valdkondades. Ettevõtte selgituse järgi on Fable 5 ja Mythos 5 sama alusmudeli erinevad kasutusvormid. Fable 5 on mõeldud laiemale kasutajaskonnale, Mythos 5 aga ainult usaldusprogrammi valitud osalistele.

Peamine erinevus seisneb ligipääsus ja kaitsemehhanismides. Claude Fable 5 ei peaks vastama päringutele, mis kuuluvad kõrgema riskiga küberturbe või bioloogia valdkonda. Selliste päringute puhul suunatakse kasutaja vastus piiratumale Claude Opus 4.8 mudelile või keeldutakse vastamisest. Anthropic väidab, et üle 95 protsendi Fable 5 kasutussessioonidest jätkub ilma sellise ümberlülituseta.

Claude Mythos 5 jääb seevastu kättesaadavaks vaid väiksemale valitud kasutajate ringile. Anthropic kirjeldab seda kui usaldusprogrammi, kuhu kuuluvad küberkaitsjad, taristuteenuse pakkujad ja teised organisatsioonid, kellel on põhjendatud vajadus kasutada mudeli täisvõimekust kaitse- või teadustöö eesmärgil.

Ettevõte on teatanud ka kavatsusest laiendada usaldusprogrammi bioloogia valdkonnas, et toetada biomeditsiini ja ravimite avastamisega seotud uurimistööd. Sellisel juhul võidakse osalejatele pakkuda Fable 5 võimekust ilma bioloogia ja keemia kaitsepiiranguteta, kuid küberturbe piirangud jääksid alles.

Miks Mythos tekitas muret?

Claude Mythos tõusis tähelepanu keskmesse kevadel, kui Anthropic andis selle varasema versiooni piiratud ringile testimiseks. Mudeli võimekus tarkvarasüsteemide analüüsimisel ja turvanõrkuste leidmisel tekitas muret, et sama tehnoloogia võib aidata mitte ainult kaitsjaid, vaid ka ründajaid.

Küberturbe puhul on tehisintellekti mõju kahepoolne. Ühelt poolt võib arenenud mudel aidata organisatsioonidel leida haavatavusi, auditeerida koodi, parandada süsteeme ja kiirendada kaitsetööd. Teiselt poolt võivad samad võimed aidata pahatahtlikel osapooltel otsida nõrku kohti, automatiseerida rünnakute ettevalmistust või vähendada tehnilist barjääri, mis varem piiras keerukamate rünnete läbiviimist.

Just see kahetine kasutus muudab Mythos-klassi mudelid tundlikuks. Küsimus ei ole ainult selles, kui hea on mudel programmeerimises või analüüsis. Küsimus on selles, milliseid tegevusi see võimaldab inimestel teha, kui mudel suudab töötada pikalt, järjekindlalt ja osaliselt autonoomselt.

Anthropic on rõhutanud, et Fable 5 suudab töötada inimese antud juhiste põhjal pikema aja jooksul kui varasemad Claude’i mudelid. See tähendab, et mudel saab täita keerukamaid mitmeastmelisi ülesandeid, kuid suurendab ka vajadust kontrollida, millistes valdkondades seda lubatakse kasutada.

Avalik versioon saab tugevamad piirangud

Anthropic püüab avaliku versiooni puhul riske vähendada automaatsete kaitsemehhanismidega. Kui Claude Fable 5 tuvastab, et kasutaja päring puudutab riskantset küberturbe või bioloogia valdkonda, ei kasuta süsteem kõige võimsamat mudelivõimekust, vaid suunab vastuse piiratumale mudelile.

See on kompromiss. Ettevõte soovib tuua uue mudeli laiemale turule, kuid ei taha anda kõigile kasutajatele ligipääsu võimekustele, mida peetakse väärkasutuse seisukohalt liiga riskantseks. Selline lähenemine võib vähendada kahju tekkimise võimalust, kuid see ei kõrvalda kõiki küsimusi.

Business Insideri kajastuse järgi võivad kaitsemehhanismid mõnel juhul blokeerida ka healoomulisi päringuid, näiteks meditsiiniteemalisi küsimusi. See tähendab, et Anthropic on valinud konservatiivsema mudeli: parem piirata osa õiguspäraseid kasutusjuhtumeid kui riskida sellega, et avalik mudel annab liiga ohtlikku teavet.

Selline valik võib tekitada kasutajates rahulolematust, eriti teadlaste, arendajate ja turvaspetsialistide seas, kellel on õigustatud vajadus sügavama analüüsi järele. Samas peegeldab see laiemat suunda kogu tehisintellekti valdkonnas: kõige võimsamate mudelite avaldamine ei ole enam ainult tooteotsus, vaid ka riskijuhtimise ja ühiskondliku vastutuse küsimus.

Hind näitab, et tegemist on tippmudeliga

Claude Fable 5 hinnastamine paigutab selle Anthropic’u kallimate mudelite hulka. Reutersi ja The Verge’i järgi maksab mudeli kasutamine 10 dollarit miljoni sisendtokeni ning 50 dollarit miljoni väljundtokeni kohta. See on märgatavalt kallim kui osa varasemaid Claude’i mudeleid.

Kõrgem hind peegeldab nii mudeli arvutusnõudlust kui ka ettevõtte soovi positsioneerida Fable 5 tipptasemel tööriistana keerukamateks ülesanneteks. Anthropic väidab samas, et mudel võib mõnel juhul olla kogukulult tõhusam, sest suudab ülesandeid lahendada väiksema arvu sammude ja tokenitega.

Ettevõtete jaoks tähendab see, et Fable 5 kasutamist tuleb hinnata sarnaselt teiste kõrge hinnaga AI-tööriistadega. Küsimus ei ole ainult selles, kas mudel on võimekam, vaid kas selle kasutamine annab piisavalt parema tulemuse, et kõrgemat hinda õigustada.

Näiteks tarkvaraarenduses, andmeanalüüsis või keerukates teadmistepõhistes töövoogudes võib võimekam mudel vähendada inimese ajakulu. Samas tuleb kasutust mõõta ja juhtida, sest mahukad või halvasti piiritletud päringud võivad muuta kulud kiiresti suureks.

Küberkaitsjad saavad laiemad võimalused

Anthropic on rõhutanud, et Mythos-klassi mudelite täielikumaid võimalusi vajavad eelkõige küberkaitsjad ja taristuteenuse pakkujad. Ettevõtte andmetel on varasemalt piiratud ligipääsu saanud organisatsioonid leidnud mudeli abil oma süsteemidest tuhandeid kriitilisi turvanõrkusi.

See on tugev argument mudeli kontrollitud kättesaadavuse poolt. Kui võimas AI aitab kaitsta haiglaid, energiaettevõtteid, finantssüsteeme, pilvetaristut või avalikke teenuseid, võib sellest olla ühiskondlikku kasu. Küsimus on selles, kuidas tagada, et sama võimekus ei jõuaks valedesse kätesse.

Usaldusprogrammid on üks võimalik vastus. Sellisel juhul ei anta täisvõimekust kõigile kasutajatele, vaid valitud organisatsioonidele, kellel on kontrollitud identiteet, selge kasutusjuhtum ja kohustus järgida reegleid. See sarnaneb mõnes mõttes ekspordikontrolli või kriitilise tehnoloogia litsentseerimise loogikaga.

Selline mudel ei ole siiski probleemivaba. See tekitab küsimusi läbipaistvuse, võrdse ligipääsu ja turujõu kohta. Kui ainult suured ettevõtted ja riigiasutused saavad kõige võimsamad mudelid, võib väiksematel turvafirmadel, teadlastel ja sõltumatutel ekspertidel olla raskem sammu pidada.

Valitsused ja investorid jälgivad Anthropic’ut tähelepanelikult

Mythos-klassi mudelite avaldamine toimub ajal, mil Anthropic on üks enim jälgitud AI-ettevõtteid maailmas. Ettevõtte väärtus on eraturul kasvanud kiiresti ning seda nähakse ühe peamise konkurendina OpenAI-le, Google’ile ja teistele suurtele mudeliarendajatele.

Reutersi kajastuse järgi on Anthropic’u uued mudelid olulised ka investoritele, sest järjest tugevamate AI-võimekuste demonstreerimine toetab ettevõtte väärtuslugu. Kui Anthropic liigub tulevikus avaliku turu suunas, muutub mudelite võimekus, turvalisus ja äriline kasutatavus investorite jaoks keskseks hindamiskohaks.

Samal ajal jälgivad valitsused, kuidas arenenud AI-mudeleid kasutatakse. Kõige võimsamad mudelid võivad mõjutada küberturvet, biotehnoloogiat, finantsturge, desinformatsiooni ja kriitilist taristut. Seetõttu ei ole mudeli avaldamine enam ainult tehnoloogiaettevõtte sisemine otsus, vaid osa laiemast riikliku julgeoleku ja regulatsiooni arutelust.

Anthropic on ennast seni positsioneerinud ettevõttena, mis räägib AI-ohutusest rohkem kui paljud konkurendid. Fable 5 avaldamine testib seda kuvandit. Ettevõte peab näitama, et suudab korraga pakkuda turu kõige võimekamaid mudeleid ja kehtestada nende kasutusele usaldusväärsed piirangud.

Gaasipedaal on olemas, pidurit mitte

Anthropic’u kaasasutaja Jack Clark on kirjeldanud AI-sektori probleemi kujundlikult: tööstusel on gaasipedaal, kuid mitte piisavalt head piduripedaali. Tema mõte on, et AI-võimekus kasvab kiiresti, kuid ühiskonnal puuduvad veel selged mehhanismid, kuidas tehnoloogia arengut vajaduse korral aeglustada või piirata.

Fable 5 ja Mythos 5 näitavad seda pinget selgelt. Ühelt poolt on tugev surve tuua uued mudelid turule, sest kasutajad, ettevõtted ja investorid ootavad paremaid tööriistu. Teiselt poolt suureneb hirm, et mudelid võivad ületada piiri, kus nende avalik kasutamine muutub teatud valdkondades liiga riskantseks.

Anthropic’u lahendus on astmeline ligipääs: laiemale kasutajaskonnale antakse piirangutega Fable 5, valitud osapooltele aga võimekam Mythos 5. See võib olla praktiline vahevariant, kuid ei lahenda põhimõttelist küsimust: kes otsustab, milline mudel on avalikkusele liiga võimas, ja milliste kriteeriumide alusel?

Avalik debatt alles algab

Claude Fable 5 avaldamine võib saada üheks oluliseks juhtumiks AI-regulatsiooni arutelus. Kui mudel toimib hästi ja kaitsemehhanismid peavad, võib Anthropic tõestada, et väga võimsaid mudeleid saab avalikkusele pakkuda piirangutega. Kui aga ilmnevad tõsised väärkasutuse juhtumid või kaitsepiirangute läbimurded, suureneb surve rangemaks järelevalveks.

Ettevõtete ja arendajate jaoks tähendab see uut ajastut. Kõige võimsamad AI-tööriistad ei ole enam lihtsalt paremad tekstigeneraatorid. Need on agentsemad süsteemid, mis suudavad täita pikemaid ülesandeid, töötada koodiga, analüüsida keerulisi probleeme ja tegutseda kasutaja juhiste alusel pikema aja vältel.

See muudab need väärtuslikuks tööriistaks, kuid ka riskiks. Organisatsioonid, kes võtavad selliseid mudeleid kasutusele, peavad hindama ligipääsuõigusi, andmekaitset, kasutuspiiranguid, auditeeritavust ja seda, millistes valdkondades mudelit kasutada ei tohi.

Kokkuvõte

Anthropic’u Claude Fable 5 avaldamine näitab, et kõige arenenumad AI-mudelid liiguvad üha enam kontrollitud ligipääsu ja kihilise turvamudeli suunas. Sama alusmudel võib olla avalikkusele kättesaadav piirangutega versioonina ning valitud organisatsioonidele laiemate võimalustega usaldusprogrammis.

Fable 5 võib parandada tarkvaraarendust, analüüsi ja keerukate töövoogude automatiseerimist. Samal ajal kinnitab selle avaldamine, et AI-ettevõtted ise näevad oma võimsaimates mudelites riske, mida ei saa enam käsitleda ainult teoreetilistena.

Põhiküsimus ei ole seega ainult selles, kui võimas Claude Fable 5 on. Küsimus on selles, kas ettevõtted, regulaatorid ja ühiskond suudavad kokku leppida, millised kaitsemehhanismid on piisavad, kui tehisintellekti võimekus liigub kiiremini kui seda ümbritsev järelevalve.

Korduma kippuvad küsimused

Mis on Claude Fable 5?

Claude Fable 5 on Anthropic’u avalikult kättesaadav Mythos-klassi tehisintellekti mudel. Ettevõte kirjeldab seda kui kõige võimekamat mudelit, mille ta on seni üldkasutusse toonud.

Mis vahe on Claude Fable 5 ja Claude Mythos 5 vahel?

Fable 5 ja Mythos 5 põhinevad samal alusmudelil, kuid Fable 5-l on tugevamad kaitsepiirangud küberturbe ja bioloogia valdkonnas. Mythos 5 on mõeldud piiratud ligipääsuga usaldusprogrammi valitud osalistele.

Miks peeti Mythos-klassi mudelit riskantseks?

Muret tekitas mudeli kõrge võimekus tarkvarasüsteemide analüüsimisel, turvanõrkuste leidmisel ja pikemate ülesannete autonoomsemal täitmisel. Sellised võimed võivad aidata kaitsjaid, kuid võivad olla väärtuslikud ka pahatahtlikele kasutajatele.

Kuidas Anthropic Fable 5 riske piirab?

Anthropic kasutab kaitsemehhanisme, mis tuvastavad tundlikke küberturbe ja bioloogia päringuid. Sellistel juhtudel suunatakse vastus piiratumale Opus 4.8 mudelile või keeldutakse vastamast.

Miks on Claude Fable 5 avaldamine oluline?

See näitab, et AI-ettevõtted püüavad tuua väga võimsaid mudeleid avalikku kasutusse, kuid koos rangemate ligipääsu- ja turvapiirangutega. See võib kujundada seda, kuidas tulevikus reguleeritakse ja kasutatakse kõige arenenumaid AI-süsteeme.