Turvalisus
Anthropic avaldas FlashProve’i, et tõendada vastuse pärinemist kindlast mudelist
Anthropicu ja teaduspartnerite FlashProve seob vastuse kindlate mudelikaaludega. Uurimisprototüüp ei tõenda vastuse õigsust ning autorite katses oli GPU-aja lisakulu umbes 70–95 korda.
Toimetaja Kristjan Krimm · Avaldatud · 5 min lugemist
- Olulisus
- Sihtrühm
- Kõik
- Allikaid
- 4
- Esmaallikas
- Anthropic

Arengulugu
Turvalisus
Viimase 60 päeva seismograaf: 139 signaali. Joone kõrgus näitab olulisust.
Mis juhtus
Anthropicu ja teaduspartnerite FlashProve seob vastuse kindlate mudelikaaludega. Uurimisprototüüp ei tõenda vastuse õigsust ning autorite katses oli GPU-aja lisakulu umbes 70–95 korda.
Miks see loeb
Mudeli ostja võiks tulevikus kontrollida teenusepakkuja lubadust kasutatud kaalude kohta. Praegu tuleb eristada krüptograafilise protokolli garantiid, tarkvara teostust ja vastuse sisulist kvaliteeti; prototüüp ei ole valmis üldotstarbeline API-audit.
Sisukord
Lühidalt
4 põhipunkti- Anthropic ja teaduspartnerid avaldasid 2. novembril FlashProve’i uurimisprototüübi koos koodi ja tehniliste materjalidega.
- Krüptograafiline tõend võimaldab kontrollida vastuse vastavust kindlatele mudelikaaludele ilma kaale avaldamata.
- Autorite katses oli tõendamise GPU-aja kulu ligikaudu 70–95 korda tavapärase inferentsi võrdlusalusest suurem.
- Tõend ei kinnita vastuse faktitäpsust ega ohutust ning prototüübi tehniline katvus on piiratud.
FlashProve käsitleb mudelite vahendusteenuse kliendi jaoks keerulist küsimust: kuidas teada, milline mudel vastuse tegelikult arvutas? Vastuse hea stiil või veenev enesekirjeldus ei ole selleks piisav. Prototüübi eesmärk on siduda arvutuse tulemus kontrollitava kohustusega kasutada kindlaid kaale.
Selle loo alus on Anthropicu ja partnerite uurimistöö, mitte valmis tarbijateenus. Buildrya hinnangul on peamine väärtus võimalikus auditeeritavuses. Samal ajal tuleb hoida eraldi mudeli päritolu, arvutuse kontroll ning vastuse sobivus päris otsuse tegemiseks.
Mudeli nimi logis ja krüptograafiline tõend annavad eri kindluse
Teenus võib päringu logisse kirjutada valitud mudeli nime. Selline kirje on kasulik töövoo jälgimiseks, kuid klient sõltub endiselt sellest, et logi kirjeldab tegelikku käitamist. FlashProve püüab anda sõltumatult kontrollitava seose kokkulepitud kaalude ja väljundi vahel.
Ametliku repositooriumi järgi avaldab tõendaja esmalt kaaludega seotud identifikaatori. Seejärel saab kontrollija vastuse kohta tõendi, mida on võimalik kontrollida mudelikaale saamata. Arhitektuuri peitmine ei ole sama eesmärk mis kaalude varjamine.
Sellise mehhanismi kasutamiseks peab ostja teadma ka seda, millise lubadusega identifikaator seostub. Kui kontrollija saab küll kehtiva tõendi, kuid ei tea, millist mudeliversiooni kohustus tähistab, ei vasta tehniline kontroll veel hanketingimusele. Päritoluahel vajab arusaadavat seost teenuse lubaduse ja kontrollitava objekti vahel.
Katses tõendati piiratud arvutust
Tehniline raport kirjeldab katset Llama 4 Mavericku neljabitise versiooniga ning kuni 1024 tokeni kontekstiga. Võrdlus kasutab tavalise inferentsi jaoks vLLM-i. GPU-aja kordaja kirjeldab konkreetset ülesehitust ja võrdluskoormust, mitte kõigi mudelite universaalset tõendamise hinda.
Autorid piiravad tõendatavat arvutust täisarvulise mudeli ja ahne dekodeerimisega. Seetõttu ei saa tulemust lihtsalt laiendada igale ujukomaarvutusega või juhusliku valikuga toodetud vastusele. Ka pika vestlusajaloo tõendamine ei ole sama mis avaldatud lühikese konteksti katse.
Ostja jaoks tähendab see, et tõendi olemasolust peab edasi küsima, mida täpselt kaeti. Kas kontroll puudutas kõiki vajalikke väljundiosi, milliseid sisendeid see hõlmas ning milline mudeli teostus arvutati? Auditi dokument peab neid piire kirjeldama sama selgelt kui edukat kontrollitulemust.
Formaalne tõestus ei kata automaatselt kogu tarkvara
Avaldatud materjalid sisaldavad Leanis kirjeldatud protokolli ja turvaomadusi. Autorid eristavad seda kiirest käivitatavast koodist ning nimetavad teostuse ja formaalse kirjelduse vastavust üheks kontrollimist vajavaks piiriks. Ka ametlik GitHubi projekt tähistab end hooldamata uurimisartefaktina.
See on praktiliselt oluline iga organisatsiooni jaoks, kes kaalub prototüübi ümber teenuse ehitamist. Lahtine lähtekood annab võimaluse kontrollida ja parandada, kuid ei taga iseenesest hooldust, turvauuendusi või sobivust soovitud koormusele. Need kohustused peavad olema teenuse plaanis eraldi kaetud.
Piloot võiks alata kontrollitud näidisega ja kirjeldada täpselt, millist tulemust taasesitati. Alles seejärel saab hinnata, kas sama meetod sobib teise mudeli, pikema sisendi või vajaliku töökiirusega. Ühe avaldatud näite õnnestumine ei asenda sellist laiendamise kontrolli.
Õige mudel võib anda vale vastuse
Mudeli päritolu tõendamine ei lahenda vastuse sisulist hindamist. Kui mudel teeb arvutusvea, kasutab aegunud infot või soovitab sobimatut tegevust, võib tema päritolu olla siiski korrektselt tõendatud. Kontroll vastab siis küsimusele, kelle arvutus see oli, mitte kas soovitust tuleb järgida.
Hankes võiks eristada kolme kontrolli. Esiteks lepinguline lubadus mudeli ja muudatuste teavitamise kohta, teiseks päringu jälgitavus ning kolmandaks vajaduse korral tugevam tehniline päritolutõend. Kõrval peab säilima väljundi kvaliteedi ja riskide hindamine konkreetse ülesande jaoks.
Ka auditivalimi ulatus vajab põhjendamist. Kui tulevane teenus tõendaks vaid osa vastuseid, tuleks määratleda, mida nende põhjal kogu liikluse kohta järeldatakse. Väikese kontrollitud valimi põhjal ei tohi kuulutada kõiki ülejäänud päringuid automaatselt samaväärseks.
Praegune praktiline otsus ei ole kõigi mudelipäringute tõendamise kohene nõudmine. Mõistlikum on kaardistada, millistes töövoogudes mudeli salajane asendamine muudaks tulemust või lepingulist vastutust. Sellest saab tuletada tulevase tehnilise tõendi vajaduse ja vastuvõetava lisakulu.
KKK
Korduma kippuvad küsimused
Kas FlashProve on valmis Claude’i API funktsioon?
Siin käsitletakse eraldi uurimisprototüüpi. Sellest ei saa järeldada, et tavaline Claude’i API vastus saab juba automaatselt sama tõendi.
Kas tõend avaldab mudeli kaalud?
Süsteemi eesmärk on kaale varjata. Kontrollija peab saama kontrollida seost kokkulepitud mudeli ja vastuse vahel kaale endale saamata.
Kas tõendatud vastus on tingimata õige?
Ei. Päritolu tõend ja vastuse sisuline kvaliteet vastavad erinevatele küsimustele.
Miks ei saa 70–95-kordset lisakulu igale mudelile üle kanda?
See pärineb kindlast katseülesehitusest ja võrdlusest. Teine mudel, arvutusviis või konteksti pikkus vajab eraldi mõõtmist.
Mida saab teenuse ostja juba praegu teha?
Ostja saab täpsustada mudeliversiooni lubadust, muudatustest teavitamist ja päringulogide seost tööülesandega. Tulevase krüptograafilise tõendi nõue peaks lähtuma konkreetsest auditivajadusest.