GPT-5.6 Soli Ultrafast viib tippmudeli kuni 750 tokenini sekundis

01Lühidalt

• OpenAI alustas 13. augustil GPT-5.6 Soli Ultrafast-teenuseklassi piiratud eelvaadet valitud API klientidele.
• Cerebrase riistvaral töötav režiim lubab kuni 750 väljundtokenit sekundis ehk kuni 14 korda Standard-režiimist kiiremat genereerimist.
• Avalikku hinda ja üldise kättesaadavuse kuupäeva ei ole avaldatud ning kiirusnumbrid pärinevad OpenAI-lt ja Cerebraselt.
• Agendi kogu tööaeg ei pruugi paraneda samas suhtes, sest välised API-d, andmebaasid, testid ja inimese kinnitused jäävad endise kiirusega.

OpenAI ja kiibitootja Cerebras näitasid 13. augustil GPT-5.6 Soli uut Ultrafast-teenuseklassi. Piiratud eelvaates olev API-režiim lubab genereerida kuni 750 väljundtokenit sekundis. OpenAI hinnangul on see kuni 14 korda kiirem kui sama mudeli Standard-töötlus.

Uudise sisuline muutus on mudeli ja kiiruse senise kompromissi vähendamine. Reaalajas rakenduse jaoks valiti tavaliselt väiksem mudel, sest võimekas mudel mõtles ja vastas liiga kaua. Ultrafast püüab tuua sama GPT-5.6 Soli kvaliteeditaseme vestluse, kõne, turbeintsidendi ja interaktiivse koodiagendi ajaskaalale.

Teenust ei saa veel käsitleda tavapärase tootena. Juurdepääsu saab väike klientide rühm, võimsus laieneb aja jooksul ning hind ei ole avalik. Need puuduvad andmed määravad, kas režiim sobib ainult ajakriitilisteks eranditeks või ka suure mahuga igapäevatööks.

02Ultrafast kiirendab genereerimist, mitte kogu süsteemi

Väljundtokenite kiirus mõõdab, kui kiiresti mudel pärast vastamise alustamist teksti või koodi väljastab. See ei sisalda tingimata päringu järjekorda, esimese tokeni ooteaega, faili lugemist, välise otsingu kestust ega testide käivitamist. Kasutaja tajub aga kõigi nende etappide summat.

Kodeerimisagent võib ühe ülesande jooksul lugeda hoidlat, muuta faile, käivitada ehituse ja oodata CI-süsteemi. Kui mudeli genereerimine võtab minutist mõne sekundi, kuid testikomplekt kestab kümme minutit, liigub pudelikael lihtsalt järgmisse etappi. Sama kehtib aeglase kliendi-API või inimese kinnituse kohta.

Seetõttu peaks ettevõte eristama mudeliaega, tööriistaaega ja ooteaega. Ultrafasti väärtus on suurim töövoos, kus mudel genereerib palju ning ülejäänud sammud on lühikesed või paralleelsed. Pika välise protsessi kõrval võib kallim teenuseklass anda vähe mõõdetavat võitu.

03Cerebrase wafer-scale arhitektuur vähendab andmeliikumist

Cerebras kasutab terve räniplaadi mõõtu Wafer-Scale Engine'i. Ettevõtte selgituse järgi paikneb 44 gigabaiti SRAM-mälu otse kiibil ning mudeli töö jaotatakse mitme räniplaadi vahel. Eesmärk on vähendada kaaluandmete korduvat liigutamist aeglasema välismälu ja arvutusüksuste vahel.

Tavalises kiirendis võib mäluribalaius piirata järgmise tokeni arvutamist, sest mudeli kaalud tuleb iga sammu jaoks kättesaadavaks teha. Cerebrase lahendus hoiab suurema osa andmevoost kiibile lähemal. See tehniline valik aitab seletada suurt tokenikiirust, kuid ei anna iseenesest infot teenuse hinna, energiakulu või globaalse võimsuse kohta.

OpenAI kasutab seega sama mudeli pakkumiseks eri taristuklasse. Kliendi jaoks muutub mudelinime kõrval oluliseks riistvara ja teenusetase: identne mudel võib eri marsruudil anda väga erineva latentsuse, hinna ja saadavuse.

04Kiirusväited vajavad võrreldavat mõõtmist

Cerebras võrdles Ultrafasti teiste mudelite avalike kiirustega ja teatas ka Humanity's Last Exami ning Codexi töövoo katsetest. Ettevõtte järgi andis Ultrafast ühes majanduslikult väärtuslikke ülesandeid koondanud testis 5,6-kordse otsast lõpuni kiirenduse ilma kvaliteedilanguseta.

Need on Cerebrase mõõtmised ja seadistused. Võrdluse tõlgendamiseks on vaja teada arutlustaset, päringu pikkust, väljundi pikkust, paralleelsust, esimese tokeni latentsust ja seda, kas teenus töötas püsiva või tippkoormuse ajal. Kuni sõltumatuid mõõtmisi pole, ei tohiks 750 tokenit sekundis käsitleda iga päringu garantiina.

Samuti ei tähenda kiirem väljund automaatselt võrdset vastust. Sama mudelinimi vähendab kvaliteedierinevuse riski, kuid teenuse optimeerimine võib mõjutada partiide suurust, tööriistade ajastust või arutluseelarvet. Tootmiskatse peab kontrollima nii vastuse õigsust kui kestust.

05Reaalajas agent saab teha rohkem samme

Väiksem latentsus ei ole ainult kasutajaliidese mugavus. Agent võib sama aja jooksul proovida mitut lahendust, küsida tööriistalt lisainfot ja parandada tulemust. Turbeintsidendi ajal võib see tähendada kiiremat logianalüüsi; koodis aga mitut testi-paranduse tsüklit enne arendaja sekkumist.

Rohkem samme võivad kasvatada ka kulu ja riski. Kui agent saab sekunditega saata kümneid päringuid, peab süsteem kehtestama tööriistakutsete limiidi, kogukulupiiri ja pöördumatute toimingute kinnituse. Kiirus ei asenda õiguste mudelit.

Kõnes või klienditeeninduses on madal latentsus eriti väärtuslik, sest pikk paus muudab vestluse ebaloomulikuks. Samas peab lahendus arvestama kõnetuvastuse, sünteesi, kliendiandmete otsingu ja turvakontrolliga. Mudel on vaid üks lüli.

06Hind otsustab, kuhu Ultrafast sobib

OpenAI ei ole eelvaate hinda avaldanud. Suure jõudlusega eritaristu võib maksta rohkem kui Standard-režiim ning ettevõte peab otsustama, millised päringud vajavad tõesti minimaalset latentsust. Kõigi tööde automaatne suunamine kiireimasse klassi võib olla ebaökonoomne.

Praktiline arhitektuur kasutab marsruuterit. Taustaaruanded, batch-töö ja pikad analüüsid lähevad Standard-režiimi; kliendi ootamist või intsidenti mõjutavad sammud Ultrafasti. Marsruutimise reeglid peavad põhinema mõõdetud väärtusel, mitte üksnes tehnilisel uudsusel.

Kuluvõrdluses tuleb arvestada ka inimese aega. Kui viis minutit oodanud spetsialist saab vastuse kümne sekundiga ja lahendus on sama hea, võib kõrgem API-hind olla põhjendatud. Täielikult taustal töötava ülesande puhul võib sama lisatasu olla tarbetu.

07Eesti ettevõte peaks mõõtma kriitilist rada

Eesti arendustiim saab Ultrafasti sobivust hinnata töövoo kriitilise raja järgi: milline järjestikune samm määrab kasutaja ooteaja või intsidendi lahendamise kestuse. Kui mudel on suurim osa, on test põhjendatud. Kui domineerib andmebaas või väline register, tuleb esmalt parandada seda kihti.

Piiratud eelvaade tähendab, et kohalik saadavus, lepingutingimused ja andmetöötluse piirkond tuleb OpenAI-ga eraldi kinnitada. Avalik teadaanne ei anna alust lubada, et teenus on kohe kõigile Eesti klientidele kasutatav.

Buildrya vaates tasub võrrelda sama agenditööd Standardi ja Ultrafastiga ning lugeda tööriistakutsed eraldi. Edu mõõdik võiks olla lõpetatud ülesanded tunnis, p95 ooteaeg, vigade arv ja kogukulu, mitte üksnes tokenit sekundis.

08Ultrafasti väärtus selgub väljaspool demo

GPT-5.6 Sol Ultrafast näitab, et tippmudeli inferents võib liikuda reaalajas suhtluse lähedale. Cerebrase arhitektuur annab OpenAI-le võimaluse müüa sama mudelit latentsustundliku teenuseklassina, ilma et klient peaks valima väiksema mudeli.

Veel on teadmata hind, laiema juurdepääsu aeg, püsiv kiirus suure koormuse all ja piirkondlik saadavus. Järgmine oluline tõend ei ole suurem tippnumber, vaid sõltumatu otsast lõpuni test, mis näitab, kas kogu töövoo läbilase ja majanduslik tulemus päriselt paranevad.

09Korduma kippuvad küsimused

Mis on GPT-5.6 Sol Ultrafast?

GPT-5.6 Sol Ultrafast on OpenAI API piiratud eelvaates teenuseklass, mis kasutab Cerebrase riistvara sama tippmudeli väga kiireks käitamiseks. OpenAI lubab kuni 750 väljundtokenit sekundis.

Kui palju Ultrafast Standard-režiimist kiirem on?

OpenAI järgi võib Ultrafast genereerida kuni 14 korda Standard-töötlusest kiiremini. Tegelik vahe sõltub päringust, arutlustasemest, koormusest ja sellest, kui suure osa tööajast moodustab mudel.

Kas Ultrafast on kõigile saadaval?

Ultrafast ei ole veel üldiselt saadaval. Eelvaade on avatud valitud klientidele ning OpenAI ja Cerebras lubavad juurdepääsu võimsuse kasvades laiendada.

Kui palju GPT-5.6 Sol Ultrafast maksab?

OpenAI ei ole Ultrafasti avalikku hinda teatanud. Tasuvust ei saa hinnata enne, kui teenuse hind, limiidid ja tegelik töövoo kiirendus on teada.

Kas 750 tokenit sekundis tähendab sama kiiret agenti?

750 tokenit sekundis kirjeldab mudeli väljundi kiirust, mitte kogu agendi tööaega. Failid, API-d, andmebaasid, testid ja inimese kinnitused võivad jääda peamiseks pudelikaelaks.

Milleks Ultrafast kõige paremini sobib?

Ultrafast sobib potentsiaalselt reaalajas kõnesse, interaktiivsesse kodeerimisse, turbeintsidentidesse ja klienditöösse, kus iga sekund mõjutab tulemust. Taustatöö puhul võib Standard-režiim olla kulutõhusam.

Mida peaks Eesti ettevõte enne kasutamist kontrollima?

Eesti ettevõte peaks kontrollima juurdepääsu, andmetöötluse tingimusi, hinda ja piirkondlikku saadavust. Piloot peab mõõtma kogu kriitilist rada, p95 latentsust, kvaliteeti, tööriistakutseid ja kogukulu.