Scaleway plaanib Rootsi AMD superarvutit: alternatiivi väärtus selgub töökoormuses

Scaleway teatas Pariisis ai-PULSE’i üritusel Rootsi kavandatavast AI-superarvutist. Ettevõtte 13. oktoobri teadaande järgi on see tema esimene selline projekt väljaspool Prantsusmaad. Reuters kinnitas plaani sõltumatus kajastuses ning kirjeldas AMD-põhise arvutusvõimsuse lisandumist Euroopa äriklientide valikusse.

Uudis on tarnijavaliku seisukohalt oluline, kuid avalikust plaanist ei saa veel teha tellitava teenuse hinnavõrdlust. Buildrya vaates algab tegelik konkurents hetkest, mil klient saab oma mudeli ja töökoormusega võrrelda saadavust, läbivust, viivitust ning üleminekuks kuluvat inseneritööd.

Mida projekt praegu kinnitab?

Scaleway nimetab tehnoloogilise alusena AMD Instinct MI355X kiirendeid ja ROCm-i tarkvaraökosüsteemi. Eesmärk on pakkuda arvutusressurssi idufirmadele, AI-ettevõtetele ja teistele Euroopa organisatsioonidele. See kirjeldab kavandatavat pakkumist, mitte tõendit, et kogu süsteem oleks juba klientide tootmistöödes kasutusel.

Avaldamata on mitu ostja jaoks otsustavat suurust. Kiipide arvu, investeeringu, täpse käivitamisaja ja hinnakirjata ei saa arvutada teenuse turuosa ega ühe mudeli käitamise hinda. Samuti pole põhjendatud nimetada projekti mõnest konkreetsest konkurendist odavamaks või kiiremaks. Selline võrdlus vajab lisaks riistvarale tarkvara ja mõõtmise tingimusi.

Superarvuti on rohkem kui kiip

Partnerite loetelu aitab näha, millest AI-taristu tegelikult koosneb. Bulli roll hõlmab klastri integreerimist ja hooldust, Giga Computing annab serverid ning HPE Networking võrgu. VAST Data katab andmeplatvormi ja Motul jahutusvedeliku. Need rollid näitavad, et arvutuskiirendi on ainult üks terviksüsteemi komponent.

Rakenduse jaoks loeb ka see, kas andmed jõuavad kiipideni piisava kiirusega ja kas hajutatud töö püsib stabiilsena. Võimas kiirendi võib oodata võrku või andmeid; tõhus arvutus võib takerduda väljuva andmeside või salvestuse tingimustesse. Need on hindamisküsimused tulevase kliendi jaoks, mitte väited selles projektis avastatud puuduste kohta.

ROCm-i sobivus tuleb läbi proovida

AMD tarkvara valik loob võimaluse kasutada teistsugust riistvaraplatvormi. Olemasoleva töövoo üleviimise keerukus sõltub siiski kasutatavatest teekidest, mudelist, andmetüüpidest ja kohandatud arvutustest. Riistvara saadavus ei tõenda automaatselt, et varasem rakendus töötab teisel platvormil muutmata kujul või sama jõudlusega.

Mõistlik proov kasutaks esinduslikku osa päris töökoormusest. Tulemus peaks sisaldama nii mudeli kvaliteedi kontrolli kui ka kiirust ja mäluvajadust. Kui üleviimine nõuab eraldi optimeerimist, kuulub selle töö aeg võrdlusse. Nii saab eristada pikemas plaanis kasulikku alternatiivi lahendusest, mille madalam arverida ei kata arenduskulu.

Euroopa asukoht on üks lepingu osa

Rootsi asukoht võib olla oluline organisatsioonile, kes soovib hoida töökoormusi Euroopas või hajutada teenusepakkujate riski. Asukoht üksi ei tõenda aga kõiki andmekaitse-, ligipääsu- ega järjepidevusnõudeid. Klient peab vaatama, kus paiknevad varukoopiad, kellel on haldusõigus ja millised tingimused kehtivad teenuse katkestamisel.

Ka tarnijate mitmekesisuse väärtus sõltub tegelikust teisaldatavusest. Kui mudel, juurutusskriptid ja andmed saab teise keskkonda mõistliku ajaga viia, annab lisapakkuja rohkem läbirääkimisruumi. Kui üleminek nõuab suurt ümberkirjutust, jääb see paindlikkus esialgu teoreetiliseks. Mõlemat saab hinnata alles konkreetse pakkumise ja praktilise katse põhjal.

Millist infot järgmisena oodata?

Olulised järgmised verstapostid on teenuse avamine, dokumenteeritud konfiguratsioonid, kvoodid ja hinnastus. Sama vajalikud on kasutuslood, kus on näha ülesande tüüp ja võrdlustingimused. Pelgalt maksimaalne arvutusvõimsus ei ütle, kuidas süsteem käitub kasutaja tegeliku mudeliga.

Ettevõttel tasub seetõttu käsitleda teadet tulevase valiku lisandumisena. Tänase töövoo eelarvet või kolimisplaani ei saa veel rajada avaldamata tingimustele. Kui need tingimused ilmuvad, on kasulik võrrelda ühe lõpetatud töö või teenindatud päringu kogukulu koos andmete liikumise ja haldusega.

Proovipakkumine peaks näitama ka kolimise hinda

Näiteks võiks olemasolevat mudelit käitav meeskond võtta võrdluseks ühe tervikliku tööpäeva koormusmustri. See hõlmaks lühikesi ja pikki päringuid, tavapärast samaaegsust ning hetki, mil teenus peab nõudluse kasvule reageerima. Ainult ühe suure päringu maksimaalne kiirus ei näita, kuidas sama süsteem täidab kasutajatele antud vastuseaja lubadust. Mõõtmise ajal peab ka väljundi kvaliteet jääma samale nõutud tasemele.

Juurde tuleks arvestada keskkonna ettevalmistus, sõltuvuste kohandamine, andmete ülekanne ja lahenduse hilisem hooldus. Need kulud võivad jaguneda pika kasutusaja peale, kuid ei kao lihtsalt seetõttu, et kiirendi tunnitariif on soodne. Väikese ja ebaühtlase kasutusega meeskonna jaoks võib haldustöö kaaluda rohkem kui suure, püsiva koormusega teenuse puhul.

Samuti tuleks läbi proovida tagasitee. Kui katse ei anna oodatud tulemust, peaks mudeli ja andmed saama senisesse keskkonda tagasi viia ilma tarbetu seisakuta. See muudab arhitektuuride võrdlemise praktiliseks valikuks, mitte ühekordseks kolimisprojektiks. Avaldamata teenusetingimuste korral jääb see prooviplaaniks, mida saab kasutada siis, kui Scaleway pakub konkreetset ligipääsu ja konfiguratsiooni.

Tarnija lubatud kvoot ja tegelik kasutusvalmidus on selles proovis sama tähtsad kui tehniline tippnäitaja. Kui vajalik maht ei ole soovitud ajal saadaval, ei saa odavamat teoreetilist hinda üle kanda päris teenuse eelarvesse.