Apple M6 ja M5 Ultra toovad suuremad AI-mudelid kohalikku tööjaama

01Lühidalt

• Apple M6 on ettevõtte esimene 2 nanomeetri protsessil valmistatud kiip ning jõuab uude Mac minisse.
• M5 Ultra ühendab esimest korda neli kiibiosa ja toetab Mac Studios kuni 512 GB ühtset mälu ning 1,2 TB/s mäluribalaiust.
• Apple lubab M5 Ultrale kuni 4,3 korda suuremat AI-tipujõudlust kui M3 Ultrale, kuid võrdlus põhineb tootja enda testidel.
• Eeltellimine algas 25. augustil ja tarned on kavandatud 22. septembriks, seega sõltumatud lõpptoodete testid alles tulevad.

Kohaliku mudeli suuruse piirab sageli mitte arvutusjõud, vaid mälu. M5 Ultra kuni 512 GB ühtne mälu võimaldab CPU-l, GPU-l ja kiirenditel kasutada sama andmeruumi ning mahutada tööjaama mudeli, mis tavalisel eraldiseisva videomäluga arvutil ei mahu.

See ei tähenda, et iga 512 GB-sse mahtuv mudel töötab interaktiivse kiirusega. Kaalu formaat, kvantimine, mäluribalaius, käitusraamistik ja konteksti pikkus määravad tegeliku kasutuskogemuse.

02M6 sihib väiksemat alati töötavat agentarvutit

M6-l on 12-tuumaline CPU, 12-tuumaline GPU koos närvivõrgu kiirenditega ning kaks 16-tuumalist Neural Engine’i. Mac mini maksimaalne 32 GB ühtne mälu piirab suuri mudeleid, kuid sobib väiksematele assistentidele ja servatöövoogudele.

Apple seob Mac mini turunduses alati töötava agentarvutusega. Selle praktiline väärtus sõltub sellest, kas agent saab vajalikke tööriistu turvaliselt kasutada, mitte ainult mudeli tokenikiirusest.

03M5 Ultra peamine vara on 512 GB ühtset mälu

Nelja kiibiosaga arhitektuur võimaldab kuni 36 CPU- ja 80 GPU-tuuma. 1,2 TB/s ribalaius on oluline, sest suure keelemudeli genereerimine loeb kaale mälust iga tokeni puhul.

Ühtne mälu vähendab andmete kopeerimist CPU ja GPU vahel, kuid kasutatav maht jääb operatsioonisüsteemi ning rakendustega jagatuks. Mudeli teoreetiline mahtumine ei asenda käitustesti soovitud konteksti ja samaaegsete kasutajatega.

04Tootja kordajad ei ole universaalsed

Apple’i kuni 4,3-kordne AI-tipujõudlus võrdleb kindlaid eeltootmise süsteeme ja töökoormusi M3 Ultraga. Teine mudel, kvantimine või raamistik võib kasutada kiibi osi erinevalt ning anda väiksema võidu.

Sõltumatu võrdlus peab fikseerima mudeli kontrollsumma, konteksti, väljundipikkuse, esimese tokeni aja, püsikiiruse, mälu ja seinast mõõdetud elektri. Ainult siis saab tulemust võrrelda GPU-serveri või API-ga.

05Kohalik käitus vähendab andmeliiklust, mitte kõiki riske

Lokaalne inference võib hoida dokumendid organisatsiooni seadmes ja võimaldada tööd võrguta. Samas jäävad seadmevarguse, pahavara, varukoopia, kasutajaõiguste ja mudeli tarneahela riskid.

Turvaline juurutus vajab ketta krüptimist, eraldi kasutajaid, mudelifailide kontrollsummasid, tööriistaõiguste piiramist ja väljundilogide säilitusreegleid. Kohalik ei tähenda automaatselt vastavust.

06Võrdlus Euroopa pilvega peab hõlmama elutsüklit

Mac Studio ostukulu ja elekter on ette teada, kuid väike kasutusaste tõstab ülesande ühikukulu. Pilv võimaldab mahtu skaleerida, kuid lisab andmeliikluse, tellimuse ja tarnijasõltuvuse.

Eesti piloot peaks jooksutama sama dokumendi-, koodi- ja visuaaltöövoogu lokaalselt ning Euroopa piirkonna pilves vähemalt nädal. Mõõta tuleb kvaliteeti, latentsust, energiakulu, administraatori aega, katkestusi ja andmete tegelikku liikumist.

07Mida järgmise 90 päeva jooksul kontrollida

Esimene järelkontroll peab eristama lubaduse, juurutuse ja mõõdetud tulemuse. Apple algallikas kinnitab sündmuse ning selle avaldamise hetkel teada olnud tingimused, kuid tootja või tehinguosalise järgmine teade võib muuta ajakava, hinda, ulatust või kättesaadavust. Muudatus tuleb lisada uue kuupäevaga, mitte kirjutada varasemat väidet vaikides ümber. Nii jääb alles kontrollitav ajajoon ja on näha, milline osa oli fakt ning milline prognoos.

Teine kontroll otsib sõltumatut kasutus- või mõõtmistulemust. Selleks peab test kirjeldama sisendit, võrdlusbaasi, versiooni, kvaliteedipiiri ja ebaõnnestumisi, mitte ainult parimat näidet või koondprotsenti. Kui sõltumatut tulemust ei ilmu, jääb vastav võimekus tootja väiteks. Rahastus, partnerlus, eelvaade või tehniline spetsifikatsioon võib olla iseseisvalt oluline uudis, kuid ei muutu selle tõttu tõendiks töökindluse või tasuvuse kohta.

Kolmas kontroll on Eesti kasutusjuhtumi väike kordus. Enne ostu või ulatuslikku integratsiooni tuleb fikseerida praeguse protsessi aeg, kulu ja vead, käitada sama ülesannet uue lahendusega ning arvestada inimese kontrolli ja parandamisega. Otsus peab tuginema lõpetatud ülesande kvaliteedile, kogukulule ja riskile. Kui andmed, õigused või tehniline juurdepääs päristesti ei võimalda, tuleb seda käsitleda teadmata riskina, mitte eeldada turundusmaterjali põhjal head tulemust.

Kontrolli omanik ja järgmise ülevaatuse kuupäev tuleb määrata enne piloodi algust.

08Korduma kippuvad küsimused

Mis on M6 juures uus?

See on Apple’i esimene 2 nm kiip ning sisaldab uut CPU-d, GPU närvikiirendeid ja kahte Neural Engine’i.

Kui palju mälu toetab M5 Ultra?

Uus Mac Studio toetab M5 Ultraga kuni 512 GB ühtset mälu.

Kas see mahutab suuri keelemudeleid?

Paljud kvanditud suured mudelid võivad mällu mahtuda, kuid tegelik kiirus sõltub mudelist ja tarkvarast.

Kas Apple’i 4,3-kordne võit on sõltumatu?

Ei. See on tootja test kindlatel eeltootmise seadmetel.

Mida võrrelda pilvega?

Kvaliteeti, latentsust, elektrit, kasutusastet, haldusaega, andmeliiklust ja kogu elutsükli kulu.