Buildrya
Tagasi AI-RADARisse
Samsung näitas üle 400-kihilist AI-mälu ja kiibi peale ehitatava zHBM-i ideed
Taristu7 min lugemistKristjan

Samsung näitas üle 400-kihilist AI-mälu ja kiibi peale ehitatava zHBM-i ideed

Samsung näitas üle 400-kihilist V10 V-NANDi ja kiirendi peale paigutatava zHBM-i ideed. Lubatud jõudlus ootab veel sõltumatut ja süsteemitaseme kinnitust.

FacebookXLinkedIn

Lühidalt

  • Samsung esitles FMS 2026 konverentsil üle 400 mälukihiga V10 Bonding V-NANDi prototüüpi.
  • Ettevõtte väitel annab kahe vahvli ühendamine võrreldes V9 põlvkonnaga 58 protsenti suurema bititiheduse; sõltumatut mõõtmist pole avaldatud.
  • Samsung näitas ka zHBM-i kontseptsiooni, milles mälu asetatakse vertikaalselt otse AI-kiirendi kohale.
  • Ettevõte lubab zHBM-ile tulevase HBM5-ga võrreldes üle kümne korra suuremat tihedust ja kolmekordset energiatõhusust, kuid toodet ega tootmisgraafikut veel pole.

Samsung Electronics esitles 4. augustil Santa Claras toimunud FMS 2026 konverentsil kahte järgmise põlvkonna mälulahendust. V10 Bonding V-NANDi prototüübis on üle 400 mälukihi ning zHBM-i kontseptsioon paigutab mälukiibid vertikaalselt otse tehisarukiirendi kohale.

Mõlemad tehnoloogiad püüavad lahendada sama piirangut eri küljest. Mudelite arvutusmaht kasvab, kuid kiirendi jõudlusest pole kasu, kui andmed ei mahu piisavalt lähedale või liiguvad mälust liiga aeglaselt. Mälu läbilaskevõime, maht ja elektrikulu määravad üha rohkem kogu serveri tegeliku jõudluse.

Samsungi jõudlus- ja tihedusnumbrid on ettevõtte enda väited. V10 on prototüüp ning zHBM tehnoloogiline kontseptsioon, mitte tellitav toode. Ettevõte ei avaldanud zHBM-i seeriatootmise aega, hinda ega sõltumatute klientide katsetulemusi.

V10 ühendab kaks eraldi valmistatud vahvlit

Tavalises vertikaalses NAND-välkmälus ehitatakse mälurakud paljude kihtidena üksteise peale. Kihtide arvu kasvatamine suurendab ühe pindalaühiku mahtu, kuid teeb tootmise keerukamaks: läbi struktuuri tuleb söövitada väga sügavad ja ühtlased kanalid ning hoida vigade arv kontrolli all.

V10 Bonding V-NAND kasutab vahvlite ühendamist. Mälurakkude kiht ja juhtloogika valmistatakse eraldi vahvlitel ning liidetakse hiljem. Selline tööjaotus võimaldab kumbagi osa optimeerida talle sobiva protsessiga ja võib vähendada pinda, mille juhtloogika mälumaatriksi kõrval hõivab.

Samsungi järgi sisaldab prototüüp üle 400 kihi ning selle bititihedus on V9 põlvkonnast 58 protsenti suurem. Bititihedus näitab, kui palju andmeid mahub kindlale kiibipinnale; see ei tähenda automaatselt sama suurt kasvu lugemiskiiruses või lõppseadme mahus. Tootmissaagis ja kulud määravad, kas tehnoloogia jõuab konkurentsivõimelise hinnaga seeriatootmisse.

zHBM tõstab mälu kiirendi peale

High Bandwidth Memory ehk HBM koosneb juba praegu üksteise peale laotud mälukihtidest, mis paiknevad kiirendi kõrval samal alusplaadil. Lühikesed ja laiad ühendused annavad tavalisest serverimälust suurema läbilaskevõime ning teevad HBM-ist AI-kiirendite keskse komponendi.

Samsungi zHBM-i idee viib vertikaalse integratsiooni sammu edasi. Mälu ei paikneks ainult kiirendi kõrval, vaid otse selle kohal. Lühem andmetee võiks suurendada ühenduste arvu, vähendada liigutamise energiakulu ja mahutada samale alusplaadile rohkem mälu.

Ettevõte lubab tulevase HBM5-ga võrreldes üle kümne korra suuremat tihedust, kolmekordset energiatõhusust ja väiksemat soojustakistust. Võrdlusalus ise on tulevane tehnoloogia ning zHBM-i füüsiline ülesehitus pole veel kaubanduslikult tõestatud. Neid arve tuleb käsitleda arenduseesmärgina, mitte valmis serveri mõõdetud omadusena.

Lähem mälu muudab soojuse keerulisemaks

Kiirendi ja mälu vertikaalne liitmine vähendab andmete liikumise vahemaad, kuid koondab samasse ruumalasse rohkem soojust. AI-kiirendi on juba serveri üks kuumemaid komponente. Selle peale paigutatud mälu peab taluma temperatuuri ning jahutuslahendus peab viima soojuse välja ilma ühendusi kahjustamata.

Samsung väidab väiksemat soojustakistust, mis tähendaks soojusele paremat väljapääsu. Tegelik server vajab siiski uut pakendit, termilist liidest, vedelikjahutust ja temperatuuriandureid. Ühe kihi kuum koht võib mõjutada nii kiirendit kui ka selle kohal olevat mälu.

Remont muutub samuti keerulisemaks. Kui eraldi HBM-pakk või kiirendi on defektne, võib tootmis- või hooldusprotsess mõnel juhul komponendi tasemel vea eristada. Vertikaalselt ühendatud terviku puhul võib ühe osa rike muuta kasutuskõlbmatuks kallima mooduli ning nõuda täpsemat testimist juba tehases.

Mälu on AI-serveri jõudluse piiraja

Suure mudeli käitamisel tuleb kaale ja vahetulemusi kiiresti kiirendi arvutusüksustesse tuua. Kui mälu läbilaskevõime ei jõua arvutusele järele, ootavad kallid arvutusüksused andmeid. Suurem mälumaht võib samal ajal vähendada vajadust jagada mudelit paljude kiirendite vahel.

See mõjutab nii treenimist kui ka inferentsi. Pikad kontekstid ja mitu samaaegset kasutajat kasvatavad ajutise võtme-väärtuse vahemälu mahtu. Kui rohkem andmeid mahub ühe kiirendi lähedale, võib süsteem vajada vähem võrguliiklust ja pakkuda väiksemat viivitust.

V-NAND täidab teistsugust rolli kui HBM. Seda kasutatakse püsimäluna mudelite, andmestike ja kontrollpunktide hoidmiseks. Suurem tihedus aitab kasvatada SSD mahtu ning kiirem andmetee vähendab mudeli laadimise aega, kuid NAND ei asenda HBM-i kiirendi vahetu töömäluna.

Mida andmekeskuse operaator peaks jälgima

Esimene näitaja on energiakulu ühe kasuliku tööühiku kohta, mitte ainult kiibi reklaamitud efektiivsus. Serveri tasemel lisanduvad jahutus, võrk, toitekaod ja salvestus. Uus pakend on väärtuslik siis, kui terve rack annab sama elektrivõimsuse juures rohkem lõpetatud treening- või inferentsitööd.

Teine näitaja on temperatuuride ja vigade seos. Operaator vajab telemeetriat, mis eristab kiirendi, mälukihi, ühenduse ja jahutuse probleemi. Kolmas on vahetatavus: kui rike nõuab kogu kalli mooduli väljavahetamist, tuleb see arvestada teenuse hinna ja varuosade strateegiasse.

Eesti arendajale ei muuda prototüüp tänast pilvevalikut. Pikemas plaanis võib suurem lokaalne mälumaht vähendada suurte mudelite käitamise hinda ja anda pilvepakkujatele uusi instantsitüüpe. Enne seda on vaja tootmisgraafikut, klientide kvalifitseerimist ja sõltumatuid süsteemitaseme mõõtmisi.

Tootmisvalmidus otsustab tehnoloogia mõju

Mälutehnoloogia tee demonstratsioonist suure mahuga tooteni on pikk. Vahvlite ühendus peab töötama suure saagisega, sest väikegi defekt mõlemas pooles võib rikkuda kogu liidetud kiibi. Pakendamine peab säilitama tuhandete ühenduste kvaliteedi termiliste tsüklite ja aastatepikkuse koormuse jooksul.

Kliendid kvalifitseerivad uue mälu oma kiirendite, emaplaatide, püsivara ja jahutusega. See protsess võib paljastada probleeme, mida labori prototüüp ei näita. Seetõttu on tarnenäidised, veamäärad ja pika koormustesti tulemused olulisemad kui üks tiheduse rekord.

Ka tarkvara peab uut mäluhierarhiat kasutama. Suurem maht ei anna täit kasu, kui kompilaator, mudeliteenus ja töökoormuse jaotur ei paiguta andmeid õigesse kihti. Riistvara, jahutuse ja tarkvara ühine optimeerimine määrab, kas zHBM vähendab päriselt ühe vastuse energiakulu.

Hankija peaks võrdlema läbilaskevõimet, kasutatavat mahtu, energiakulu, veaparandust, töötemperatuuri ja tarneaega. Üks suur tihedusnumber võib varjata kehvemat saagist või kõrgemat hinda. Seeriatoote väärtus selgub töökoormuses, mille mälujuurdepääs sarnaneb ettevõtte päris mudelitega.

Tarneahela vaates võib tugevam mälupakett vähendada kiirendite arvu ühe töö jaoks, kuid suurendada sõltuvust ühest keerukast moodulist. Mitme tarnija olemasolu, varuosad ja tarkvara ühilduvus jäävad riskijuhtimise osaks ka parema jõudluse korral.

Pilveteenuse ostja näeb neid valikuid lõpuks instantsi hinnas ja saadavuses. Kui uus mälu on piiratud koguses või madala tootmissaagisega, võib tehniline eelis tulla koos pika ooteaja ja kõrgema tunnitasuga. Varajane võrdlus peab sisaldama ka reserveeritud mahu tingimusi ning teise platvormi kasutamise võimalust.

Kokkuvõte

Samsungi prototüübid näitavad, et AI-taristu järgmine võistlus ei käi ainult kiirendite arvutusvõimsuse ümber. Mälu tihedus, paiknemine ja energiakulu määravad, kui palju kiirendi tegelikult tööd teha saab.

V10 Bonding V-NAND on konkreetne üle 400-kihiline prototüüp, zHBM aga kaugemale vaatav kontseptsioon. Järgmised tõendid peavad tulema tootmissaagise, klientide testide, jahutuse ja kogu serveri jõudluse kohta; ettevõtte lubatud suhtarvudest üksi investeerimis- või hankimisotsuseks ei piisa.

Korduma kippuvad küsimused

Mida Samsung FMS 2026 konverentsil näitas?

Samsung esitles üle 400 mälukihiga V10 Bonding V-NANDi prototüüpi ja zHBM-i kontseptsiooni, milles mälu paigutatakse vertikaalselt AI-kiirendi kohale.

Kui palju tihedam on V10 V-NAND?

Samsungi väitel on V10 Bonding V-NANDi bititihedus V9 põlvkonnast 58 protsenti suurem. Tegemist on ettevõtte prototüübiandmega, mitte sõltumatu seeriatoote mõõtmisega.

Mis on zHBM?

zHBM on Samsungi kontseptsioon, kus suure läbilaskevõimega mälu asetatakse kiirendi peale. Eesmärk on lühendada andmete liikumisteed, kasvatada tihedust ja vähendada energiakulu.

Kas zHBM-i saab juba osta?

Ei. Samsung ei ole avaldanud zHBM-i toodet, hinda ega tootmisgraafikut. Esitletud näitajad kirjeldavad tehnoloogilist kontseptsiooni.

Miks on mälu AI-arvutuses pudelikael?

Kiirendi arvutusüksused vajavad pidevalt mudeli kaale ja vahetulemusi. Kui mälu maht või läbilaskevõime on liiga väike, ootab kiirendi andmeid ja osa arvutusvõimsusest jääb kasutamata.

Mida tähendab uus mälu Eesti ettevõttele?

Lähiajal ei muuda prototüübid pilveteenuste valikut. Seeriatootmise korral võivad suurema mälumahuga kiirendid vähendada suurte mudelite käitamise kulu, kuid seda peavad kinnitama süsteemitaseme testid.

Allikad

  1. Samsung Electronics, „Samsung Unveils Next-Gen 3D Memory Vision at FMS 2026, Charting the Future of AI Infrastructure“, 4. august 2026. https://news.samsung.com/global/samsung-unveils-next-gen-3d-memory-vision-at-fms-2026-charting-the-future-of-ai-infrastructure
  2. Reuters, „Samsung Electronics launches next-generation AI memory technology“, 4. august 2026. https://www.reuters.com/world/asia-pacific/samsung-electronics-launches-next-generation-ai-memory-technology-2026-08-04/
MärksõnadSamsungV-NANDzHBMHBMAI-mäluFMS 2026andmekeskuspooljuhid

Jaga artiklit

Saada see lugu kolleegile või salvesta hilisemaks.

AI-RADARi uudiskiri

Saa järgmine AI-RADAR postkasti

Kui järgmine praktiline AI-signaal või tööriistamuutus avaldatakse, saad selle otse e-postile.

Arutelu

0 kommentaari

0/1500

Laen kommentaare...
Loe edasi

Seotud teemad AI-RADARis

Kõik uudised