Samsung atklāj BV-NAND V10, zHBM un zNAND-O risinājumus

Pilnā Santa Klāras zālē Samsung klusi atklāja aparatūru, kas šķiet ne tik daudz mazā uzlabojuma, cik nelielas revolūcijas. Inženieri pulcējās ap stikla vitrīnām. Kartes tika mainītas. Secinājums bija tiešs: atmiņa maina savu formu.

Galvenais: BV-NAND V10. Tā ir saistītā V-NAND tehnoloģija novesta līdz jaunam galējumam, ar vairāk nekā 400 sakrautiem slāņiem, kurus izveidojuši Samsung uzlabotie savienošanas paņēmieni. Rezultāts nav vienkārši augstāks silīcija slānis. Tas nodrošina aptuveni 58% lielāku blīvumu salīdzinājumā ar iepriekšējo paaudzi, un papildus vertikālā telpa tieši pārvēršas ātrākās nolasēs, ātrākos rakstīšanas procesos, uzlabotā I/O un izmērāmos enerģijas ietaupījumos. Īsāk sakot: blīvāka atmiņa, kas patērē mazāk enerģijas un pārvieto datus ātrāk.

Sakraujiet un saīsiniet attālumu

Iedomājieties atmiņu, kas burtiski atrodas tieši virs procesora. Savādi? Spēcīgi. Samsung to sauc par zHBM. Tā aizņemas plākšņu savienošanas pieeju un pielieto to lielas joslas platuma atmiņai, pārveidojot fizisko saikni starp DRAM un akceleratoru. Tā vietā, lai būtu kaimiņš uz plates, zHBM ir sakrauts virs mākslīgā intelekta (AI) akceleratoriem, saīsinot attālumu, ko datiem jāveic. Latentums samazinās. Ātrums palielinās. Enerģijas patēriņš krītas.

Samsung apgalvo, ka zHBM var sniegt aptuveni astoņas reizes lielāku veiktspēju nekā gaidāmais HBM5 standarts, vienlaikus piedāvājot aptuveni desmitkārtīgu atmiņas blīvumu un aptuveni trīsreiz lielāku energoefektivitāti. Tās ir lielas pretenzijas. Tās balstās uz diviem faktoriem: ārkārtīgi ciešu vertikālu integrāciju un uzņēmuma pieredzi plākšņu savienošanā. Ja reālas sistēmas sasniegs šos rādītājus, zHBM varētu pārveidot datu centru un mākslīgā intelekta aprīkojuma arhitektūru.

Samsung arī demonstrēja progresu ar nozares standartu HBM: HBM4E paraugus jau ir nosūtījusi klientiem, un uzņēmums HBM5 prezentēja kā nākamo augstas joslas platuma atmiņas bāzi. Taču zHBM tiek pozicionēts kā ātrāka, kompaktāka un energoefektīvāka izvēle darba slodzēm, kas prasa mērogojamību.

Ne visus uzlabojumus mērķē uz mākoņiem. Iepazīstieties ar zNAND-O, nākamās paaudzes flash atmiņu, kas izriet no V-NAND paņēmieniem, bet pielāgota malā izvietotām mākslīgā intelekta lietojumprogrammām. Samsung izstrādā 4 un 8 slāņu versijas, kas sola labāku telpas izmantošanas efektivitāti, uzlabotu I/O veiktspēju un zemāku latentumu nekā parastais NAND. Uztveriet zNAND-O kā taupīgu lokālu kešu AI inferencēm tuvu lietotājam, kamēr zHBM paliek smagākajam darbam apmācībās un plaša mēroga inferencēs mākoņos.

Vēl viens interesants elements bija LPDDR5X-PIM. Tā ir nozares pirmā LPDDR, kas integrē Processing-In-Memory (PIM) funkcijas, veicot daļu aprēķinu atmiņā pirms datu iziešanas ārpus tās. Efekts ir vienkāršs: mazāk datu tiek pārvietots turp-atpakaļ, efektīvāka joslas platuma izmantošana un labāka enerģijas rādītāji. Darba slodzēs, kur dominē vienkāršas transformācijas vai samazināšanas, PIM var samazināt sašaurinājumus, nemainot visu programmatūras steku.

Rīta galvenā uzruna iezīmēja stratēģiju. Jin-Yub Lee, izpildvietnieks un Flash produktu un tehnoloģiju vadītājs, kopā ar Kyungryun Kim, DRAM dizaina komandas viceprezidentu un projekta vadītāju, iezīmēja Samsung skatījumu, ka atmiņa ir sistēmas aktīvs elements, ne tikai pasīva krātuve. Viņi uzstāja, ka sakraušana un savienošanas tehnoloģijas būs sviras, ar kuru palīdzību iegūt vairāk veiktspējas un efektivitātes no mākslīgā intelekta sistēmām.

Kur tas mūs atstāj? Samsung parādīja rīkkopu: blīvāku flash glabāšanai, sakrautas HBM variācijas joslas platumam prasīgiem aprēķiniem, kompaktu NAND malā izvietotām mākslīgā intelekta lietojumprogrammām un operatīvo atmiņu, kas spēj veikt aprēķinus. Katram elementam ir nozīme. Kopā tie norāda uz nākotni, kur atmiņas dizains spēlē vadošo lomu mākslīgā intelekta resursu prasību apmierināšanā.