Nvidia Vera: ARM CPU kas maina AI datu centru domāšanu

Datu centri reti mainās vienas nakts laikā. Kad tas notiek, jūtama dunoņa. Stendi kļūst blīvāki. Latence samazinās. Izmaksu struktūra pārvietojas. Nvidia uzskata, ka šai burzmē drīz būs jauns nosaukums: Vera.

Nvidia apgalvo, ka Vera nodrošina aptuveni 1,8 reizes labāku veiktspēju nekā vadošās x86 mikroshēmas. Šis apgalvojums ir virsraksts. Taču sarunu aizsāk aparatūra. Vera ir Vera Rubin platformas CPU puse, kas apvieno ARM bāzētu procesoru ar Rubin GPU darba slodzēm, kurām nepieciešama milzīga atmiņas joslas platība un cieša CPU un GPU koordinācija.

Kāpēc Vera pārveido domāšanu par AI serveriem

Vera ir izstrādāta ap 88 Olympus kodoliem ar telpisko daudzvītņošanu, piedāvājot 176 pavedienus uz ligzdu. Atmiņa nav pēcdomāta: viens procesors var tikt savienots ar līdz 1,5 terabaitiem LPDDR5X, nodrošinot aptuveni 1,2 terabaitus sekundē joslas platumu. AI inferencēm un aģentiskiem modeļiem, kas ātri patērē kontekstu un svarus, šis joslas platums nosaka, vai sistēma izdzīvo.

Domājiet par mērogu. Nvidia parādīja Vera CPU plauktu, kas ietilpina 256 procesorus vienā šasijā. Tas nozīmē 22 528 kodolus un 45 056 pavedienus. Tā ir tāda blīvuma platforma, ko mākoņpakalpojumu sniedzēji vēlas, mēģinot pārvietot lielus modeļus no dārgiem tikai ar GPU darbiem uz elastīgākām, uz CPU vērstām arhitektūrām.

Vera arī labi sadarbojas ar Rubin GPU. NVL72 konfigurācija savieno 36 Vera procesorus ar 72 Rubin GPU, un Nvidia lepojas ar 1,8 terabaitu sekundē NVLink-C2C savienojumu starp tiem. Mērķis nav aizstāt GPU, bet pārstrādāt saimnieka un akseleratora attiecības, lai dati plūstu ātrāk un programmatūra sastaptos ar mazāk pudelēs.

Izmantošanas gadījumi ir pazīstami, bet pieaug: aģentiskais AI, pastiprinātā mācība, plaša mēroga analītika un inferencēšana. Vera var darboties kā atsevišķs skaitļošanas mezgls šiem uzdevumiem vai kā saimnieks, kas baro un sinhronizē Rubin GPU.

Ieviešana jau notiek. Anthropic, OpenAI un SpaceXAI ir apņēmušās izmantot platformu savām modeļu darba slodzēm, un hyperskāles pakalpojumu sniedzēji kā ByteDance, CoreWeave un Oracle Cloud Infrastructure ir iesaistīti. Sistēmu piegādātāji Dell, HP, Lenovo un Supermicro piedāvās serverus uz Vera bāzes. Lieli ražotāji, tostarp Asus, Compal, Foxconn, Gigabyte, Pegatron, Quanta Cloud Technology, Wistron un Wiwynn, ražos aparatūru, kas būvēta ap šo čipu.

Pat netradicionāli klienti to pamanījuši. Ņujorkas fondu birža, kas dienā apstrādā aptuveni 1,1 triljonu ziņojumu, kopā ar partneriem Redpanda un HP izpēta Veru, pārdomājot latentci jutīgu infrastruktūru. Šāda interese rāda, ka platformu vērtē ne tikai modeļu apmācībai, tā tiek apsvērta reāllaika, lielas caurlaidspējas sistēmām, kur katra mikrosekunde ir nozīmīga.

Vera Nvidia gag uzlabo ierasto pieeju: ņemt secinājumus no GPU-pirmās AI izvietošanas un pielietot tos CPU dizainā. Uzņēmums iepriekš iekļāva savu AI darbu produktos kā RTX Spark, kas izcēla Grace CPU un Blackwell GPU ar LPDDR5X atmiņu. Tagad diskusija pārvietojas no viena mezgla GPU veiktspējas uz sistēmas līmeņa līdzsvaru un caurlaidspēju.

Vai Vera atņems x86 dominanci datu centros? Ne vienā nakti. Tomēr arhitektūra mērķē uz konkrētām problēmām AI darba slodzēm: atmiņas joslu, pavedienu blīvumu un ātru CPU un GPU savienojumu. Inženieriem un arhitektiem, kas risina modeļu izmaksas un caurlaidspēju, tas ir praktisks sākums.