Microsoft atklāj Maia 300: efektīva inferences mikroshēma

Microsoft prezentējis Maia 300 — savu trešās paaudzes pielāgoto mākslīgā intelekta inferenču mikroshēmu — un apgalvo, ka tās dizains uz vienu megavatu jaudas spēs apstrādāt aptuveni par 40% vairāk tokenu nekā vadošās GPU balstītās sistēmas. Uzņēmums Maia 300 pozicionē kā īpaši inferencēm izstrādātu paātrinātāju, kam jākļūst par Microsoft produktu un pakalpojumu galveno inferenču infrastruktūru.

Microsoft paredz, ka Maia 300 ražošanā tiks ieviesta 2027. gadā. Paziņojumā Microsoft mākoņdatošanas izpildviceprezidents Skots Gatrijs (Scott Guthrie) norādīja, ka uzlabojumi ļaus uzņēmumam vairāk paļauties uz savām pielāgotajām mikroshēmām un mazināt atkarību no Nvidia un AMD. Gatrijs piebilda, ka no 2027. gada Microsoft sāks Azure Maia mikroshēmu saimes izvēršanu vairāku gigavatu mērogā, lai tās varētu kļūt par galveno inferenču infrastruktūru visā uzņēmumā.

Veiktspēja un loma Microsoft tehnoloģiju slānī

Pilnā konfigurācijā ar 96 paātrinātājiem Maia 300 var līdz pat septiņām reizēm palielināt tokenu apstrādes caurlaidspēju sistēmas līmenī salīdzinājumā ar iepriekšējās paaudzes Maia 200, ko Microsoft prezentēja tikai janvārī. Maia 200 jau tiek izmantota dažādās Microsoft darba slodzēs, tostarp Microsoft Copilot, GitHub Copilot, Microsoft Foundry un uzņēmuma patentētajos AI modeļos. Gatrijs sacīja, ka pēc reālu AI pakalpojumu veiktspējas rādītājiem Maia 200 joprojām ir efektīvākā skaitļošanas infrastruktūra Microsoft vidē, savukārt Maia 300 veidota kā pilnvērtīga sistēma nākamās paaudzes AI darba slodzēm.

Microsoft Maia 300 raksturo kā mikroshēmu, kas optimizēta loģiskai spriešanai ar gariem kontekstiem, zemas latentuma sarunveida pieredzei un nepārtrauktai vairāku soļu aģentu uzdevumu izpildei. Uzņēmums uzsver, ka mikroshēma paredzēta inferencēm, nevis apmācībai.

Mikroshēmas arhitektūra un ražošana

Maia 300 izmanto chiplet arhitektūru, kas balstīta uz TSMC N2P procesu. Microsoft skaidro, ka dizains nošķir skaitļošanas blokus, atmiņas kontrolierus un ievades/izvades funkcijas, ļaujot lielāku mikroshēmas laukumu atvēlēt apstrādei un katram blokam izmantot tā uzdevumam piemērotu tehnoloģiju. Azure aparatūras un infrastruktūras komanda norāda, ka šāda pieeja palielina efektivitāti un ļauj mikroshēmu optimizēt konkrētām inferenču funkcijām.

Microsoft arī norāda, ka Maia 300 būs nozīmīga loma uzņēmuma paša modeļu izstrādes un izvēršanas plānos. Microsoft AI izpilddirektors Mustafa Suleimans (Mustafa Suleyman) sacīja, ka uzņēmumam jāattīsta visi tehnoloģiju steka slāņi — no modeļiem līdz silīcijam — un ka Microsoft iecerētajā mērogā nepieciešama specializēta platforma, kas tiek izstrādāta līdztekus modeļiem. Viņš piebilda, ka uzņēmuma patentēto modeļu darbināšana ar Maia ir komandas galvenā prioritāte.