OpenAI un Broadcom izstrādā Jalapeno ASIC priekš AI

Šonedēļ OpenAI saņēma kompaktu mikroshēmu, kas šķita vairāk nekā vienkārši aparatūra. Tā bija paziņojums. Nosaukta Jalapeno, jaunā ASIC iezīmē OpenAI pirmo pašas izstrādāto mikroshēmu, izstrādātu sadarbībā ar Broadcom, lai paātrinātu mākslīgā intelekta inferenci uzņēmumam, kas pasaulē iepazīstināja ar ChatGPT.

OpenAI šo dizainu sauc par Inteligences procesoru un raksturo to kā pirmo akceleratoru platformā, ko uzņēmums būvē, lai darbinātu attīstītākos modeļus ātrāk, uzticamāk un lielākā mērogā. Broadcom ražos šo silīciju. OpenAI norāda, ka Jalapeno izstrāde ilga aptuveni deviņus mēnešus, un uzņēmums arī izstrādāja lielu daļu apkārtējo skaitļošanas sistēmu, kurās šīs mikroshēmas darbosies.

Kāpēc tas ir svarīgi AI skaitļošanai

Nvidia GPU ir bijuši mūsdienu mākslīgā intelekta mugurkauls. Tie ir elastīgi un jaudīgi. Taču tiem ir augstas cenas un piegādes ierobežojumi. ASIC kompromitē daļu elastības apmaiņā pret efektivitāti un izmaksu ietaupījumiem. Tas padara tos pievilcīgus, ja darba slodzi var stingri optimizēt. Jalapeno ir OpenAI likme, ka rūpīgi noregulēta aparatūra var nodrošināt vairāk aprēķinu vienā vata un palīdzēt uzņēmumam mērogot piekļuvi attīstītajiem modeļiem.

Vai OpenAI pārtrauc sadarbību ar Nvidia? Ne gluži. Tas ir diversifikācijas solis, ko virza pieaugošā pieprasījuma dinamika. Šī gada sākumā OpenAI noslēdza darījumus par Amazon Trainium mikroshēmu izmantošanu un parakstīja partnerības ar AMD un Cerebras. Tagad, ar Broadcom ražojot Jalapeno, OpenAI cenšas pievienot vēl vienu uzticamu pieeju izejvielu skaitļošanai, būvējot stendus ar pielāgotu aparatūru, kas pilnā mērogā varētu prasīt aptuveni desmit gigavatus jaudas.

Ir arī praktiski etapi. Fizisks Jalapeno paraugs tika piegādāts trešdien. Uzņēmumi norāda, ka sagaida sākotnējas izvēršanas līdz 2026. gada beigām un plašāku izvēršanu nākamajos gados. Ja termiņi tiks ievēroti, mēs varam būt liecinieki ievērojamas izmaiņas sākumam attiecībā uz to, kā lieli valodu modeļi tiek izvērsti ražošanā.

Broadcom jutās ietekmēts. Tā akciju cena pieauga aptuveni par diviem procentiem pēc paziņojuma. Šis mikroshēmu ražotājs ir viens no mākslīgā intelekta tirgus uzvarētājiem — akcijas šogad kopš gada sākuma ir pieaugušas aptuveni par desmit procentiem un gandrīz septiņkāršas kopš 2022. gada beigām, jo vadošie mākoņu pakalpojumu sniedzēji un AI laboratorijas pasūta pielāgotu silīciju.

Tomēr pastāv kompromisi. ASIC ir mazāk elastīgi nekā vispārējā pielietojuma GPU, tāpēc tie vislabāk darbojas, ja tiem ir precīzi saskaņots programmatūras un sistēmu komplekts. OpenAI apgalvo, ka, izstrādājot lielāku daļu no šī komplekta paši, tie var iegūt labāku efektivitāti un paplašināt piekļuvi jaudīgiem AI rīkiem. Vienkārši sakot: uzbūvē dzinēju, noregulē automobili, un var nobraukt tālāk ar mazāk resursu.

Patiesais pārbaudījums būs veiktspēja reālās darba slodzēs un tas, cik ātri OpenAI spēs mērogot ražošanu kopā ar Broadcom. Pašlaik Jalapeno ir drosmīgs solis pret aparatūras neatkarību un atgādinājums, ka AI piegādes ķēde attīstās no gataviem komponentiem uz pielāgotām platformām, kas izstrādātas jaunas programmatūras klases vajadzībām.