Fotoniskie AI čipi: ātrāka attēlu un video apstrāde

Ķīnas pētnieki ziņo, ka viņi izstrādājuši jaunu fotonisko mākslīgā intelekta (AI) mikroshēmu klasi, kas dramatiski paātrina konkrētus mašīnmācīšanās uzdevumus — dažos gadījumos norādot veiktspējas pieaugumu par vairāk nekā 100× pret parastajām GPU, vienlaikus patērējot ievērojami mazāk enerģijas. Šīs ierīces nav universālas aizvietotājas vispārējās pielietošanas akceleratoriem, taču tām var būt būtiska loma attēlu, video un datora redzes (computer vision) darbplūsmu optimizēšanā.

Kas ir šie fotoniskie AI čipi?

No vadošajām Ķīnas universitātēm izcēlušies divi izteikti prototipi. ACCEL, izstrādāts Tsinghua Universitātē, ir hibrīda dizaina mikroshēma, kas apvieno fotoniskus elementus ar analogiem elektroniskiem ķēdēm. Izgatavota, izmantojot SMIC ražošanas procesus, ACCEL komandai izdevies demonstrēt, ka ierīce spēj sasniegt aptuveni 4,6 petaflops noteiktos analogo operāciju slodzēs, vienlaikus patērējot tikai daļu no tipisku grafisko procesoru enerģijas patēriņa.

Otrais projekts, LightGen — sadarbībā starp Shanghai Jiao Tong un Tsinghua universitātēm — ir pilnībā optisks čips, kas ietver vairāk nekā divus miljonus tā dēvēto „fotonisko neironu”. Pētnieki ziņo, ka LightGen nodrošina ievērojamus ātruma un energoefektivitātes ieguvumus šauri definētos uzdevumos, piemēram, attēlu ģenerēšanā, stila pārnesē (style transfer), trokšņu samazināšanā (denoising) un 3D attēlu apstrādē.

Abu prototipu izstrādē izmantotās pieejas demonstrē divas atšķirīgas fotonikas paradigmas: hibrīda analogā‑elektroniskā arhitektūra (ACCEL), kur optiskie elementi veic smagnējas matricas un konvolūcijas operācijas, savukārt analogā daļa nodrošina savienošanu ar digitālajām vadības plūsmām; un pilnīgi optiska, masīvi paralēla neironu tīkla īstenošana (LightGen), kur gaismas intensitāte un interferences raksti realizē svaru reizināšanu un summēšanu. Šīs pieejas demonstrē fotonisko čipu potenciālu kā specializētu paātrinātāju attēlu apstrādei un ģeneratīvajiem uzdevumiem, kur dominē liela izmēra matricu reizinājumi un konvolūcijas.

Kāpēc fotonika dažos AI uzdevumos var apsteigt elektronus

Mūsdienu GPU, piemēram, Nvidia A100, balstās uz elektronu plūsmu caur miljardiem tranzistoru. Šī arhitektūra ir izcila secīgā izpildē, plašā programmējamībā un atbalstā dažādiem datu veidiem, taču tai ir arī ierobežojumi: augsts enerģijas patēriņš, ievērojama siltuma izdalīšana un atkarība no moderniem, noslīpētiem ražošanas mezgliem (process nodes).

Fotoniskie čipi savukārt aprēķina, izmantojot gaismu. Tie veic operācijas caur optisku interferenci, fāzes regulāciju un analogo transformāciju, kas ļauj vienlaicīgi izpildīt daudzas matemātiskas operācijas paralēli ar gaismas ātrumu. Tas padara tos īpaši ātrus un energoefektīvus iepriekš definētām, matricu intensīvām darbplūsmām, piemēram, konvolūcijām un matricas‑vektora reizinājumiem, kas ir pamats daudzām neironu tīklu funkcijām. Turklāt fotoniskos elementus dažkārt var ražot izmantojot tehnoloģiski nobriedušākus procesus, kas samazina pieeju uzkopšanas prasības salīdzinājumā ar modernajiem CMOS mezgliem.

Tehniskā līmenī optiskajos procesoros svara reizināšana bieži tiek īstenota, modulējot gaismas intensitāti vai fāzi un izmantojot optiskus režģus vai interferometriju, lai sumētu rezultātus. Šādas operācijas dabīgi realizē paralēlu matricas reizinājumu, jo gaismas viļņi var vienlaikus ceļot pa tūkstošiem optisko ceļu. Tas nozīmē, ka, ja uzdevums ir labi definēts un to var pārvērst par analogu lineāru algebra problēmu, optiskais paātrinājums var būt dramatiskāks nekā tradicionālais elektroniskais izpildījums.

Reālie ieguvumi — taču šaura piemērošanas joma

Publikācijas un prezentācijas liecina, ka ACCEL un LightGen pārspēj tradicionālās GPU platformas ar lieliem rādītājiem konkrētos benchmarkos, kas saistīti ar redzes (vision) un ģeneratīvajiem (generative) uzdevumiem. Tomēr pētnieki uzmanīgi uzsver ierobežojumus: fotoniskie procesori izpilda iepriekš definētas analogo skaitļošanas operācijas un nav piemēroti vispārējai kodu izpildei vai intensīvi atmiņas atkarīgām operācijām.

• Stiprās puses: ārkārtīgi ātri matricu un konvolūciju tipa aprēķini, ievērojami zemāks enerģijas patēriņš vienā operācijā, liels potenciāls attēlu, video un datora redzes apstrādes cauruļvados.
• Ierobežojumi: mazāk piemēroti vispārējiem uzdevumiem, ierobežota programmējamība, un atmiņas apstrādes ierobežojumi, kas var ierobežot to pielietojumu plašākos ML darba plūsmās.

Turklāt ir tehniski jautājumi saistībā ar analogās aprēķinu precizitāti, trokšņa toleranci un skalējamību. Optiskie signāli izjūt fāzes kļūdas, absorbciju un termisku ietekmi, kas var ietekmēt aprēķinu precizitāti salīdzinājumā ar skaitlisko (digital) reizinājumu ar augstu bitu precizitāti. Lai pārvarētu šos ierobežojumus, pētnieki izmanto starpposma hibrīd‑pieejas, kur optiskās operācijas apstrādā galvenos matricas reizinājumus, bet digitālā/electrónica daļa korektē un ziņo par kļūdām.

Ko tas nozīmē AI aparatūrai

Iedomājieties AI cauruļvadus, kur smagākā vizuālā apstrāde tiek novirzīta uz zemas jaudas fotoniskajiem mezgliem, kamēr GPU risina elastīgo apmācību, atmiņas pārvaldību un plašākas darba slodzes. Šāda hibrīdā arhitektūra var samazināt enerģijas izmaksas un paātrināt reāllaika lietojumprogrammas, piemēram, ierīcē veicamu inferenci (on‑device inference), video apstrādes fermas (video processing farms) un dažus ģeneratīvos pakalpojumus.

Īpaši nozīmīgas būs ražošanas operācijas, kur nepieciešams apstrādāt milzīgas datu plūsmas video analīzei uz serveru līmeņa iekārtām, kā arī lietojumos, kur energoefektivitāte un latentums (latency) ir kritiski — piemēram, paplašinātā realitāte (AR), autonomā navigācija un reālā laika medicīniskā attēlu analīze. Pievienotā energoefektivitāte un potenciālais ātruma pieaugums padara fotoniskos paātrinātājus īpaši pievilcīgus kompānijām, kas specializējas vizuālajos ML risinājumos vai darbina lielus video plūsmas centrs.

Tomēr ceļš no laboratorijas prototipa līdz masveidā ražotam produktam ir sarežģīts. Integrācija ar esošo datu centra infrastruktūru, kopējās izmaksas (TCO), jaunu programmēšanas modeļu un rīku izstrāde, kā arī ekosistēmas atbalsts (bibliotēkas, optimizētāji, instrumenti) ir būtiski izaicinājumi. Ražošanas piegādes ķēde, it īpaši, ja tiek izmantoti specifiski optiskie materiāli vai SMIC tipa ražošanas procesi, prasa stabilu piegādātāju tīklu un kvalitātes kontroles procedūras.

Svarīgi atzīmēt, ka Ķīnas komandas publicēja savus rezultātus žurnālā Science, kas piešķir akadēmisku validāciju un pārskatāmību pētījumiem. Tomēr neatkarīgas replikācijas, ilgtermiņa uzticamības testi un rūpnieciska mēroga demonstrācijas būs nepieciešamas, lai pārliecinātos par praktisku pielietojumu, drošību un saderību ar esošajām ML platformām.

Vai nozarei jāuztraucas? Pagaidām nē. Fotoniskie AI čipi izskatās kā komplementārs risinājums GPU laukiem — īpaši mērķētās domēnos, kas saistīti ar attēlu un video apstrādi. Tomēr uzņēmumiem, kas strādā ar vizuālo AI pie lielas skalas, šīs attīstības ir jāuzmana cieši, jo tās var radīt konkurences priekšrocības efektivitātē, latentuma samazināšanā un izmaksu optimizācijā.

Tehniskā integrācija un programmēšanas modeļi

Lai fotoniskās mikrokonstrukcijas kļūtu praktiskas, nepieciešama atbalsta programma: bibliotēkas, kas pārvērš augsta līmeņa ML operatorus par fotoniskām operācijām; optimizatori, kas automātiski izvēlas, kuras modela daļas izvietot uz optiskajām vienībām; un valdošās starpslāņa API, kas sinhronizē datus starp GPU, CPU un optiskajām iekārtām. Tādas bāzes projektēšana prasa sadarbību starp aparatūras inženieriem, ML pētniekiem un programmatūras izstrādātājiem.

No drošības un uzticamības viedokļa, ja aprēķini tiek veikti analoģiski un optiski, kļūdu diagnosticēšana un kļūdu korekcija kļūst kritiska. Tas var prasīt jaunu veidu monitoringu (telemetriju), testēšanas protokolus un redundances mehānismus, lai nodrošinātu, ka sistēma atbilst prasībām rūpnieciskās lietojumprogrammās.

Risinājumi un lietošanas scenāriji

Vispiemērotākie scenāriji fotoniskajiem paātrinātājiem būs tie, kur darbojas viena veida operācijas lielu datu apjomu virknē: attēlu ģenerēšana (gan statiskiem attēliem, gan video kadriem), stila pārnese, trokšņu samazināšana, 3D rekonstrukcija un daži datora redzes uzdevumi. Šajos gadījumos optiskā paralēlība un energoefektivitāte var būt izšķiroša priekšrocība salīdzinājumā ar plaši programmējamiem GPU.

Gadījumā, ja fotoniskie mezgli tiek iekļauti datu centra arhitektūrā ar specializētām tīkla mezglu savienojumiem, uzņēmumi var pārstrukturēt savas ML cauruļvadas tā, lai matricas intensīvās fāzes darbotos uz optiskajām vienībām, savukārt solidā loģika un atmiņas intensīvā apstrāde paliktu uz tradicionālajiem GPU vai FPGA risinājumiem.

Ilgtermiņā šāda piesātināta heterogēna ekosistēma — kur fotonika papildina elektroniku — var nodrošināt vērtīgu kompromisu starp veiktspēju, energoefektivitāti un elastību.

Stratēģiskās un tirgus implikācijas

Tehnoloģiskie līderi, kas koncentrējas uz vizuālajiem ML risinājumiem, var iegūt konkurences priekšrocības, ja veiksmīgi integrē fotoniskos paātrinātājus savā infrastruktūrā. Sākumā to adopcija, visticamāk, notiks rūpnieciskos un pētniecības centros ar specializētām prasībām, nevis plašā patēriņa tirgū. Tomēr, ja izstrādātāji atrisinās standardizācijas, programmējamības un ražošanas problēmas, fotoniskie komponenti var kļūt par parastu elementu ML aparatūras portfeļos nākamo 5–10 gadu laikā.

Rezumējot: fotoniskie AI čipi piedāvā iespaidīgas priekšrocības specifiskos uzdevumos, it īpaši attēlu un video apstrādē, pateicoties optiskās paralēlās apstrādes un zemākas enerģijas prasībām. Tomēr to praktiskā ieviešana prasīs laiku, rūpīgu sistēmisku integrāciju un bagātīgu programmatūras atbalstu, lai šie risinājumi varētu papildināt esošās GPU bāzes vidi.