Gemma 4 un Arm: uz ierīces darbināma Android AI revolūcija

Gadu garumā telefona mākslīgais intelekts nēsāja nelielu masku. Jūs jautājat, tas atbild, taču kaut kur pa vidu jūsu dati aiziet uz attālu serveri, tiek apstrādāti un atgriežas pie jums. Šī slēptā apvedceļa kompromiss vienmēr ir bijis neatņemama daļa. Google tagad vēlas pārtraukt šo atkarību, un Gemma 4 ir visskaidrākais signāls, ka uz ierīces darbināms AI Android ierīcēm kļūst nopietns.

Google DeepMind pagājušajā nedēļā kopā ar Arm prezentēja Gemma 4 ar skaidru mērķi: panākt, lai sarežģīts AI darbotos tieši uz Arm bāzētām Android tālruņiem, nepaļaujoties uz mākoņu. Pēc Google datiem, jaunā modeļu saime ir līdz četrām reizēm ātrāka nekā iepriekšējās versijas un var patērēt līdz 60% mazāk enerģijas. Mazākie E2B un E4B varianti izstrādāti domājot par telefoniem, un tie spēj apstrādāt tekstu, attēlus un audio bez pieprasījuma sūtīšanas pa internetu.

Kāpēc Arm ir nozīmīgs

Klusu dzinēju šim lēcienam nodrošina Arm SME2 instrukciju kopa, kas ir daļa no jaunākajām Armv9 mikroshēmām. Vienkārši sakot, tā paātrina matrica matemātiku, no kuras atkarīgs mūsdienu AI. Arm ziņo, ka agrīnajos inženiertehniskajos testos tika novērota vidēji 5,5x uzlabojums lietotāja ievades apstrādē, kā arī atbilžu ģenerēšana Gemma 4 E2B modelī bija līdz 1,6x ātrāka. Interesantā daļa? Izstrādātājiem nav jāpārraksta savas lietotnes, lai gūtu šos ieguvumus. Arm KleidiAI programmatūras slānis savienojas ar Google esošajām izpildlaika bibliotēkām, tāpēc uzlabojumi ierodas ar ļoti mazām grūtībām.

Šāda neredzama atjaunināšana ir tieši tas, kas var pārvērst uz ierīces darbināmu AI no demonstrācijas par rīku, ko cilvēki patiešām lieto ikdienā. Ātrāks. Vieglāks. Mazāk atkarīgs no datu savienojuma. Tie ir trīs mērķi, ko mobilo AI meklē kopš sākuma.

Visskaidrākais piemērs nāk no Envision, pieejamības lietotnes, kas izstrādāta neredzīgiem un vāji redzošiem lietotājiem. Līdz šim ainas izpratne bieži bija atkarīga no piekļuves mākoņserveriem. Prototipā, kur Gemma 4 darbojās lokāli uz Arm centrālajiem procesoriem, lietotājs varēja uzņemt foto un uzreiz saņemt detalizētu skatu aprakstu bez nepieciešamības pēc tīkla. Tādam lietotnei tiešs darbs bez interneta nav tikai papildfunkcija. Tā ir galvenā funkcija.

Google arī veido pamatu nākamajam solim. Gemma 4 tiek izmantota kā pamats Gemini Nano 4, gaidāmajam uz ierīces darbināmajam modelim Android. Tas nozīmē, ka izstrādātāji, kas šodien strādā ar Gemma 4, būtu gatavi saderībai ar Gemini Nano 4, kad tas parādīsies flagmaņu ierīcēs vēlāk šogad. Gemini Nano jau darbina lokālas funkcijas, piemēram, viedās atbildes un audio kopsavilkumus, un mikroshēmu ražotāji, kā MediaTek, spēcīgi virza attīstību šajā virzienā. Gemma 4 vēl vairāk paplašina iespējas, tostarp multimodālu atbalstu un iebūvētas aģentiskas spējas.

Izstrādātājiem piekļuve jau ir atvērta. E2B un E4B modeļi ir pieejami caur Google AI Edge Gallery Android un iOS platformām saskaņā ar Apache 2.0 licenci. Un tas ir svarīgi, jo sacensības par lietojamu, privātu un zemas latentitātes AI vairs nenotiek tikai mākoņvidē. Tā pāriet uz tālruni, kas ir jūsu rokā.