Pārlūkprogrammas pieprasa 20 GB lokālajiem AI modeļiem

Iedomājieties, ka jūsu klēpjdators apstājas lejupielādes vidū, kamēr pārlūkprogramma klusi gatavojas instalēt AI modeli. Kairinoši? Jā. Neparedzēti? Arī jā.

Gan Google Chrome, gan Microsoft Edge tagad pieprasa aptuveni 20 GB brīvas diska vietas, pirms tie sāks lejupielādēt lokālos AI modeļus. Šis nosacījums parādījies atjauninātajās dokumentācijās un raisa jaunas bažas lietotājiem ar mazākiem SSD un ierobežotu joslas platumu.

Chrome pirmo reizi nonāca uzmanības centrā, kad pētnieki pamanīja, ka tas var automātiski lejupielādēt aptuveni 4 GB lielu AI modeli, lai darbinātu iebūvētas ierīces funkcijas; tādējādi daļa apstrādes notiek lokāli, nevis tiek sūtīta uz Google serveriem. Google kopš tā laika bez lielas reklāmas atjauninājis atbalsta lapas, piebilstot aptuveni 20 GB brīvas vietas priekšnosacījumu, pirms pārlūks sāk šos modeļus lejupielādēt. Šis 20 GB skaitlis, šķiet, ir lejupielādes priekšnoteikums, nevis modeļa burtiskais izmērs, kas, šķiet, ir mazāks.

Oficiālajās Chrome vadlīnijās minētas dažas pamatprasības: neierobežots tīkla savienojums, apmēram 20 GB pieejamas diska vietas un ierīce ar pietiekamu veiktspēju, lai palaistu lokālos AI uzdevumus. Kāpēc nepieciešams 20 GB rezerves laukums? Uzņēmums nav sniedzis detalizētu sadalījumu. Tas var būt pagaidu vietas atvēršanai, vairāku kešatmiņā saglabātu versiju glabāšanai vai drošības rezerves, lai neļautu pilnībā aizpildīt lietotāja disku.

Edge prasības vienā būtiskā aspektā izskatās līdzīgas, taču papildus tiek pievienoti aparatūras ierobežojumi. Microsoft arī pieprasa vismaz 20 GB brīvas vietas profila nodalījumā un norāda, ka mašīnai nepieciešami vismaz 5.5 GB GPU atmiņas (VRAM). Atbalstītās operētājsistēmas ietver Windows 10 vai 11 un macOS 13.3 vai jaunāku. Edge izlaidīs lejupielādi uz maksas tīkla savienojumiem, un tas speciāli norāda profila atrašanās vietu, kas ir svarīgi lietotājiem, kuri profilus glabā mazākos sistēmas nodalījumos.

Ir ieviestas dažas lietotājam draudzīgas uzvedības. Chrome ļauj lietotājiem izslēgt ierīcē bāzētu AI savos iestatījumos, ja viņi negrib, lai lokālie modeļi tiktu glabāti. Edge iet soli tālāk un automātiski noņem lokālo modeli, ja brīvā vieta nokrīt zem 10 GB, atbrīvojot vietu citu pārlūkfunkciju vajadzībām. Mazas ērtības, bet būtiskas cilvēkiem ar ierobežotiem SSD un augošu lietotņu un mediju apjomu.

Ko tas nozīmē praksē? Daudziem lietotājiem nekas dramatisks, jaunākas ierīces ar ietilpīgiem NVMe diskdziņiem izpildīs prasību nemanāmi. Citiem, īpaši ultraklājiem klēpjdatoru īpašniekiem ar 128 GB vai 256 GB diskiem, tas ievieš papildus uzturēšanas uzdevumu: uzraudzīt brīvo vietu, pārdomāt profilu pārvietošanu uz lielākiem nodalījumiem vai pilnībā izslēgt lokālās AI funkcijas.

Lokālais AI sniedz skaidras priekšrocības — zemāku latentumu, mazāku atkarību no mākoņa atbildēm un uzlabotu privātumu, ja inferencēšana notiek jūsu ierīcē. Bet pastāv kompromiss. Vietas daudzums diskā ir ierobežots, un jo vairāk pārlūkprogrammas uzņemas lokālo aprēķinu, jo vairāk lietotājiem būs jāizlemj, cik lielu daļu diska tie ir gatavi atdot ērtībai. Pārbaudiet savas krātuves un iestatījumus, pirms pārlūks pieņem lēmumu jūsu vietā.