Bils Geitss: mākslīgā intelekta draudi darbam un kibersfērai

Bils Geitss Nilajam Patelam sacīja, ka divu līdz trīs gadu laikā mākslīgais intelekts radīs izmērāmu kaitējumu kiberdrošībā un darba tirgū.

Šī prognoze iezīmē būtisku pavērsienu Geitsa retorikā. Iepriekš publiski optimistisks par AI, Geitss pēc satraucošām piezīmēm šīs vasaras sākumā un atsevišķā intervijā laikrakstam The New York Times, kurā viņš AI nosauca par "līdz šim bīstamāko lietu, ar ko cilvēce ir saskārusies", tagad uzsver, ka modeļu attīstības temps prasa tiešu valsts iejaukšanos risku pārvaldībā un cilvēku nodarbinātības saglabāšanā.

Garā sarunā ar The Verge vecāko redaktoru un Decoder podkāsta vadītāju Nilaju Patelu Geitss skaidroja, kāpēc pēdējā gada laikā notikušais modeļu spēju lēciens raisījis steidzamu satraukumu, kāpēc ir bezatbildīgi ļaut nefiltrētiem modeļiem darboties personālajos datoros un kāpēc pat labākajā scenārijā nākamie 20 gadi būs vieni no satraucošākajiem cilvēces vēsturē. Viņš vairākkārt uzsvēra, ka atbildība jāuzņemas valsts institūcijām, nevis pašiem uzņēmumiem.

Konkurence, uzraudzība un brīvprātīgu ierobežojumu robežas

Geitss sacīja, ka tādas laboratorijas kā OpenAI, Anthropic un Google DeepMind sākotnēji solīja labu pārvaldību un drošību izvirzīt par prioritāti, taču ātri iesaistījās straujā komercializācijas sacensībā. Viņš minēja tādus vadītājus kā Sems Altmans, Dario Amodei, Satja Nadella un Sundars Pičai, kuri ir informēti par iekšējiem brīdinājumiem. Tomēr, pēc Geitsa teiktā, apstākļos, kad savā starpā konkurē vairāki uzņēmumi, brīvprātīgi ierobežojumi, visticamāk, nebūs noturīgi.

Viņš OpenAI sākotnējo struktūru un tās bezpeļņas apņemšanos raksturoja kā modeli, kas var darboties tikai tad, ja priekšgalā ir viena organizācija. Pieaugot konkurentu skaitam, valdībām jāiejaucas tāpat, kā tas notiek citu bīstamu tehnoloģiju gadījumā, sacīja Geitss. Viņš pauda pārsteigumu, ka joprojām nav valsts noteiktas procedūras modeļu novērtēšanai un testēšanai pirms to publiskas pieejamības, velkot paralēles ar regulējuma prasībām lidmašīnām un automobiļiem.

Viņš sacīja, ka valdībām jāievieš obligāta modeļu novērtēšana un testēšana pirms to izvietošanas.

Vietējie modeļi, platformu kontrole un bioloģiskais risks

Geitss skaidri nošķīra mākonī izvietotus un uzraudzītus modeļus no lejupielādējamiem atvērtu parametru failiem. Lielās laboratorijas, kas modeļus uztur mākonī, izmanto drošības mehānismus un var uzraudzīt to lietojumu, tādējādi mazinot īstermiņa riskus. Draudus, pēc viņa teiktā, rada modeļi, kuru drošības ierobežojumus iespējams noņemt un kuri var darboties lokāli uz patērētāju aparatūras.

Viņš apgalvoja, ka, tiklīdz modeļi pārsniedz noteiktu spēju slieksni, nav atbildīgi publiski izplatīt to svarus, lai tos varētu darbināt personālajos datoros. Tā vietā šādiem modeļiem būtu jādarbojas tikai apstiprinātās platformās, kas nepieļauj iejaukšanos drošības mehānismos. Geitss šo loģiku attiecināja arī uz izplatīšanas platformām: viņš aicināja ieviest atsevišķus noteikumus jaudīgu modeļu publicēšanai un kontrolēt tādas platformas kā GitHub, kas pašlaik kodu publicēšanai nosaka maz ierobežojumu. Viņš sacīja, ka platformai pirms tāda modeļa publicēšanas būtu jāpieprasa ASV valdības apstiprinājums, ja modelis ir piemērots plaša mēroga kiberuzbrukumiem vai bioloģiskiem uzbrukumiem un lietotāji var to pārveidot, lai noņemtu drošības mehānismus.

Geitss brīdināja, ka neaizsargāts AI var demokratizēt postošas spējas tādā veidā, kādu pat kodolkara laikmeta ierobežojumi nespēja radīt. Atoma laikmetā, viņš sacīja, tikai lielvalstis varēja radīt ieročus ar masveida upuriem, savukārt neaizsargāts AI var nodrošināt postošas kiberdrošības un bioloģiskās spējas mazām grupām.

Atbildot uz jautājumu, vai politikai būtu jākoncentrējas uz čipiem vai platformām, Geitss uzsvēra, ka kritiski svarīga ir kontrole pār izplatīšanu un izpildi platformu līmenī. Viņš sacīja, ka, iestādēm kavējoties, jaudīgi modeļi nonāks tādu aktoru rokās, kuri atrodas ārpus uzraudzības un tiesībsargājošo iestāžu sasniedzamības.

Geitss pievērsās arī izstrādātāju domstarpībām par modeļu apziņu. Viņš sacīja, ka debatēm par AGI vai pašapziņu drošības kontekstā lielākoties nav būtiskas nozīmes: galvenais ir pragmatisks un binārs jautājums — vai sistēma spēj atslēgt banku sistēmu vai elektrotīklu. Viņš piebilda, ka, viņaprāt, pašreizējiem modeļiem nav cilvēkam līdzīgas apziņas, un piekrita Microsoft pārstāvja Mustafa Suleimana viedoklim, ka modeļus nevajadzētu uzskatīt par jūtīgām būtnēm.

Runājot par tehniskajām kontroles pieejām, Geitss izklāstīja trīs atšķirīgus virzienus. Pirmais ir ārējs uzraugs ar skaidri definētiem simboliskiem noteikumiem, kas pārbauda modeļa darbības ārpus paša modeļa. Otrais paredz mainīt apmācības mērķus, jo pašreizējās pastiprinātās mācīšanās pieejās visu, kas nav skaidri ietverts atlīdzības funkcijā, var izmantot vai apiet. Trešais ir uzlabota iekšējā pārredzamība, lai inženieri varētu izpētīt modeli un izsekot kļūdas vai anomālas uzvedības avotam tīklā.

Geitss sacīja, ka pašreizējā pieeja — apmācīt modeļus un pēc tam vērot to uzvedību — nav neiespējama, taču tā prasa apjomīgu darbu visos trīs virzienos.

Viņš apsprieda arī ekonomiskās sekas un privātu eksperimentu ar Anthropic Claude. Geitss sacīja, ka AI pakāpeniski pārņems daudzus balto apkaklīšu darbus — no klientu atbalsta, telefonpārdošanas un grāmatvedības līdz sarežģītām jomām, piemēram, programmēšanai, matemātikas pētniecībai un medicīniskajai diagnostikai. Turpmāka attīstība vēlāk veicinās arī fiziskā darba automatizāciju zilo apkaklīšu profesijās.

Tā kā darbs nodrošina ne tikai ienākumus, bet arī dzīves jēgas sajūtu, Geitss sacīja, ka sabiedrības var apzināti rezervēt noteiktas lomas cilvēkiem, pat ja AI tajās būtu pārāks. Viņš aprakstīja sarunas ar Claude par cilvēku īpatsvaru darba vietās un sacīja, ka mēģināja noteikt mērķi, lai aptuveni 40 procenti nodarbinātības paliktu cilvēku pārziņā. Claude konsekventi atbildēja, ka šāds ierobežojums būtu mākslīgs AI spēju ierobežojums.

Geitss brīdināja, ka bez apzinātiem ierobežojumiem pat 40 procenti darba vietu var nepalikt cilvēku pārziņā. Viņš prognozēja, ka traucējumi, kas jau vērojami matemātiķu vidū, izplatīsies arī citās jomās. Lai gan ieguvumi medicīnā un dzīves izmaksu samazināšanās prasīs laiku, kaitējums drošībai un darba tirgum, visticamāk, kļūs jūtams divu līdz trīs gadu laikā.

Noslēgumā viņš sacīja, ka pat labi pārvaldīta AI gadījumā nākamās divas desmitgades būs ārkārtīgi satricinošas. Daļa cilvēku pieņems tehnoloģiju, kamēr citi varētu no tās attālināties, veidojot kopienas, kas līdzinās amīšiem. Geitss piebilda, ka nākotnē iespējama pārticības ēra, tomēr aicināja godīgi brīdināt sabiedrību un aktīvi veidot politiku, lai noteiktu, kā tiks sadalīta šīs nākotnes radītā pārticība.

Geitss sacīja, ka nevēlas izteikt satraucošas prognozes, tomēr uzstāja, ka sabiedrības brīdināšana ir nepieciešama un cilvēcei joprojām ir iespēja izvēlēties, kā regulēt šīs tehnoloģijas.