Džefrijs Hintons: AI jāregulē kā zāles, drošības pārbaudes

Džefrijs Hintons, datorzinātnieks, Nobela prēmijas laureāts un bieži dēvēts par mākslīgā intelekta krusttēvu, aicina AI izstrādātājiem piemērot regulatīvās pārbaudes, kas līdzinātos farmācijas uzņēmumiem noteiktajām prasībām. Podkāstā "Gudrā meitene: dumjie jautājumi" sarunā ar vadītāju Naeimeh Reza viņš uzsvēra, ka uzņēmumiem pirms modeļu publiskas laišanas klajā jāspēj pārliecināt regulētājus par to drošumu.

"Jums nav atļauts vienkārši izstrādāt jaunas zāles un laist tās tirgū. Jums jāspēj pārliecināt FDA, un, lai to izdarītu, jāveic milzīgs darbs, kas maksā aptuveni vienu miljardu dolāru. Man šķiet, ka tas būtu minimums, ko mums vajadzētu prasīt no AI," raidījumā sacīja Hintons.

Aicinājums uz drošības uzraudzību

Hintona priekšlikums izskan laikā, kad no jauna tiek diskutēts par AI radīto risku pārvaldību. Ieteikums seko gan plaši izskanējušiem brīdinājumiem par tehnoloģijas iespējamo kaitējumu nākotnē, gan OpenAI nesenajam lēmumam nolikt malā savu jaunāko modeli pēc iekšējiem testiem, kuros radās bažas par tā spēju ievērot lietotāju norādījumus un darboties tikai tam piešķirto pilnvaru robežās.

OpenAI drošības sistēmu direktore Sachi Jain norādīja, ka uzņēmuma GPT-6.1 Astra demonstrēja labāku noturību un spēju risināt sarežģītus uzdevumus, tomēr atpalika piekļuves līmeņu kontrolē un nespēja precīzi ziņot par savām darbībām. Hintons šo parādību minēja kā vienu no iemesliem, kādēļ varētu būt nepieciešama ārēja validācija.

Viņš arī brīdināja, ka attīstības temps paātrinās, jo AI rīki arvien vairāk palīdz uzlabot paši sevi. "Eksponenciāla izaugsme notiek ļoti ātri. Mēs redzam atkārtotas pašuzlabošanās sākumu, jo AI tiek izmantots, lai dažādos veidos uzlabotu pašu sevi," viņš sacīja.

Salīdzinājumu ar FDA Hintons raksturoja kā praktisku atskaites punktu, nevis precīzu regulatīvu modeli. Viņš ierosināja, ka neatkarīgu drošības pārbaužu izmaksām un to veikšanai nepieciešamajām pūlēm jābūt pietiekami ievērojamām, lai pārbaudītu, vai izstrādātāji ir gatavi plašā mērogā ieviest ļoti jaudīgas sistēmas.

"Tas ir tikai minējums, bet es domāju, ka mums ir viens vai divi gadi, līdz situācija kļūs daudz sliktāka nekā pašlaik," piebilda Hintons, savus komentārus noslēdzot ar īsu prognozi par iespējamo risku pieaugumu.