Karalis Čārlzs brīdina par mākslīgā intelekta riskiem

Karalis Čārlzs III ceturtdien vadošo mākslīgā intelekta uzņēmumu vadītājiem sacīja, ka mākslīgais intelekts var attīstīt "tumšākas spējas, iespējams, pat spēju atņemt cilvēkiem dzīvību", un uzsvēra, ka aizsardzības pasākumi jāievieš, pirms nav par vēlu.

Brīdinājums izskanēja privātā sanāksmē, ko viņš rīkoja ar dažiem no nozares vadošajiem pārstāvjiem un augsta līmeņa Lielbritānijas amatpersonām. Karalis klātesošajiem tehnoloģiju vadītājiem sacīja, ka "cilvēki, kuri radījuši šīs tehnoloģijas, tagad vairāk nekā jebkad brīdina, ka MI var attīstīt tumšākas spējas, iespējams, pat spēju atņemt cilvēkiem dzīvību". Viņš piebilda: "Šajā ziņā, ja drīkstu tā teikt, šķiet steidzami rūpīgi izvērtēt eksistenciālos riskus, ko rada šo tehnoloģiju nonākšana nepareizo cilvēku rokās un to izmantošana potenciāli katastrofālos veidos."

Kas piedalījās un kāds bija sanāksmes konteksts

Sanāksmē piedalījās Nvidia izpilddirektors Jensen Huang, vairāki OpenAI un Anthropic vadītāji, jaunais Lielbritānijas mākslīgā intelekta ministrs Kanishka Narayan un valsts ārējās izlūkošanas dienesta vadītājs. Klāt bija arī pāvesta padomnieks MI jautājumos Paolo Benanti. Sanāksme bija privāta un notika ceturtdien.

Šie izteikumi ir ievērības cienīgi, jo Lielbritānijas karaliskā ģimene konstitucionālu iemeslu dēļ tradicionāli izvairās aktīvi iesaistīties politiskās debatēs, savukārt MI pašlaik ir viens no visvairāk apspriestajiem jautājumiem pasaulē. Karalis MI straujo attīstību raksturoja kā vienlaikus aizraujošu un dziļi satraucošu.

Drošības bažas un nesenā atkāpšanās

Karļa komentāri izskanēja pēc kāda Anthropic pētnieka atkāpšanās drošības apsvērumu dēļ. Internetā publicētā ierakstā pētnieks rakstīja, ka MI uzņēmumi "sacenšas būvēt mašīnas, kas būs daudz gudrākas par jebkuru cilvēku", un brīdināja, ka "cilvēce to var nepārdzīvot".

Noslēgumā karalis Čārlzs aicināja vadītājus rast veidus, kā izmantot MI pozitīvās puses, kā arī veidot starptautisku sadarbību un vienošanos, lai to panāktu.