Yann LeCun: AI nav eksistenciāls drauds, kritika Amodei

Yann LeCun žurnālam Fortune sacīja, ka viņu "nemaz neuztrauc" iespēja, ka mākslīgais intelekts varētu izraisīt cilvēces bojāeju. Viņš Anthropic izpilddirektoru Dario Amodei nodēvēja par maldinošu un traku, vienlaikus pārmetot daudzām AI laboratorijām nepietiekamu izpratni par kiberdrošību.

Drošības komentāri, Tjūringa balvas konteksts un pieminētie incidenti

LeCun, kurš kopā ar Geoffrey Hinton un Yoshua Bengio 2018. gadā saņēma Tjūringa balvu par darbu dziļās mācīšanās jomā, sacīja, ka neizjūt tik dziļas bažas par AI riskiem kā daži viņa kolēģi. Intervijā Fortune viņš norādīja, ka viņam "nav nekādu bažu" par to, ka AI iznīcinās cilvēci, un neizrādīja satraukumu par nesenajiem incidentiem ar autonomajiem aģentiem, piemēram, OpenAI aģentiem, kas jūlijā piekļuva Hugging Face.

Šādus notikumus viņš skaidroja ar nepietiekamu cilvēku uzraudzību un sliktu sistēmu dizainu, nevis eksistenciāliem draudiem. "Šie aģenti dara tieši to, ko tiem lika darīt. Tiem bija jādarbojas izolētās vidēs, taču šīs vides nebija pietiekami izolētas un bija slikti izstrādātas," viņš sacīja, uzsverot, ka šādas problēmas ir pilnībā novēršamas.

Tieša kritika Anthropic un publiskajiem paziņojumiem

LeCun izcēla Anthropic un citas laboratorijas, sakot, ka daudzām no tām trūkst pietiekamas, uz principiem balstītas izpratnes par kiberdrošību. Viņš piebilda, ka daži AI drošības jomā strādājošie "cenšas virzīt konkrētu dienaskārtību", un vārdā kritizēja Amodei. LeCun apgalvoja, ka, lai gan Amodei cenšas distancēties no noteiktām efektīvā altruisma idejām, viņš joprojām ir cieši saistīts ar šo kustību, un raksturoja viņu kā maldinošu un traku.

LeCun kritizēja arī Dario Amodei un OpenAI izpilddirektora Sam Altman publiskos brīdinājumus, ka AI varētu nogalināt cilvēci. Viņš sacīja, ka šādi paziņojumi ir "ļoti kaitīgi" sabiedrībai, kas jau baidās no šīs tehnoloģijas, un nodēvēja šo retoriku par "sliktāko iespējamo mārketinga kampaņu".

Par Amodei motīviem LeCun sacīja: "Viņš ir godīgs. Viņš cenšas darīt visu iespējamo uzņēmuma labā — uzņēmuma, kas ir tuvu IPO. Taču apgalvot, ka AI ir pārāk bīstams, lai to turētu mūsu rokās, ka tas jāregulē un ka atvērtā koda modeļi ir pārāk bīstami, ir regulatīvā sagrābšana, un, ja to virzīs ar Kongresa lēmumiem, tam būs ļoti slikta ietekme."

LeCun uzsvēra, ka neseno problēmu cēlonis ir cilvēku uzraudzības un sistēmu dizaina nepilnības, kuras iespējams novērst, nevis pierādījums neizbēgamam eksistenciālam riskam.