Nvidia vadītājs Huang noliedz, ka MI iznīcinās cilvēci

Nvidia izpilddirektors Džensens Huangs noraidījis nesenos brīdinājumus, ka mākslīgais intelekts (MI) varētu izraisīt cilvēces izzušanu, norādot, ka daži MI uzņēmumu vadītāji sabiedrību varētu biedēt citu motīvu dēļ. Intervijā raidījumam CBS Sunday Morning viņš sacīja, ka MI izraisīta pasaules gala varbūtību līdz 2030. gadam vērtē ar nulli procentu.

Huangs noraida apgalvojumus par eksistenciālu risku

Huangs norādīja, ka bažas par MI drošību lielā mērā ir pamatotas, taču brīdinājumiem, kuros tehnoloģija attēlota kā iznīcinošs drauds, trūkst zinātniska pamatojuma. Viņš atzina, ka MI var izmantot "ļoti bīstamiem pielietojumiem" un ka tas jāizstrādā "droši", tomēr uzsvēra, ka 2030. gada attēlošana kā pasaules gala ir neprecīza. "Lai kā jūs to aprakstītu, 2030. gads nebūs pasaules gals. Varbūtība, ka tas būs pasaules gals, ir nulle procentu," viņš sacīja.

Nozares diskusijas un aicinājumi regulēt MI

Huanga komentāri izskanēja laikā, kad sabiedrībā atkal aktualizējušās diskusijas par MI riskiem. Šī mēneša sākumā kāds bijušais Anthropic pētnieks sacīja, ka daudzi vadošo MI uzņēmumu darbinieki "patiesi tic, ka šī tehnoloģija var mūs visus nogalināt līdz desmitgades beigām." Šis izteikums pastiprināja nozares pārstāvju aicinājumus palēnināt attīstību un stiprināt drošības pasākumus.

• Dario Amodei, Anthropic izpilddirektors, aicināja palēnināt pētījumu tempu, ieviest nacionālas testēšanas programmas un stiprināt drošības pasākumus.
• Sams Oltmans, OpenAI izpilddirektors, atbalstīja pētījumu tempa palēnināšanu, savukārt uzņēmums mudināja valdības noteikt obligātas drošības prasības.
• Kāds bijušais Anthropic pētnieks brīdināja, ka daudzi darbinieki uzskata, ka MI līdz desmitgades beigām varētu radīt eksistenciālu draudu.

Motīvi, esošo likumu piemērošana un praktiski drošības pasākumi

Huangs pieļāva, ka daži nozares līderi eksistenciālo risku var pārspīlēt politisku motīvu dēļ vai uzmanības piesaistīšanai. Viņš arī apgalvoja, ka nesenie aicinājumi pastiprināt regulējumu varētu liecināt par mēģinājumiem izvairīties no atbildības par esošo noteikumu pārkāpumiem, īpaši ņemot vērā nesenos drošības incidentus. "Neļaujiet šim apokaliptiskajam naratīvam kalpot par ieganstu, lai kādu atbrīvotu no jau esošo likumu ievērošanas. Viņi patiesībā neprasa vairāk likumu. Viņi vēlas tikt atbrīvoti no likumiem, kas mums jau ir," viņš sacīja, piebilstot: "Vispirms piemērojiet esošos likumus."

Huangs norādīja, ka MI drošībā būtu jāizmanto praktiskāka, procesuāla pieeja, līdzīga tai, kas tiek piemērota komerciālajā aviācijā. Viņš sacīja, ka, tehnoloģijām nobriestot, inženieri parasti pārorientējas no vienkāršas sistēmu izveides uz drošas darbības nodrošināšanu, izmantojot pārbaudes, testēšanu, novērtēšanu un standartizāciju. "Vispirms dariet praktiskās lietas, un tikai pēc tam varam runāt par teorētiskajām. Bet nerunājiet par teorētiskajām lietām, nedarot praktiskās," viņš sacīja.