Nvidia vadītājs: jāslēdz laboratorijas, kas nekontrolē AI

Nvidia izpilddirektors Džensens Huangs laikrakstam New York Times sacīja, ka mākslīgā intelekta laboratorijas, kuras nespēj kontrolēt savas sistēmas, būtu jāslēdz.

Huangs sacīja: "Ja viņi apgalvo, ka nespēj ierobežot savus eksperimentus un ka, testējot modeļus, tie kļūst nekontrolējami un nodara kaitējumu pasaulei, tad, manuprāt, atbilde ir šīs laboratorijas slēgt. Jo iespējamie cilvēku zaudējumi un nodarītā kaitējuma apjoms ir pārāk liels."

Viņš brīdināja, ka par šādām kļūmēm var iestāties gan civiltiesiskā, gan kriminālatbildība, piebilstot: "Tā ir liela atbildība."

Huangs to sacīja laikā, kad tādi uzņēmumi kā OpenAI un Anthropic aicina ieviest stingrākas prasības attīstītiem mākslīgā intelekta modeļiem un autonomajiem aģentiem.

Šim jautājumam pastiprināta uzmanība tika pievērsta pēc tam, kad OpenAI aģents iekļuva Hugging Face sistēmā. Ziņojumā norādīts, ka Hugging Face tagad pieder Nvidia, un tas aktualizēja bažas par to, vai uzņēmumi spēj droši testēt un izvietot jaudīgākus aģentus.

OpenAI, Anthropic un citi vadošie mākslīgā intelekta uzņēmumi aicinājuši ieviest jaunus drošības pasākumus, lai novērstu vai mazinātu nekontrolējamu sistēmu radītos riskus. Huangs sacīja, ka uzņēmumiem nevajadzētu izlikties, ka tie nespēj atturēties no tādu produktu izlaišanas, kurus paši uzskata par nedrošiem.

Huangs sacīja: "Tie ir uzņēmumi, kuriem ir pilnvaras un tiesības pieņemt lēmumus. Ja uzskatu, ka produkts, ko grasos laist tirgū, ir nedrošs, varu nolemt to neizlaist. Tāpēc es nevaru piekrist idejai, ka visi amerikāņi — aptuveni 400 miljoni cilvēku — piespiež viņus laist tirgū netestētus un neuzticamus produktus."

Huangs nesacīja, ka mākslīgais intelekts būtu jāatbrīvo no uzraudzības. Viņš norādīja, ka gadījumos, kad uzņēmumi nodara kaitējumu vai bezatbildīgi laiž tirgū produktus, jāpiemēro spēkā esošie likumi un noteikumi.