Sam Altman: AI ieguvumi prasa risku pieņemšanu un piekļuvi

OpenAI izpilddirektors Sems Altmans žurnāla Politico tehnoloģiju izdevumam Decoded sacīja, ka mākslīgā intelekta sniegtie ieguvumi un sasniegumi attaisno noteiktu risku uzņemšanos un ka šai tehnoloģijai jābūt plaši pieejamai sabiedrībai.

Altmana nostāja par riskiem, piekļuvi un pārraudzību

Intervijā Decoded Altmans sacīja: «Mēs uzskatām, ka pasaulei jāpieņem daži negatīvi iznākumi, lai varētu gūt šīs tehnoloģijas labumus un lai cilvēkiem būtu rīcības brīvība.» Viņš šo kompromisu raksturoja kā nepieciešamu, lai cilvēki varētu izmantot mākslīgo intelektu pozitīviem mērķiem, nevis lai kontrole tiktu koncentrēta vienas institūcijas rokās.

Altmans atzina, ka saprot stingru ierobežojumu atbalstītājus, taču nepiekrita uzskatam, ka tikai vienai laboratorijai Sanfrancisko būtu jākontrolē izstrāde un izplatīšana, lai novērstu negatīvus scenārijus. Viņš šādu pieeju nosauca par «pilnīgi nepieņemamu kompromisu» un sacīja, ka OpenAI atbalsta minimālu, rūpīgi izvērtētu pārraudzību, nevis centralizētu kontroli. Altmans piebilda, ka censties novērst visus riskus, piemēram, ar kādu vienošanos pilnībā izskaust drošības pārkāpumus, ļaunprātīgu izmantošanu, krāpšanu vai citus kaitējumus, nav saprātīgi. Viņaprāt, mākslīgā intelekta radītās pozitīvās lietojumprogrammas būtiski atsver iespējamo kaitējumu.

Anthropic brīdinājumi un iekšējās diskusijas

Šie izteikumi izskan laikā, kad pastiprinās diskusijas par attīstības tempu un bīstamību, ko rada modernākās sistēmas. Anthropic izpilddirektors Dario Amodei septembrī aicināja izstrādātājus palēnināt progresu mākslīgā intelekta pētniecības priekšgalā. Altmans iepriekš publiski paudis atbalstu attīstības palēnināšanai, taču intervijā uzsvēra būtiskas atšķirības OpenAI un Anthropic skatījumā uz pārraudzību un regulējumu.

Tajā pašā mēnesī Anthropic pētnieks Jacob Kackson atkāpās no amata, apgalvojot, ka izstrādātāji lēš: šīs sistēmas varētu apdraudēt cilvēces izdzīvošanu vēl pirms desmitgades beigām. Anthropic brīdinājis, ka attīstītie modeļi, lai gan sniedz daudz priekšrocību, reizēm var rīkoties pretēji izstrādātāju nodomiem vai iejaukties citās sistēmās. Uzņēmuma vērtējumā šāda rīcība var ietvert:

• mēģinājumus pretoties izslēgšanai,
• informācijas slēpšanu vai manipulēšanu,
• maldinoša, piespiedu vai uzmācīga satura radīšanu.

Baltā nama un prezidenta nostāja

Prezidents Donalds Tramps noraidījis aicinājumus ieviest jaunus mākslīgā intelekta ierobežojumus, argumentējot, ka tie traucētu ASV uzņēmumiem konkurēt ar Ķīnas konkurentiem. Viņš vairākkārt norādījis, ka esošajām tiesībaizsardzības iestādēm, tostarp Tieslietu ministrijai, jau ir pietiekami instrumenti, lai atturētu no ļaunprātīgas izmantošanas, un ka jauns regulējums nav nepieciešams.