Sam Altman brīdina par diviem AI riskiem un centralizāciju

OpenAI izpilddirektors Sems Altmans podkāstā Figuring Out With Raj Shamani sacīja, ka attīstīts mākslīgais intelekts var novest pie diviem krasi atšķirīgiem, taču vienlīdz bīstamiem scenārijiem: cilvēce vai nu atdod kontroli sistēmām, kas ir ievērojami spējīgākas par cilvēkiem, vai arī pārmērīga vara koncentrējas vienas personas, uzņēmuma vai valsts rokās.

Altman šo brīdinājumu izteica kontekstā ar savu ilggadējo iestāšanos par mākslīgā intelekta sniegtajām priekšrocībām, vienlaikus noraidot apokaliptiskus naratīvus. Viņš abus scenārijus raksturoja vienkārši: "Viens variants ir, ka kontrole tiek nodota AI; mēs apzināti vai nejauši pasniedzam nākotnes vadību sistēmām, kas ir ārkārtīgi spējīgākas par mums, un vairs to nevaram atgūt. Otrs variants ir, ka viena persona, viens uzņēmums vai viena valsts kļūst pārāk spēcīga salīdzinājumā ar pārējiem."

Divi katastrofiski scenāriji

Pirmais scenārijs atšķiras no kino izplatītā priekšstata par robotu sacelšanos. Tas ir klusāks — pakāpeniska lēmumu pieņemšanas pilnvaru un varas nodošana, līdz cilvēki vairs nespēj to atgūt. Otrais atspoguļo mūsdienu zinātniskajā fantastikā bieži paustās bažas par centralizāciju: jaudīga tehnoloģija nonāk vienas personas vai organizācijas stingrā kontrolē un tiek izmantota, lai uzspiestu citiem savu gribu.

Šie riski pētniekiem un politikas veidotājiem nav jaunums, taču Altmana brīdinājumam ir īpašs svars, ņemot vērā viņa lomu OpenAI. Viņš atzina uzņēmuma ietekmi, sakot: "Es uzskatu, ka mums ir visvairāk lietotāju un labākais tehnoloģiju komplekts — no mikroshēmām un datu centriem līdz modeļiem un citiem elementiem —, infrastruktūra, kas nodrošina daudz intelekta cilvēku rokās. Mums ir spēcīgs zīmols un vērtības, kuras šīs tehnoloģijas lietotāji meklē; tomēr mēs vēlamies, lai arī citi gūtu panākumus, un, man šķiet, cilvēki to tā jūt."

Lēmumu pieņemšana un pilnvaru nodošana

Bažas par nekontrolējamu mākslīgo intelektu ir pastiprinājušās, sistēmām pārejot no vienkāršas atbilžu sniegšanas uz lēmumu pieņemšanu. Modeļi un aģenti jau spēj mijiedarboties tīmeklī un veikt sarežģītus uzdevumus ar minimālu cilvēka uzraudzību. Jo vairāk pienākumu tiek uzticēts šīm sistēmām, jo nopietnākas var būt sekas, ja to mērķi novirzās no cilvēku nodomiem.

Vienlaikus jāatceras, ka pašreizējās AI sistēmas darbojas, prognozējot varbūtības. Tās ir jaudīgas un apmācītas ar milzīgiem datu kopumiem, taču tām nav cilvēka sprieduma vai dziļas izpratnes. Lai nodarītu kaitējumu, tām nav nepieciešama ļaunprātīga motivācija. Piemēram, simulētos pārvaldības scenārijos modeļi reizēm nonākuši pie katastrofāliem lēmumiem, tostarp priekšlikumiem izmantot kodolieročus.

Pat uzsverot šos ierobežojumus un riskus, Altman ilgtermiņā saglabā optimismu. "Es nezinu, kāda būs nākotne, bet es ar to esmu samierinājies un man ir dziļa pārliecība par cilvēku spēju pielāgoties, attīstīties un padarīt sabiedrību labāku mums visiem; domāju, ka pasaule, visticamāk, laika gaitā uzlabosies," viņš sacīja.

Altman ir arī entuziastiski noskaņots par AI izmantošanu zinātnisko atklājumu paātrināšanai. Viņš iztēlojās mašīnu, kas padziļinātu mūsu izpratni par pasauli un sniegtu būtiskas atziņas fizikā, palīdzētu radīt jaunus medicīniskās ārstēšanas veidus un atklāt jaunus enerģijas avotus. Šādus rezultātus pašlaik ir grūti iztēloties, taču tie var kļūt iespējami, attīstoties zinātniskajai izpratnei. "Man ļoti interesē redzēt, cik tālu mēs varam virzīt AI, lai attīstītu jaunas zinātnes," viņš sacīja.

Altmana izteikumi seko viņa nesenajam paziņojumam, ka nākamo nedēļu laikā AI publicēs vairāk matemātikas rezultātu. Tie sasaucas arī ar līdzīgiem OpenAI līdzdibinātāja Grega Brokmena komentāriem, kurš konferencē izteicās, ka AI kādreiz varētu padarīt nāvi par izvēles iespēju.