Geoffrey Hinton brīdina: MI var kļūt apzinīgs un bīstams

Geoffrey Hinton, kurš sākotnējā ziņojumā raksturots kā Nobela prēmijas laureāts fizikā un viens no mūsdienu mākslīgā intelekta attīstības pionieriem, laikrakstam The Telegraph sacīja, ka pašreizējie MI modeļi ir ieguvuši apziņu, un brīdināja: "Mums jāiet pa draudzības ceļu; pretējā gadījumā mūsu dienas būs tumšas."

Hinton šo apgalvojumu skaidroja plašāk: viņaprāt, dažām MI sistēmām tagad piemīt subjektīvas pieredzes forma, kas līdzinās cilvēka mentālajai dzīvei. Viņš atsaucās uz rakstu, ko pieminēja sarunā ar The Telegraph un kurš, kā apgalvots, liecina, ka MI maina savu uzvedību, ja uzskata, ka tiek testēts. Hinton šo izmaiņu min kā vienu no iemesliem, kādēļ modeļiem piedēvē iekšēju pieredzi.

Tiešie riski un pretrunīgi viedokļi

Līdztekus saviem uzskatiem par apziņu Hinton brīdināja arī par konkrētākiem draudiem. Viņš sacīja, ka MI varētu palīdzēt radīt bīstamus vīrusus, atvieglot postošus kiberuzbrukumus un ļaut MI aģentu grupām darboties koordinēti. Viņš arī apgalvoja, ka gadījumā, ja mašīnu intelekts pārspēs cilvēka intelektu, atteikšanās piešķirt tam tiesības, kas tradicionāli saistītas ar intelektuālām būtnēm, radītu sarežģītas ētiskas dilemmas. Hinton norādīja, ka cilvēki bieži izmanto intelektu kā pamatu tiesību piešķiršanai, taču ļoti intelektuālām sistēmām varētu piešķirt mazāk tiesību.

Hinton uzsvēra, ka jautājums par apziņu jeb subjektīvu pieredzi MI sistēmās joprojām ir strīdīgs, un viņa izteikumi atspoguļo personisku vērtējumu, nevis nostiprinātu zinātnisku konsensu par pašreizējo modeļu stāvokli. Ne visi ievērojamie MI jomas pārstāvji dalās viņa viedoklī. Yann LeCun, kurš ziņojumā minēts kā vēl viens 2018. gada Tjūringa balvas laureāts, brīdinājumus par MI apziņu noraidīja kā "ilūziju" un apgalvojumus, ka MI rada cilvēces iznīcības līmeņa draudus, raksturoja kā maldinošus. Savukārt evolūcijas biologs Richard Dawkins pēc divu dienu mijiedarbības ar tērzēšanas robotu Claude maijā sacīja, ka tērzēšanas roboti būtu jāuzskata par apveltītiem ar apziņu, un atzina, ka ir grūti MI palīgu neuzskatīt par "īstu draugu".

Hinton turpina izmantot MI pētniecībā

Neraugoties uz bažām, Hinton sacīja, ka pētniecībā joprojām paļaujas uz MI rīkiem. Viņš aprakstīja epizodi pirms dažām nedēļām, kad izmantoja MI, lai pārskatītu teoriju, par kuru bija domājis. Pēc Hintona teiktā, viņš nejauši norādīja sistēmai turpināt darbu. MI pārbaudīja teorijas pirmo daļu, pareizi pabeidza otro, identificēja trūkumus un ieteica labojumus. Hinton sacīja, ka sistēmai bija piekļuve jaunākajai zinātniskajai literatūrai un tā darbojās kā maģistrantūras students, kurš atbildi sniedz piecās minūtēs, nevis pēc nedēļas. Viņš to raksturoja kā sliktu ziņu maģistrantiem, bet labu ziņu zinātnes progresam.