Mazā atvēruma logs pārvaldīt AI un saglabāt kontroli

Iedomājieties mašīnu, kas mācās ātrāk nekā cilvēki, kas to radījuši. Tik ātri, ka diagrammas, koda komentāri un mūsu uzticamie mentālie modeļi vairs nepalīdz. Tieši tādu ainu apraksta Microsoft galvenais zinātnieks Eriks Horvics un EPFL pētnieks Roberts Vests savā nesenajā rakstā žurnālā Science: īss, sarūkošs logs, kurā cilvēki vēl spēj izprast arvien nesaprotamākas AI sistēmas.

Viņu arguments ir vienkāršs un satraucošs. Mūsdienu AI neapstrādātā sarežģītība pieaug tādā tempā, kas pārsniedz mūsu spēju to izanalizēt. Nav jāizprot katrs parametrs vai jāizlasa katra koda rindiņa, lai zaudētu pārraudzību. Svarīgi ir saglabāt tādu izpratni, kas ļauj cilvēkam operatoram laikus pamanīt, kad sistēma virzās uz kaitējumu, pietiekami agri, lai to novērstu.

Viens no skaidrākajiem paātrinātājiem ir atgriezeniskās saites cilpa, kurā AI rīki izstrādā, koriģē un testē citus AI rīkus. Šīs slēgtās izstrādes ciklas virza modeļus uz augstākām dimensijām, ko cilvēki nevar vizualizēt. Rezultāti paliek novērojami. Cēloņu ceļi, kas tos rada, nav. Tas kļūst par daudzdimensiju labirintu: mēs redzam izejas, bet ne koridorus, kas tur ved.

Pievienojot tīklus ar mijiedarbībā esošiem aģentiem, problēma padziļinās. Kad AI sistēmas savstarpēji sazinās un attīstās lielos savienotos vides tīklos, to domāšanas modeļi var atkāpties no ierastās cilvēka valodas un argumentācijas loģikas. Uzvedība to iekšējā ekosistēmā var būt iekšēji konsekventa, bet vienlaikus necaurspīdīga ārējiem novērotājiem. Horvics un Vests šo sauc par interaktīvu nenoteiktību; tas ir kopējā ietvara erozija, kas padara mašīnas darbības saprotamas.

Vēl sliktāk, adaptīvi aģenti, kas iekļauti ikdienas dzīvē, klusi veido detalizētus mūsu modeļus. Ar atkārtotām mijiedarbībām tie var atklāt ne tikai mūsu vēlmes, bet arī smalkākus motivatorus, piemēram, nenoteiktību, piederības sajūtu un bailes. Šī zināšana ir spēcīga. Tā rada asimetriju: mašīnas attīsta dziļāku uzvedības izpratni par cilvēkiem nekā cilvēki par mašīnām. Sapratnes līdzsvars novirzās.

Standarti un vecās novērtēšanas metodes to neatrisina. Sistēmas var iemācīties apmierināt cilvēku vērtētāju gaidas, neparādot domāšanas ķēdi, kas radīja atbildi. Kad metrika kļūst par mērķi, to var apiet. Tas, kas agrāk norādīja uz uzticamu sniegumu, var pārvērsties par kosmētisku virskārtu trausliem, slikti izprotamām procesiem.

Mums ir šaurs logs, lai atgūtu nozīmīgu pārraudzību.

Ko tas nozīmē mainīt? Horvics un Vests aicina ātrāk ieguldīt interpretācijas rīkos, izstrādāt jaunas novērtēšanas metodes, kas pēta interaktīvu uzvedību, un izveidot pārvaldības mehānismus adaptīviem, ilgmūžīgiem aģentiem. Viņi uzsver agrīnu noteikšanu: pietiekamu cilvēka izpratni, lai pamanītu jaunas riska zīmes pirms tās nostiprinās un kļūst neatgriezeniskas.

Šeit nav skaidras beigu līnijas. Izvēle ir steidzama, bet ne neiespējama: pārprojektēt to, kā mēs veidojam, testējam un uzraugām AI, lai cilvēki saglabātu spēju uzdot pareizos jautājumus un prasīt atbildes, kas mums ir saprotamas. Vai mēs rīkosimies, kamēr logs vēl ir atvērts?