AI un kritiskā domāšana: kā intelekts izmaina prasmes

Anthropic inženieris Edi Othmani publiskā piezīmē brīdina, ka pārmērīga mentālā darba uzticēšana mākslīgajam intelektam var pakāpeniski vājināt kritiskās domāšanas prasmes. Viņš uzsver, ka risks nav pašos rīkos, bet cilvēku tieksmē pieņemt AI radītos rezultātus bez kritiskas izvērtēšanas.

Othmani raksta, ka plašā AI aģentu izmantošana jau mainījusi viņa programmēšanas darba plūsmu: liela daļa ikdienas uzdevumu tiek veikta ar šo rīku starpniecību, atstājot mazāk iespēju patstāvīgi risināt problēmas. "Prasmes, ko pārstājat praktizēt, vājināsies, un, visticamāk, ātrāk nekā jūs domājat," viņš rakstīja.

Kognitīvais parāds programmēšanā

Othmani neiebilst pret AI aģentu izmantošanu programmēšanas projektos. Viņu satrauc tas, ka, lai gan šie rīki var būt noderīgi, izstrādātājiem jāsaglabā kritiskais spriedums un ģenerētais rezultāts nav jāuzskata par galīgu. Viņš uzsver, ka galīgā atbildība joprojām ir cilvēka ziņā. "Neatkarīgi no tā, cik daudz AI palīdzēja, cilvēkam jāuzņemas atbildība par darbu."

Viņš šo procesu raksturo kā kognitīvā parāda formu — pakāpenisku atkāpšanos no rūpīgas pārbaudes. "Iepriekšējo atbildi izlasāt rūpīgi, tāpēc nākamo pārskatāt ātrāk. Nākamo atbildi pārbaudāt tikai pēc tās kopējās struktūras. Tad kāds pajautā par koda rindiņu, un jūs nespējat to izskaidrot pat ar sava AI aģenta palīdzību... Tā uzkrājas kognitīvais parāds," viņš rakstīja.

Praktiski piesardzības pasākumi

Lai izvairītos no šāda parāda uzkrāšanās, Othmani iesaka vairākas konkrētas pieejas: turpināt trenēt pamatprasmes, pirms vēršanās pie AI pašiem formulēt un nostiprināt idejas, īpaši rūpīgi izvērtēt ģenerēto saturu un pārliecināties, ka tiek saprasti rīka pieņemtie lēmumi. Viņš uzsver, ka izvēlei jābūt apzinātai: AI attīstības gaitā dažas cilvēku prasmes var izzust, taču cilvēkiem pašiem būtu apzināti jāizlemj, no kurām prasmēm atteikties, nevis jāļauj tām izzust automātiski.