Pāvests aicina demilitarizēt mākslīgā intelekta ieročus

Pāvests Leo XIV aicināja uz mākslīgā intelekta sistēmu „demilitarizāciju” un mudināja valdības neuzticēt mašīnām lēmumus par dzīvību, brīvību un spēka lietošanu. Viņš šo aicinājumu formulēja kā juridisku un drošības jautājumu, kas jāapspriež nākamajā mēnesī gaidāmajā sanāksmē Ženēvā.

Aicinājums uz konkrētu rīcību Ženēvā

Piektdienas runā pāvests aicināja Apvienoto Nāciju Organizācijas dalībvalstis veikt „konkrētas darbības, lai aizliegtu letālos autonomos ieročus”. Viņš uzsvēra, ka tā nav tikai ētiska brīdinājuma forma, bet jautājums, kas tieši saistīts ar juridiskajām un drošības diskusijām, kuras nākamajā mēnesī turpināsies Ženēvā.

Cilvēka uzraudzība un juridiskā atbildība

Leo XIV sacīja, ka cilvēkiem ir „atbildība virzīt, mainīt un, ja nepieciešams, noraidīt” mākslīgā intelekta lietojumus. Viņš skaidroja, ka šajā kontekstā termins „demilitarizācija” nenozīmē pilnīgu atteikšanos no AI, bet gan to lietojumu ierobežošanu, kas bez efektīvas cilvēka kontroles var izraisīt nāvi vai kaitējumu.

Viņa argumentācijas centrā bija juridiskas robežas novilkšana starp instrumentu un aģentu. „Mašīnas ir rīki, nevis personas,” viņš sacīja. Pāvests brīdināja, ka, piešķirot AI sistēmām tiesības vai juridiskas personas statusu, var tikt izpludināta cilvēka atbildība, īpaši gadījumos, kad sistēmas lēmums ietekmē cilvēka dzīvību, brīvību vai drošību.

Lēmumiem, kas ietekmē dzīvību, brīvību un spēka lietošanu, vienmēr jāpaliek efektīvā, informētā un atbildīgā cilvēka uzraudzībā.

Saistība ar Vatikāna nostāju un pāvesta kontekstu

Pāvesta izteikumi turpina Vatikāna nostāju attiecībā uz autonomajiem ieročiem. Pāvests Francisks 2024. gadā līdzīgi aicināja aizliegt šādas sistēmas, sakot: „nevienai mašīnai nekad nedrīkst ļaut izvēlēties cilvēka dzīvības atņemšanu.” Leo XIV šo pašu principu attīsta tālāk, stingrāk uzsverot regulējošos mehānismus un atbildību.

Mākslīgais intelekts ir bijis atkārtots temats kopš Leo XIV pontifikāta sākuma. Viņš sava vārda Leo izvēli saistījis ar mūsdienu tehnoloģiskajiem izaicinājumiem, atsaucoties uz vēsturisku paralēli ar Leo XIII, kurš pieredzēja industriālās revolūcijas radītās sociālās un ekonomiskās pārmaiņas. Leo XIV straujo AI attīstību raksturoja kā līdzīgu pārmaiņu procesu, kam nepieciešama ētiska un institucionāla atbilde.

• Aicināja ANO dalībvalstis nākamajā mēnesī Ženēvā aizliegt letālos autonomos ieročus
• Uzsvēra cilvēka uzraudzību un juridisko atbildību par AI lēmumiem, kas ietekmē dzīvību, brīvību un spēka lietošanu
• Definēja šo jautājumu gan kā ētisku, gan kā starptautiskās drošības un tiesību jautājumu

Pāvests šo prasību izvirzīja kā turpinājumu savam iepriekšējam dokumentam par cilvēka cieņas aizsardzību AI laikmetā, paplašinot šo ētisko ietvaru, lai tajā iekļautu ieroču politiku, juridisko atbildību un starptautisko uzraudzību.