Gates brīdina: nākamgad pieaugs AI vadīti kiberuzbrukumi

Microsoft līdzdibinātājs Bils Geitss nesen intervijā ziņu aģentūrai Agence France-Presse sacīja, ka nākamā gada laikā, visticamāk, pieaugs ar mākslīgo intelektu saistītu kiberuzbrukumu skaits. "Joma, kurā nākamgad, visticamāk, redzēsim vislielāko pieaugumu, ir kiberuzbrukumi," viņš sacīja, uzsverot, ka lielākas bažas rada tūlītēja ļaunprātīga izmantošana, nevis nekontrolējamas sistēmas.

Geitss brīdināja, ka saglabājas arī attālāks, taču joprojām būtisks risks — mākslīgais intelekts var izkļūt no cilvēku kontroles. Tomēr tā plašākās sekas, visticamāk, nebūs jūtamas vēl vairākus gadus. "Patlaban īstā briesma nav tā, ka AI iziet ārpus kontroles. Pie tā jāstrādā, taču lielākā ietekme joprojām būs redzama tikai pēc vairākiem gadiem," viņš sacīja.

Viņa aktuālākās bažas ir citur — ļaundari var izmantot jaudīgus modeļus, noņemot to drošības ierobežojumus. "Pašlaik visus šos drošības pasākumus ir iespējams noņemt," sacīja Geitss, norādot, ka pieejamās modifikācijas var padarīt sistēmas kaitīgas.

Viņš brīdināja, ka ļaunprātīgi nodomi, nepietiekami vai neesoši aizsardzības mehānismi un piekļuve jaunākajiem AI modeļiem nākamgad var radīt neparedzētas negatīvas sekas, īpaši kiberuzbrukumu jomā.

Nozares pašregulācijas robežas

Geitss arī noraidīja domu, ka AI uzņēmumi spēj uzticami uzraudzīt paši sevi. Viņš sacīja, ka šādu viedokli paudis arī ASV prezidents Donalds Tramps. Geitss uzsvēra, ka paļaušanās uz uzņēmumu brīvprātīgu pašuzraudzību nav pietiekama, ja runa ir par tehnoloģiju ar tik plašu potenciālu.

"Ideja, ka lēmumus par cilvēces vēsturē bīstamāko tehnoloģiju pieņem uzņēmumi un ka tie vienlaikus ir vienīgais sabiedrību regulējošais spēks, liecina, ka ar mūsu rīcību nepietiek."