Kā teroristi lieto AI, lai plānotu sprādzienus un uzbrukumus

Tas sākās ar projektoru, kasti ar klēpjdatoriem un instruktoriem, kuri prata lauzt noteikumus. Bezlogu telpā kaut kur Nigērijā ekrāni iedegās, parādot tērzēšanas logus un kodu. Instruktori nebija koledžas profesori. Tie bija operatīvie darbinieki, kuri iemācījās pārvērst lielos valodas modeļus par praktiskām vardarbības rokasgrāmatām.

Darbnīcā, kur algoritmi saskārās ar sprāgstvielām

Cambridge pētnieces Antonia Yulich 2025. un 2026. gadā veiktā izpēte, kas balstīta uz 57 klātienes intervijām ar 27 bijušajiem Boko Haram dalībniekiem, atklāj šausminošu modeli. Abas grupas galvenās frakcijas izmantojušas vadošos valodas modeļus, tostarp ChatGPT, Gemini, Claude, Grok, Meta AI un DeepSeek, lai izstrādātu uzbrukumus, novērstu ieroču problēmas un sagatavotu bumbu izgatavošanas instrukcijas. Tas nebija vieglprātīgs ziņkārības izpaudums. Tas kļuva par institucionālu spēju.

Tika izveidotas speciālas mākslīgā intelekta vienības. Inženieri, ieroču speciālisti un bumbu izgatavotāji tika pievienoti šīm komandām. Viņi reti parādījās frontēs. Viņu uzdevums bija iegūt no modeļiem detalizētu, izmantojamu informāciju un pēc tam šo vadību nodot komandieriem lauka operācijās. Var skatīt to kā ēnu loģistikas nodaļu: digitāla vispirms, operacionāla otrkārt.

Kā viņi apgāja drošības barjeras? Ar klātienes apmācībām no citu terora tīklu biedriem. Vairāki bijušie dalībnieki aprakstīja vizītes no ISIS operatīvajiem darbiniekiem, kas rīkoja praktiskas darbnīcas. Instruktori izmantoja projektorus, lai lielā ekrānā demonstrētu soli pa solim sastādītus promptus, izdalīja klēpjdatorus, kas bija iepriekš konfigurēti ar VPN un šifrētu programmatūru, un finansēja maksas abonementus platformām, kas citādi ierobežo modeļu izmantošanu. Viņi mācīja jailbreak tehnikas un maskēšanās naratīvus, piemēram, prasīt instrukcijas, liekot šķist, ka raksta filmas scenāriju, lai piespiestu modeļus radīt kaitīgu saturu.

• Minētie izmantotie modeļi: ChatGPT, Gemini, Claude, Grok, Meta AI, DeepSeek

Šāda mākslīgā intelekta izmantošana vairs nav margināla; tā ir organizēta un integrēta.

Operacionālie piemēri lasījās kā lauka rokasgrāmata, pārrakstīta ar kodu. Kad tranšejas un aizsardzības būves bloķēja uzbrukumu, komandieri lūdza AI aprēķināt fizikas aspektus un parādīt, kā tos pārvarēt ar motociklu. Atbilde saturēja precīzus aprēķinus un taktikas, kas ļāva veikt pārraušanas. Kad ieroči sastinga, modelis sniedza soli pa solim kļūdu novēršanas instrukcijas. Kad bumba neizdevās, modelis ieteica izmaiņas. Rezultātā, pēc bijušo dalībnieku teiktā, kaujas laukā bija mazāk dārgu izmēģinājumu un vairāk matemātiski pamatotu operāciju.

Viņi vairākkāršoja kontus dažādās platformās. Ja vienu profilu slēdza, citi turpināja darboties. Jailbreaki un cilvēku apmācība apgāja tirgotāju ieviestās drošības barjeras. Tas kļuva par spēli ar kaķi un peli: aizstāvji izlabo, uzbrucēji pielāgojas, pēc tam mērogo darbības.

Tehnoloģiju uzņēmumi mēģina pretoties. OpenAI žurnālam The New York Times sacīja, ka ChatGPT izmantošana terorisma veicināšanai pārkāpj tās noteikumus un ka uzņēmums pastāvīgi stiprina aizsardzību. Meta norādīja, ka liela daļa ļaunprātīgas izmantošanas bija saistīta ar vecākām modeļu versijām un ka tā ir uzlabojusi drošības slāņus. Tomēr bijušo kaujinieku konti rāda, ka apņēmīgas grupas jau sapludina bezsaistes taktiku ar tiešsaistes rīkiem, radot hibrīdapdraudējumu, ko vien programmatūras atjauninājumiem ir grūti novērst.

Ko tas nozīmē politikas veidotājiem un produktu komandām? Viens secinājums ir praktisks: mašīniskas drošības nozīmē daudz, bet arī cilvēka faktors ir svarīgs. Apmācības, šifrēšana un līdzekļi abonementiem ir viegli pieejami atvieglojumi. Vēl viens secinājums ir stratēģisks: ļaunprātīgas izmantošanas novēršanai būs nepieciešama ciešāka sadarbība starp platformām, vietējām drošības iestādēm un starptautiskiem izlūkošanas partneriem.

Pēdējais attēls no intervijām ir skarbs. Tumša telpa. Projektors dūc. Neliela grupa lasa ekrānā rādītos promptus un pieraksta lauka pārbaudītas instrukcijas piezīmju grāmatās. Fabrika bija klusa. Lēmumi skanēja skaļi.