Kā AI palielina aizsardzību pret kiberuzbrukumiem efektīvi

Iedomājieties programmatūru, kas spēj sastādīt darbspējīgu ekspluatāciju, kamēr cilvēka analītiķis vēl lasa brīdinājumu. Šausminoši? Tā ir. Gregs Brokmans, OpenAI prezidents, šo brīdinājumu skaidri izsaka bez ierastā korporatīvā izvairīšanās.

Brokman apgalvo, ka tās pašas atziņas, kas padara AI labāku koda rakstīšanā, vienlaikus pazemina slieksni uzbrucējiem. Viņa piedāvātais risinājums ir vienkāršs un pretrunīgs: izmantot AI vairāk un ātrāk, lai aizsargātu tīklus un programmatūru.

Kāpēc aizstāvjiem jāpieņem autonomie palīgi

Mākslīgais intelekts, pēc viņa domām, var mainīt kiberdrošības ekonomiku aizstāvju labā. Iedomājieties mašīnas, kas rada daudz drošāku kodu. Vai arī formālās, matemātiskās pierādīšanas metodes, kas nostiprina kriptogrāfiskās sistēmas. Tas nav zinātniskās fantastikas plāns. Šie ir praktiski rīki, kas var samazināt cilvēku kļūdas un padarīt drošību mērogojamu.

Tātad, ko drošības komandas īsti var darīt? Brokmans iesaka prioritizēt AI aģentus kā drošības rīkkopas daļu. Šie aģenti nav triki. Viņi var skenēt kodu, atklāt ievainojamības, analizēt piegādes ķēdes riskus un veikt triažu ar ātrumu, ko cilvēku komanda nevar sasniegt. Sāciet ar mazumiņu. Veidojiet uzticību. Tad virzieties tālāk.

• Sāciet ar vienkāršām automatizētām skenēšanām, lai identificētu viegli novēršamas problēmas.
• Pārejiet pie operacionālām skenēšanām, kas pastāvīgi darbojas pret ražošanas servisiem.
• Ieviesiet automatizētu viltus pozitīvu slāpēšanu un korekciju acīmredzamiem gadījumiem.

Paceļot uzsvaru uz pakāpenisku ieviešanu ir mērķtiecīgi. Brokmans vēlas, lai aizsardzības attīstās soli pa solim, nevis tikai uzmest neiztestētu aģentu un cerēt uz labāko.

Pēdējie mēneši šo spriedzi skaidri parādīja. Pēdējā paaudze modeļu, piemēram, Mitos no Anthropic, ir piesaistījusi drošības komandu un regulatoru uzmanību. Šīs sistēmas bieži tiek izlaistas ierobežotas piekļuves programmās uzticamiem partneriem, tomēr to spēja pamanīt konfigurācijas kļūdas un izstrādāt jaunas uzbrukuma ķēdes liek uzmanīgi sekot līdzi. Attīstība tagad koncentrējas uz aģentiem, kas var tieši mijiedarboties ar programmatūru, kas rada gan iespējas, gan riskus.

Kādi drošības pētnieki bažījas, ka drošības mehānismi ap lielajiem valodu modeļiem nav attīstījušies tikpat ātri kā paši modeļi. Šī plaisa ir nozīmīga. Gudras organizācijas ar piekļuvi vadošajiem modeļiem jau ievieš pretpasākumus un labojumus. Piemēram, Oracle pagājušajā mēnesī izdeva aptuveni 1 450 drošības labojumu, kas atgādina, ka programmatūras uzturēšana ir nemitīgs darbs.

Nav nekādu brīnumlīdzekļu. Ieviešana izskatīsies atšķirīgi katrā uzņēmumā. Taču ziņa ir skaidra: traktējiet AI kā aizsardzības spēka reizinātāju, ne tikai jaunu līniju produktu ceļkartē. Cik ātri rīkosieties, var noteikt, vai jūsu komanda paliks soli priekšā vai kļūs reaktīva.

Izmantojiet mākslīgo intelektu, lai atrastu un labotu to, ko mākslīgais intelekts padara vieglāk salaužamu.