Pirmā zināmā MI radītā nulldienas ekspluatācija atklāta

Brīdinājuma signāls ir saņemts. Google ziņo, ka tai izdevies atklāt, šķiet, pirmo zināmo nulldienas ekspluatāciju, kas izstrādāta, izmantojot mākslīgo intelektu, un šis atklājums pārvieto MI drošības riskus daudz satraucošākā līmenī.

Saskaņā ar Google Threat Intelligence Group, ekspluatācija bija saistīta ar uzbrucēju, kurš gatavojās tam, ko uzņēmums raksturoja kā potenciālu plaša mēroga izmantošanas incidentu. Vienkārši sakot, tas nebija vienreizējs eksperiments vai koncepta pierādījums. Tas izskatījās pēc rīka, kas paredzēts masveida izmantošanai. Google norāda, ka tās agrīnā atklāšana, iespējams, apturēja uzbrukumu, pirms tas varēja tikt īstenots.

Šim faktam ir nozīme, jo nulldienas ievainojamības ir vienas no bīstamākajām pieejamajām metodēm kibernoziedzībā. Tās izmanto programmatūras trūkumus, kas joprojām ir nezināmi piegādātājam vai upurim, kas nozīmē, ka nav pieejama ielāpa un nav laika sagatavoties. Uzbrucēji rīkojas pirmie, pārējiem vēlāk jāspēj ātri reaģēt.

Kad mākslīgais intelekts pārstāj būt teorētisks

Google nenosauca uzņēmumu, kas tika mērķēts, taču norādīja, ka informēja skarto organizāciju un problēma kopš tā laika ir novērsta. Uzbrucēji arī netika identificēti. Tomēr ziņojums norāda uz pieaugošu interesi no grupām, kuras saistītas ar Ķīnu un Ziemeļkoreju, un abas šīs puses tiek uzmanīgi vērotas eksperimentos ar mākslīgo intelektu ofensīvās kiberoperācijās.

Google arī paziņoja, ka netic, ka tajā bija iesaistīti tās paša Gemini modeļi. Tomēr uzņēmums uzsver, ka tam ir liela pārliecība par to, ka mākslīgā intelekta sistēma spēlēja lomu ievainojamības atklāšanā un tās pārvēršanā izmantojamā ekspluatācijā. Šī atšķirība ir svarīga. Gadu garumā tehnoloģiju nozare diskutēja par to, kad mākslīgais intelekts pāries no surogātpasta ziņojumiem, viltus profiliem un automatizācijas uz sarežģītākām, tehniskākām kiberuzbrukumu līnijām. Tas izskatās pēc viena no skaidrākajiem signāliem, ka šī pāreja jau notiek.

John Hultquist, GTIG galvenais analītiķis, šo gadījumu raksturoja kā priekšskatu tam, kas gaidāms, komentējot The New York Times viņš to nosauca par ieskatu nākotnē un tikai aisberga virsotni. Tas var skanēt dramatiski, taču loģiku grūti noliegt. Mākslīgā intelekta modeļi kļūst ātrāki, lētāki un spējīgāki. Ja tie var palīdzēt aizstāvjiem atklāt bīstamas vājības pirms noziedzniekiem, tie var arī palīdzēt uzbrucējiem sameklēt vājās vietas ar daudz mazāku piepūli nekā agrāk.

Tieši šī neērta līdzsvara sajūta šobrīd caurvij visu kiberdrošības industriju. Tā pati tehnoloģija, kas var paātrināt uzbrukumus, var arī stiprināt aizsardzību. Google ziņo, ka draudu aktori jau izmanto mākslīgo intelektu dažādos kiberoperāciju posmos, kamēr drošības komandas steigšus cenšas izmantot tos pašus rīkus ievainojamību atklāšanā, incidentu apstrādē un draudu noteikšanā.

Citi virzās tajā pašā virzienā. Anthropic nesen iepazīstināja ar Project Glasswing, iniciatīvu, kura balstīta uz Claude Mythos Preview izmantošanu, lai identificētu un aizstāvētos pret augstas nopietnības ievainojamībām. Nozares vēstījums kļūst arvien grūtāk palaist garām: mākslīgais intelekts vairs nestāv malā kiberdrošībā. Tas kļūst par aktīvu dalībnieku abās pusēs.

Globālajiem tehnoloģiju novērotājiem šis brīdis šķiet ne tik daudz pārsteigums, cik robežas pārkāpums. Ideja par mākslīgā intelekta atbalstītiem kiberuzbrukumiem tiek apspriesta gadiem, un tagad ir taustāmi pierādījumi. Tiklīdz šīs durvis ir atvērtas, tās reti kad aizveras atpakaļ.