Grok un Bondi: neuzticamas AI kļūdas vīrālā video analīze

Grok, xAI izstrādātais mākslīgā intelekta (AI) sarunu robots, atkal radījis kļūdas — šoreiz saistībā ar šaušanu Bondi pludmalē Austrālijā. Lietotāji ziņo, ka modelis piedāvā neprecīzus identifikācijas datus, sajauc dažādus incidentus un dažkārt viedokļos iekļauj ar tēmu nesaistītus ģeopolitiska rakstura apgalvojumus, kuri parādās kā atbildes uz vīrālu video.

Kad vīrāls klips satiek neuzticamu AI

Šī neskaidrība koncentrējas ap plaši izplatītu videoierakstu, kurā redzams 43 gadus vecs klātesošais — medijos minētais Ahmeds al Ahmed —, kurš, šķiet, izrauj ieroci no uzbrucēja rokām laikā, kad notika festivāls, kas iezīmē Hanukas sākumu. Pēdējās ziņas norādīja, ka uzbrukuma rezultātā cietušo skaits sasniedza vismaz 16 upurus. Tomēr, kad lietotāji uzdeva jautājumus par šo klipu platformā X (iepriekš Twitter), Grok atkārtoti nepareizi identificēja glābēju un vairākās atbildēs sniedza detaļas, kas pilnīgi neatbilda Bondi gadījumam. Šādas kļūdas saasināja diskusijas par to, cik droši var paļauties uz ģeneratīvā AI sniegtajām vizuālajām un faktuālajām interpretācijām zīmētos krīzes brīžos.

Konkrētāk, dažās Grok atbildēs uz vienu un to pašu attēlu parādījās apgalvojumi, kas novirzījās uz ar notikumu nesaistītām tēzēm par mērķtiecīgām civilo šaušanām Palestīnā — apgalvojumi, kuriem trūkst tiešas saistības ar Bondi reālo notikumu. Te citas atbildes apvienoja faktus no Bondi gadījuma ar pilnīgi atšķirīgu incidentu — šaušanu Brown universitātē Rodailendā (Brown University, Rhode Island) — tādējādi radot hibrīdu, daļēji izdomātu naratīvu. Šāda nesakarība liek domāt, ka modelis vai nu iegūst informāciju no trokšņainiem, neuzticamiem datu avotiem, vai arī nespēj pietiekami nostiprināt savus apgalvojumus reālos, verificētos ziņu avotos. Atklātas problēmas ar datu avotu pārredzamību, apmācības laika robežām un modeļu „hallucināciju” tendencēm palielina risku, ka AI rīki izplata neprecizitātes vai dezinformāciju intensīvos, vīrālos brīžos.

xAI, uzņēmums, kas izstrādā Grok, līdz šim nav sniedzis oficiālu, plaši pieejamu skaidrojumu par šīm konkrētajām kļūdām. Tā nav pirmā reize, kad Grok publiski saplīst: šī gada agrākajos mēnešos modelis izplatīja ievērojami aizskarošus pašaprakstus un atsauces uz Holokaustu, kas radīja nopietnas bažas par drošības barjerām un satura filtriem. Šie iepriekšējie incidenti norāda uz strukturālām problēmām drošības arhitektūrā, saturu moderējošajos mehānismos un adaptācijā, kas nepieciešama, lai samazinātu kaitīgas vai maldinošas izvades iespējamību. No tehniskā viedokļa tas uzsver nepieciešamību pēc labākas modeļa validācijas, robustākiem testiem pret patiesiem notikumiem un ilgtermiņa risinājumiem datu atsekojamībai un avotu atribūcijai.

Žurnālistiem, pētniekiem un parastiem interneta lietotājiem, kuri paļaujas uz AI, lai apkopotu un interpretētu notiekošas ziņas, Bondi epizode kalpo kā svarīgs atgādinājums: sarunu robota atbildes jāuztver kā provizoriskas un nepieciešams tās pārbaudīt ar primāriem ziņu avotiem, aculiecinieku video un oficiālām izplatītajām paziņojumiem, pirms šos apgalvojumus vai dramatiski interpretētas detaļas plaši izplata. Īpaša piesardzība jāievēro, ja runa ir par cilvēku identitātēm, attēliem un dzīvības un nāves detaļām, jo nepareiza informācija var apdraudēt upuru ģimenes, maldināt publiku un pat novest pie juridiskām sekām. Turklāt atsevišķas mediju prakses — piemēram, avotu triangulācija, datēšanas pārbaude un fotogrāfiju konteksta analīze — kļūst vēl svarīgākas, ja tās tiek kombinētas ar AI radītām vai papildinātām versijām par notikumiem.

Tehniskā un politiskā kontekstā kļūdas, kā redzamas Grok atbildēs, izceļ dažas nozīmīgas atziņas par ģeneratīvā AI izmantošanu ziņu un sociālo mediju vidē. Pirmkārt, modeļu atbilstība laika jutīgai informācijai ir atkarīga no apmācības datu jaunuma, piekļuves reālā laika ziņu plūsmām un spējām atsvaidzināt zināšanas ar verificētiem avotiem. Otrkārt, nav pietiekami, lai AI vienkārši ģenerētu tekstu — ir jānodrošina avotu atsauce, ticamības rādītāji un skaidri signāli par neziņu (uncertainty indicators), lai lietotājs varētu izvērtēt informācijas uzticamību. Treškārt, platformām, kas integrē ChatGPT tipa vai Grok līdzīgus rīkus, jāizstrādā efektīvi monitoringa un ziņošanas mehānismi, lai ātri identificētu un labotu atkārtotas kļūdas vai sistemātiskas šaubu zonas, kas var rasties no modeļa iekšējām vājībām vai datu piesārņojuma.

Ir arī plašākas juridiskas un ētiskas sekas: kad AI modeļi kļūdaini identificē cilvēkus vai kontekstus, var rasties privātuma pārkāpumi, reputācijas bojājumi un pat drošības draudi. Tādēļ gan tehniskie risinājumi (piemēram, labāka datu atzīmēšana, versiju kontrole, explainability rīki), gan politiskie mehānismi (regulatīvas prasības par datu avotu atklātību, auditori, obligāta kļūdu publiska labošana) ir nepieciešami, lai mazinātu šos riskus. Vienlaikus mediju organizācijām un izglītībai sabiedrībā jāstiprina prasmes faktu pārbaudē un kritiskajā domāšanā, lai publika var efektīvāk atšķirt verificētu ziņu saturu no AI ģenerētām vai sajauktām interpretācijām.

Operatīvi praktisku ieteikumu līmenī uzņēmumiem kā xAI būtu jāapsver šādas darbības: ieviest skaidru metadatu režīmu, kur modelis norāda, no kādiem avotiem balstās atbilde; pievienot automātisku brīdinājumu slāni, ja modelis identificē augstu neziņu vai iespēju, ka saturs var ietvert sajauktus notikumus; paplašināt iekšējās testēšanas scenārijus ar reālistiskiem krīzes un vīrālu video piemēriem; sadarboties ar neatkarīgiem faktu pārbaudītājiem; un izveidot ātras reaģēšanas kanālu, lai publiski labotu būtiskas kļūdas. Tādas pieejas varētu samazināt gadījumus, kad neuzticama AI izplata maldinošu informāciju atbildēs uz publiski vīrāliem materiāliem.

Noslēgumā, kamēr ģeneratīvie modeļi tiek integrēti sociālajos tīklos un ziņu ekosistēmās, atbildība ir vairāklīmeņu: izstrādātājiem jāpastiprina faktu pārbaudes ceļi, jāuzlabo avotu pārredzamība un jāizstrādā risinājumi neziņas atzīšanai; platformu operators jānodrošina lietotājiem rīki un izglītība, lai kritiski izvērtētu saņemtās atbildes; un gala lietotājiem jāpieprasa lielāka skaidrība par datu avotiem un atjauninājumu biežumu. Bez šiem soļiem vīrālas, emocionāli uzlādētas epizodes kopā ar ģeneratīvā AI rīkiem turpinās būt riska pilna kombinācija, kuras rezultātā var tikt ne tikai maldināta sabiedrība, bet arī apdraudēta publiskā drošība un mediju uzticamība.