Kļūda Google meklēšanā: nepatiesa ziņa par Altmanu

Trešdien dažas saspringtas minūtes vienkārša Google meklēšana atklāja satraucošu vēsti: OpenAI izpilddirektors Sam Altman bija miris. Sociālajos tīklos sāka parādīties ekrānuzņēmumi. Jautājumi izplatījās ātrāk nekā pārbaudāmi fakti.

Kad publiska ieraksta informācija aiziet greizi

Lietotāji X un Reddit pamanīja nepareizu nāves paziņojumu Google zināšanu panelī, informācijas lodziņā, kas parādās virs daudziem meklēšanas rezultātiem. Google vēlāk paziņoja, ka pārtrauca rādīt šo apgalvojumu un ka šo izmaiņu uzņēmums nav veicis manuāli. Tā vietā meklētājgals norādīja uz dziļāku ievainojamību: kad tiek manipulēts ar publiskiem avotiem, šie nepatiesie signāli var izplatīties un iekļūt meklēšanas rezultātos.

Acīmredzams mērķis bija Vikipēdija, bezmaksas enciklopēdija, uz kuras paļaujas daudzi meklētājprogrammas un lasītāji. Altmana lapas rediģēšanas vēsturē trešdien bija redzama neparasta aktivitāte, tajā dienā 22 labojumi pēc tam, kad iepriekšējos vairākos dienās bija tikai pieci labojumi. Plkst. 09:47 UTC parādījās labojums, kurā nepatiesi apgalvots, ka Altmanu nogalināja un viņš tajā pašā dienā nomira. Šī konkrētā rindiņa tika labota plkst. 10:29 UTC, tomēr sekoja papildu vandalizācija, ieskaitot apgalvojumus par viņa izglītību un pat vārda maiņu. Brīvprātīgie galu galā atgrieza lapu pareizā stāvoklī.

Wikimedia Foundation Business Insider apstiprināja, ka trešdienas labojumi tika identificēti un atsaukti vienas līdz 43 minūšu laikā. Brīvprātīgie atzīmēja vandalismu, izdeva brīdinājumus un ieviesa raksta daļēju aizsardzību. Saskaņā ar šo ierobežojumu tikai konti, kas ir vismaz četru dienu veci un ar vismaz 10 iepriekšējiem labojumiem, var veikt izmaiņas, kas darbojas kā pamatmehānisms, lai palēninātu masveida labojumus no pavisam jauniem kontiem.

Vikipēdija bieži ir redzams un plaši izmantots avots Google zināšanu paneļiem, bet tā nav vienīgā. Google apkopo informāciju no simtiem publiskiem avotiem visā tīmeklī. Uzņēmums norādīja, ka lietotāji var ziņot par neprecīzu informāciju, un ka, uzzinot par to, tas manuāli noņems saturu, kas pārkāpj tā politikas. Tomēr Google uzsvēra, ka ļaunprātīgi labojumi publiskos avotos var ietekmēt to, kas parādās meklēšanas rezultātos.

Tātad kāda ir plašāka aina? Dažas lietas ir skaidras. Pirmkārt, brīvprātīgie redaktori un vietnes aizsardzība bieži ātri atceļ acīmredzamu vandalismu. Otrkārt, pat īslaicīga nepatiesu apgalvojumu parādīšanās galvenajās platformās var izplatīties plaši un tikt pastiprināta ar automatizētām sistēmām. Treškārt, sistēma, kas sniedz tūlītējas atbildes, piemēram, zināšanu paneļi un ātri fakti, balstās uz publisku datu mozaīku, kur katrs gabals ir attiecīgi ievainojams.

Uzticēšanās tiešsaistes faktiem ir daļēji tehniska un daļēji sociāla. Mašīnas apvieno atsevišķās daļas. Cilvēki uzrauga šo savienojumu vietas. Kad kāda puse pieļauj kļūdu, rezultāts var būt mulsinošs un dažkārt satraucošs. Šī epizode tika labota. Tomēr tā atgādina, ka savienotā pasaulē daži ļaunprātīgi taustiņu spiedieni var izraisīt virsrakstus pirms pārbaude tos apstiprina.