Kāpēc meklēšanas AI rada maldinošas ziņas un risinājumi

Iedomājieties, ka jautājat savam meklēšanas palīgam ātru faktu un kā atbilde saņemat makabru baumu: Donaldu Trampu it kā šomēnes piemeklējusi trakumsērga. Absurdīgi. Šokējoši. Nepatiess.

Tāds virsraksts parādījās dažiem lietotājiem pēc saskarsmes ar DuckDuckGo AI, kas atgrieza apgalvojumu, ka Tramps esot nomiris no trakumsērgas, un pat norādīja uz, šķietami, vietējo WKNA News rakstu kā pierādījumu. Izdomātā stāsta sižets gāja tālāk: tika apgalvots, ka J.D. Vance pēc Robert F. Kennedy Jr. ieteikuma esot sakodis Trampu, jo RFK Jr. it kā argumentējis, ka trakumsērga piešķir īpašas spējas. Palīgs arī atsaucās uz ABC News ziņojumu par trakumsērgas nāvi Ohaio, reālu stāstu, taču bez jebkādas saistības ar Trampu.

Viss tas neapstiprinās. Tramps un Vance ir dzīvi. RFK Jr. iepriekš izteicis pretrunīgus apgalvojumus par veselību, taču viņš nekad nav ieteicis kādam apzināti inficēties ar trakumsērgu kā veselības uzlabojumu. WKNA raksts, uz kuru atsaucās mākslīgais intelekts, šķietami ir viltots vai smagi manipulēts ieraksts interneta telpā. DuckDuckGo nav sniedzis publisku skaidrojumu raksta tapšanas brīdī.

Tātad kā meklētājs ar AI atbalstu salika šos elementus pārliecinošā, bet pilnīgi nepatiesā stāstā? Atbilde ir haotiska un radīta cilvēku rokām. Savtīgi dalībnieki un tiešsaistes troļļi veido izdomātus ierakstus, ielīmē tos nepazīstamās vietnēs un forumu pavedienos, ļaujot meklēšanas indeksiem tos paņemt. Iegūšanas modeļi, kas darbina meklēšanas AI, var atrast šos fragmentus, salikt tos kopā un radīt pārliecinoši skanošu atbildi bez konteksta vai pārbaudes, ko prasītu cilvēka redaktors.

Ir vēl viens elements: daudzu sarunveidīgo sistēmu mācību un izgūšanas diēta ietver milzīgu daudzumu lietotāju radīta satura. Reddit, komentāru sadaļas un perifērie blogi bieži uzrāda agrīnu un nepārbaudītu materiālu. Kad grupas koordinējas, vai nu izklaides vai ļaunprāta nolūkā, tās var novirzīt modeļus uz nepatiesībām, radot drupatu taku, kas automātiskajam avotu meklētājam izskatās ticama.

Šīs sistēmas ir veidotas, lai būtu noderīgas un atbildētu ātri. Šis ātrums ir funkcija. Tas ir arī riska faktors. Modeļi nepiedzīvo skepsi. Tie nepārbauda, vai vietējo izdevumu maskēja vai vai apkopotājs nepareizi piešķīra virsrakstu. Tie sintezē. Reizēm šī sintēze kļūst par halucināciju: ticami skanošs apgalvojums bez faktiska pamata.

Šī epizode uzsver vienkāršu patiesību: meklēšanas AI prasa izcelsmes norādījumus, pārliecības indikatorus un cilvēka uzraudzību, pirms to rezultātus var uzskatīt par faktiem.

Lasītājiem drošības pasākumi ir pazīstami, bet tos vērts atkārtot. Meklējiet apstiprinājumu uzticamos medijos. Sekojiet avotu saitēm līdz sākotnējam ziņojumam. Esiet piesardzīgi pret sensacionāliem apgalvojumiem, kas parādās mazos vai nesen izveidotos vietnēs. Un, ja meklēšanas palīgs norāda avotu, atveriet to; neuzskatiet, ka palīgs jau ir veicis pārbaudi jūsu vietā.

Platformu komandām nākotnes ceļš ir gan tehnisks, gan organizatorisks. Uzlabojiet izgūšanas filtrus, lai zemas kvalitātes domēni tiktu nolikti zemāk prioritātē. Atklājiet avotu izcelsmi, lai lietotāji zinātu, kuru avotu AI izmantoja. Pievienojiet automatizētas pārbaudes, kas iezīmē neticamus apgalvojumus un novirza tos cilvēka pārskatam. Un visbeidzot, ieguldiet ātrās labošanas mehānismos, kad demonstrējami nepatiesas ziņas sāk izplatīties.

Mākslīgais intelekts turpinās kļūt gudrāks. Tāpat rīkosies arī cilvēki, kas cenšas to apmānīt. Uzvarētāji būs atkarīgi mazāk no modeļiem un vairāk no sistēmām un praksēm, ko mēs apkārt tiem izveidosim, un no tā, vai lietotāji turpinās uzdot vienu izšķirošu jautājumu: no kurienes tas radies?