Kad sarunvalodu AI palīdz krāpniekiem - brīdinājums

Kāds noklikšķināja uz saites, kas izskatījās oficiāla. Cena bija pārāk laba, lai būtu patiesa. Sūtījums nekad nenonāca. Bankas konts tika iztukšots. Tas nav tehnoloģiju trilleris. Tā ir tendence, ko drošības pētnieki tagad atklāj, kad sarunvalodu AI saskaras ar tiešsaistes krāpniecību.

Pēdējie izmeklējumi, ko veica krāpniecību pārbaudes serviss Ask Silver, atklāja, ka ChatGPT var izvilkt pārliecinošus, bet viltotus interneta veikalus, kad lietotāji jautā par produktiem no pazīstamiem britu zīmoliem, piemēram, Russell & Bromley vai Dunelm. Vilinošas atlaides. Ticami veikalu portāli. Saites, kas novirza pircējus uz klonētām vietnēm, kas izveidotas, lai nozagtu naudu un maksājumu datus.

Kad mācību dati kļūst par vāju posmu

Uzbrucēji ievieto ļaunprātīgas lapas visā tīmeklī. Tās lapas tiek indeksētas un - kad laiks ir piemērots - iekļautas avotos, kas baro lielos valodu modeļus. Rezultāts ir tas, ko eksperti sauc par 'datu indēšanu': modelis mācās no krāpnieciskām lapām un pēc tam atkārto šo nepareizo norādījumu ikdienas lietotājiem.

Anna Jones no Ask Silver saka, ka noziedznieki reizēm izmanto neparastus brīžus zīmola dzīvē - piemēram, īpašnieka maiņu vai oficiālās vietnes darbības traucējumus - lai barotu AI ar viltus atsaucēm un liktu savām vietnēm izskatīties leģitīmām. Triks ir vienkāršs. Izveido ticamu lapu. Padari to līdzīgu īstajam veikalam. Pēc tam ļauj modelim to atrast un ieteikt.

Lewis Baxter, kas vada krāpšanas komandu Apvienotās Karalistes National Trading Standards, brīdina, ka tas, ka vietne parādās AI atbildē, nenozīmē, ka tā ir autentiska. Cilvēki vēršas pie čatbotiem pēc ātriem iepirkšanās ieteikumiem. Krāpnieki ir pielāgojušies tikpat ātri. Pārliecinošas saites čatbota atbildē var mudināt pircēju izlaist pamatīgas pārbaudes.

Ziņojumos aprakstītie viltus veikalu portāli bieži ir satraucoši pulēti. Tie izmanto domēnus, kas ir tuvi īstajiem zīmoliem - pievienojot vārdus kā onlineuk vai official blakus pazīstamam nosaukumam - un reklamē straujas atlaides, dažkārt līdz 80 procentiem, lai spiestu pircējus rīkoties bez pārdomām. Daudzi no šiem portāliem pieņem tikai bankas pārskaitījumus, kas ir vēl viena brīdinājuma zīme.

Vienmēr pārbaudiet pārdevēju tieši: meklējiet veikalu pēc nosaukuma, pārbaudiet oficiālo vietni un nekad nemaksājiet ar bankas pārskaitījumu, ja vien neesat pārliecināts, ka pārdevējs ir leģitīms.

Tātad, ko lietotāji var darīt tūlīt? Lēnāk. Rūpīgi pārbaudiet URL. Pievērsiet uzmanību papildu vārdiem, dīvainām galotnēm un pareizrakstības kļūdām. Izvēlieties kartes vai maksājumu metodes, kas nodrošina pircēja aizsardzību. Ja vietne pieprasa tikai bankas pārskaitījumu, uztveriet to kā spēcīgu signālu atturēties. Ja iespējams, ierakstiet mazumtirgotāja nosaukumu meklētājā vai dodieties uz to caur uzticamu grāmatzīmi, nevis noklikšķiniet uz čatbota piedāvātās saites.

• Rūpīgi pārbaudiet domēnu, vai nav papildu vārdu vai nepazīstamu galotņu.
• Meklējiet kontaktinformāciju un pārbaudāmu sociālo pierādījumu.
• Izvairieties no maksājumu iespējām, kas pieļauj tikai bankas pārskaitījumus.
• Izmantojiet kredītkartes vai maksājumu pakalpojumus ar pircēja aizsardzību.

OpenAI apgalvo, ka ir izņēmis identificētās krāpnieciskās vietnes no modeļa meklēšanas rezultātiem un piedāvā veidu, kā lietotāji var ziņot par problemātiskām saitēm. Noderīgi. Nepieciešami. Taču tas nav pilnīgs risinājums. Modeļi mācās no lielām tīmekļa daļām, un uzbrucējiem pietiek izveidot dažas pārliecinošas lapas, lai nodarītu kaitējumu.

Galu galā atbildība ir kopīga. Tehniskajām komandām jāstiprina modeļu datu plūsmas un jāatklāj indēšana. Platformām jāuzlabo saišu pārbaude. Un pircējiem jāizturas pret AI ieteikumiem kā sākumpunktu, nevis apstiprinājumu. Saglabājiet ziņkārību. Piesardzību turiet tuvāk.