Sejas atpazīšana ar AI un kļūdas, kas iznīcina dzīvības

Klausās pie durvīm skanēja brīdī, kad Andželai Lipss bija jāuzrauga savi mazbērni.

Pāris minūtes vēlāk 50 gadus vecā Tenesī štata vecmāmiņa atradās rokudzelžos, apmukta ar bruņotiem ASV maršāliem. Apsūdzība skanēja neticami: banku krāpšana Fārgā, Ziemeļdakotā — vietā, kurā Lipss apgalvo, ka viņa nekad nav bijusi, pat ne reizi.

Izturētais murgu posms ilga gandrīz pusgadu. Centrā stāvēja mūsdienīgs, labi pazīstams vaininieks: mākslīgā intelekta darbināta sejas atpazīšana, kurai izmeklētāji uzticējās vairāk, nekā vajadzēja.

Lipps, trīs bērnu māte un piecu mazbērnu vecmāmiņa, visu mūžu ir pavadījusi ziemeļcentrālajā Tenesī, aptuveni 1 000 jūdžu attālumā no Fārgas. Tomēr 2025. gada jūlijā varasiestādes viņu arestēja kā citā štata bēgli, saistītu ar virkni viltotu banku izņemšanu.

Kāpēc? Fārgas bankas novērošanas video, kurā redzama sieviete, kas izmanto viltotu ASV armijas militāro ID, lai izņemtu desmitiem tūkstošu dolāru. Detektīvi materiālu ievadīja sejas atpazīšanas programmatūrā. Sistēma atzīmēja Lipps kā iespējamu atbilstību.

Šis vienīgais pavediens, šķiet, ieguva milzīgu nozīmi.

Saskaņā ar policijas lietām, kuras pārskatīja vietējā stacija WDAY, detektīvs salīdzināja video redzamo aizdomnieci ar Lipps un konstatēja, ka sejas iezīmes, ķermeņa uzbūve un mati izskatās līdzīgi. Neviena ieraksta neliecina, ka izmeklētāji būtu iepriekš sazinājušies ar Lipps, lai iztaujātu viņu vai pārbaudītu viņas atrašanās vietu.

Tā vietā viņi turpināja ar aresta orderi.

Kad algoritms kļūst par pierādījumu

Tā kā Lipps tika traktēta kā bēgle no cita štata, viņa tika ieslodzīta Tenesī bez iespējas izlikt drošības naudu. Dienas pārvērtās nedēļās. Nedēļas pārvērtās mēnešos.

Gandrīz četras mēnešus viņa palika ieslēgta apgabala cietumā, kamēr izdošanas jeb ekstradicijas process lēnām virzījās uz priekšu. Tiesas ieceltais advokāts galu galā informēja viņu, ka viņa personīgi būs jābrauc uz Ziemeļdakotu, lai apstrīdētu apsūdzības.

“Es nekad neesmu bijusi Ziemeļdakotā. Es neesmu paziņa no Ziemeļdakotas,” Lipss vēlāk žurnālistiem sacīja.

Fārgas policija viņu nekavēja pārvietot uzreiz. Patiesībā pagāja 108 dienas pēc viņas aresta, pirms varasiestādes viņu pārveda no Tenesī uz Ziemeļdakotu. Tikai decembrī — vairāk nekā piecus mēnešus pēc aresta — izmeklētāji veica viņas pirmo tiešo interviju.

Tajā brīdī viņas aizstāvošais advokāts jau bija atklājis kaut ko ievērojamu: bankas ierakstus, kas attiecīgi liecināja, ka Lipps tobrīd bija vairāk nekā 1 200 jūdžu attālumā Tenesī, tieši tajā laikā, kad notika krāpšana.

Citādi sakot — alibi, kuru izmeklētāji pat necentās pārbaudīt.

“Ja vienīgais, kas jums ir, ir sejas atpazīšana, iespējams, jums vajadzētu ieskatīties dziļāk,” sacīja Džejs Grīnvuds, advokāts, kurš pārstāvēja Lipps.

Tiklīdz ieraksti tika iesniegti, lieta gandrīz uzreiz sabruka. Varasiestādes atsauca apsūdzības un izlaida Lipps no cietuma Ziemassvētku vakarā.

Brīvība tomēr bija ar rūgtu piesitienu. Viņai nebija naudas un nebija iespējas nokļūt mājās. Pēc WDAY ziņām, vietējie aizstāvības advokāti savāca līdzekļus viesnīcas numuram, kamēr bezpeļņas organizācija palīdzēja sarunāt transportu atpakaļ uz Tenesī.

Lipps saka, ka šis pārbaudījums viņai izmaksāja gandrīz visu — māju, automašīnu, pat suni.

“Man bija uzvilkti vasaras apģērbi, nebija mēteļa,” viņa atcerējās, atbrīvojoties Ziemeļdakotas ziemas aukstumā. “Uz zemes bija sniegs. Es biju nobijusies. Es vienkārši gribēju doties mājās.”

Viņa arī saka, ka neviens no Fārgas policijas departamenta nav atvainojies.

Vēsturiskā un tehniskā perspektīva

Lipps lieta nav vienīgais gadījums, kurā sejas atpazīšanas tehnoloģija radījusi nopietnas sekas cilvēku dzīvēm. Pēdējos gados vairāki ASV policijas departamenti ir nonākuši uzmanības lokā pēc tam, kad algoritmi radīja nepatiesas atbilstības, kas noveda pie nepareiziem arestiem.

2024. gadā Ņujorkas policija arestēja vīrieti, balstoties uz zemu izšķirtspēju CCTV attēlu, lai gan viņš bija acīmredzami augstāks par aizdomās turēto. Detroītā sieviete iesniedza tiesas prasību pēc tam, kad varasiestādes arestēja viņu saistībā ar slepkavību, pamatojoties uz AI identifikāciju, kas ignorēja acīmredzamas fiziskas atšķirības.

Sejas atpazīšanas tehnoloģija strauji izplatās tiesībaizsardzībā, to prezentējot kā spēcīgu izmeklēšanas rīku. Tomēr eksperti turpina brīdināt par viltus pozitīviem rezultātiem, īpaši, ja sistēmas analizē zemas kvalitātes attēlus vai ja izmeklētāji algoritmu ieteikumus uztver kā galīgu pierādījumu, nevis kā pavedienu, kas prasa papildu pārbaudi.

Tiehnoloģiskās ierobežojumi

Sejas atpazīšanas sistēmas parasti balstās uz modeļiem, kas salīdzina vairākus sejas punktus — acu attālumu, deguna formu, žokļa līniju un citus morfometriskus rādītājus. Šie modeļi tiek apmācīti uz lieliem datu kopumiem. Tomēr rezultātu precizitāte atkarīga no ievades attēla kvalitātes, apgaismojuma, kameras leņķa, personas vecuma, frizūras un citiem faktoriem.

Praktiskā vidē novērošanas video bieži ir zemas izšķirtspējas un slikta apgaismojuma dēļ, kas nozīmē, ka algoritmiem jāstrādā ar nepilnīgiem datiem. Šādos apstākļos parādās augstāks nepareizu atbilstību risks. Papildus tam, pētījumi rāda, ka daži sejas atpazīšanas modeļi darbojas sliktāk konkrētām demogrāfiskām grupām, kas var veicināt netaisnību un aizspriedumus izmeklēšanas procesos.

Operatīvā lietošana un procedūras

Vēl viens būtisks aspekts ir tas, kā tiesībaizsardzība integrē AI rīkus savā darbplūsmā. Ja AI rezultāts tiek izmantots tikai kā sākotnējs pavediens, tam var būt lielāka jēga — tas var palīdzēt virzīt izmeklēšanu vai sašaurināt personu loku. Tomēr gadījumos, kad algoritms tiek traktēts kā gala pierādījums, bez rutīnas pārbaudēm (piemēram, alibi pārbaudes, aculiecinieku intervijas, finanšu un ceļošanas ierakstu analīze), palielinās risks, ka cilvēka tiesības tiks pārkāptas.

Jurisdikcijas, procedūras un papildu aizsardzības

Izdošanas situācija, piemēram Lipps gadījumā, papildus sarežģī tiesisko procesu: kad persona tiek apsūdzēta citā štata noziegumā, vietējās iestādes var rīkoties citādi nekā tad, ja lieta būtu vietēja. Standarta prakse var ietvert turēšanu bez drošības naudas, kamēr notiek izdotas personas pārvietošana. Tas padara ātru un rūpīgu pārbaudi par vēl svarīgāku, jo kļūdas izmeklēšanas sākumposmā var viegli novest pie ilgstošām ciešanām.

Ekstradicijas procesi un to ietekme

Ekstradicijas process var ilgt dažādas laika ilguma atkarībā no starpvalstu līgumiem, kapacitātes un administratīvām vadlīnijām. Lipps gadījumā pagāja 108 dienas līdz pārvietošanai — laikā, kad efektīvas aizsardzības darbības varēja mainīt lietas iznākumu agrāk. Tādēļ ir svarīgi, lai iestādes prioritizētu ātru, bet pamatotu rīcību, sākot ar vienkāršiem pārbaudījumiem, piemēram, bankas izrakstu, tālruņa datu un citu neatkarīgu pierādījumu iegūšanu.

Sociālās un cilvēciskās sekas

Sejas atpazīšanas radītie nepareizie aresti nav tikai tehniskas kļūmes — tie ved pie reālām cilvēku dzīvēm satricinošām sekām. Zaudētas darba vietas, finansiālas grūtības, emocionāls stress, veselības pasliktināšanās un reputācijas bojājumi ir tikai dažas no ilgtermiņa sekām. Lipps gadījums ilustrē, kā ātras, nepilnīgas pārbaudes rezultātā var izzust cilvēka drošība un sociālā stabilitāte.

Pārdzīvojumu ilgtermiņa ietekme

Ilgstoša ieslodzīšana un sabiedrības stigmatizācija var radīt traucējumus ģimenes attiecībās, finansiālu sabrukumu un psiholoģiskas sekas, piemēram, trauksmi un depresiju. Toksiķais efekts var pastiprināties, ja nav publiskas izlīdzināšanas vai atvainošanās no varas iestādēm.

Normatīvā vide un regulējums

Dažās ASV pilsētās un štatos jau ir ieviesti ierobežojumi vai aizliegumi attiecībā uz sejas atpazīšanas tehnoloģiju izmantošanu policijā. Tas norāda uz pieaugošu sabiedrības interesi par personu datu aizsardzību un tehnoloģiju atbildību. Tomēr federālā un starpvalstu regulējuma trūkums rada režīmu, kurā prakse un pieeja ievērojami atšķiras no vienas jurisdikcijas uz citu.

Kādu regulējumu eksperti iesaka?

• Skaidras procedūras, lai algoritmu rādījumi vienmēr tiktu uzskatīti par informatīviem pavedieniem, nevis galīgiem pierādījumiem.
• Obligātas papildu pārbaudes, tostarp alibi un neatkarīgu datu savākšana pirms aresta izdošanas.
• Publiskas atskaites par algoritmu precizitāti, to apmācības datiem un iespējamajām diskriminācijas niansei.
• Neatkarīgas pārbaudes un audits attiecībā uz tehnoloģiju izmantošanu tiesībaizsardzībā.

Praktiskas ieteikumi un nākotnes risinājumi

Lai samazinātu viltus pozitīvo rādītāju radītās sekas un uzlabotu publisko uzticību, iestādēm nepieciešams gan tehnisks, gan procedurāls darbs. Šeit ir konkrēti soļi, kurus var apsvērt:

1. Izstrādāt iekšējas vadlīnijas par to, kā un kad izmantot sejas atpazīšanas rīkus izmeklēšanā. Skatīt sejas atpazīšanu kā sākotnēju pavedienu.
2. Pievienot piesardzības slāņus: vienmēr pārbaudīt ar neatkarīgiem avotiem, piemēram, bankas izrakstiem, ceļojumu datiem, CCTV no citām kamerām un aculiecinieku liecībām.
3. Veikt regulāru tehnisko izvērtēšanu un publiski publiskot kļūdu un precizitātes rādītājus.
4. Apmācīt izmeklētājus par algoritmu ierobežojumiem un par to, kā neuztvert risinājumu kā galīgu pierādījumu.
5. Izveidot kompensācijas un atbalsta mehānismus cilvēkiem, kuri pierāda, ka viņi tika nepareizi arestēti, tostarp finansiālu palīdzību, juridisku atbalstu un publisku atvainošanos, kur nepieciešams.

Secinājumi: līdzsvars starp inovācijām un taisnīgumu

Andželas Lipps stāsts ir brīdinājums par to, kā tehnoloģiskas inovācijas, ja tās tiek izmantotas bez pietiekama uzraudzības un procedūrām, var nodarīt reālu kaitējumu cilvēkiem. Mākslīgā intelekta risinājumi tiesībaizsardzībā var būt spēcīgi izmeklēšanas rīki, taču tie nedrīkst aizstāt pamatprocedūras un cilvēka spriedumu.

Lai tehnoloģija kalpotu sabiedrības interesēm, ir nepieciešams skaidrs regulējums, caurspīdīgums par tehnoloģiju darbību un konsekventas prakses, kas novērš nevajadzīgas ciešanas. Tikai tad mēs varēsim gūt labumu no sejas atpazīšanas tehnoloģijas, vienlaikus aizsargājot cilvēktiesības un tiesiskumu.

Lipps gadījums atgādina — kad mākslīgais intelekts nonāk tiesību sistēmā, viena digitāla kļūda var iznīcināt cilvēka dzīvi. Tās mācība ir vienkārša: algoritmi var norādīt ceļu, bet lēmumus, kas ietekmē cilvēku brīvību, jāpieņem ar rūpīgu, daudzpusīgu pārbaudi un humānu atbildību.