Viedo brillu privātums: cilvēku redze aiz AI un dati

Stilīgas viedās brilles sola futūristisku priekšrocību: iemūžināt dzīvi tā, kā tā notiek. Paskaties uz pieminekli, uzdod iebūvētajam mākslīgajam intelektam jautājumu, uzfilmē īsu video un dodies tālāk. Bez piepūles. Pat neredzami.

Tomēr aiz šīs plūstošās pieredzes slēpjas daudz mazāk redzama sistēmas kārta — reāli cilvēki, kas skatās, pārskata un anotē to, ko brilles ieraksta.

Jauna izmeklēšana, ko veica Zviedrijas avīzes Svenska Dagbladet un Göteborgs‑Posten, atklāja, ka apakšuzņēmumā nodarbināti darbinieki valstīs, piemēram, Kenijā, ir pārskatījuši materiālu, ko reģistrējušas Meta AI darbinātās viedās brilles. Pēc izmeklēšanā intervētajiem darbiniekiem, daļa no šiem materiāliem ietver ļoti personiskas un reizēm seksuāla rakstura epizodes no lietotāju dzīves.

Secinājumi piesaistījuši Lielbritānijas Informācijas komisāra biroja (ICO) uzmanību, kas apstiprinājis plānu sazināties ar Meta par šo jautājumu. Regulatori vēlas izskaidrojumu, kā tiek apstrādāti sensitīvi lietotāju dati — un cik daudz no tiem ārējie līgumdarītāji patiesībā var redzēt.

Slēptā cilvēka kārta aiz AI brillēm

Meta skaidro, ka pārskatīšanas process pastāv, lai uzlabotu brilles darbības precizitāti un mākslīgā intelekta (MI) spējas. Tāpat kā daudzi citi MI risinājumi, šī tehnoloģija paļaujas uz cilvēku anotatoriem, kuri pārbauda attēlus, video un transkriptus, lai verificētu, vai programmatūra pareizi saprot redzēto un dzirdēto.

Kāpēc cilvēku anotācijas ir nepieciešamas

Tehniski runājot, mašīnmācīšanās modeļi mācās no marķētiem datiem. Cilvēku anotētāji (annotatori) izceļ objektus, atzīmē kļūdas transkriptos un novērtē atbilžu kvalitāti, lai uzlabotu modeļu precizitāti, atpazīšanas spējas un valodas izpratni. Bez šīs rokasgrāmatas AI varētu pieļaut sistemātiskas kļūdas — piemēram, neatpazīt noteiktas situācijas vai nepareizi interpretēt runu trokšņainā vidē.

Praktiski tas nozīmē, ka līgumdarbinieki var noskatīties īsus klipus, ko ierakstījušas brilles, vai pārskatīt balss mijiedarbības ar iebūvēto asistentu. Viņu uzdevums ir atzīmēt kļūdas, piešķirt etiķetes objektiem un apstiprināt, vai MI atbildes ir jēgpilnas.

Kādu materiālu redz skatītāji

Pēc izmeklēšanā citēto darbinieku teiktā, šie klipi var atklāt daudz vairāk nekā ikdienišķas skatuves. Daļa ierakstu, kā ziņots, rāda cilvēkus, kas lieto tualeti. Citi fiksē intīmas saskarsmes. Dažos gadījumos darbinieki stāstīja, ka personai ekrānā nav šķitis zināms, ka brilles ir aktīvi filmējošas.

Bez video satura līgumdarbinieki arī pārbauda transkriptus no sarunām starp lietotāju un brilles MI asistentu. Šie vaicājumi var sniegties no nekaitīgiem jautājumiem līdz ļoti personīgiem tēmām — tostarp sarunām par noziegumiem, protestiem vai seksuāli eksplicītām piezīmēm.

Izmeklēšanā aprakstīts piemērs, kurā transkriptā vīrietis skaidri runā par sievieti, ar kuru viņš vēlas gulēt, komentējot viņas ķermeni. Šādas detaļas parāda, ka pārskatītāji bieži saskaras ar ārkārtīgi intīmu un kontekstuāli jūtīgu saturu.

Darbs pakļauj pārskata veicējus plašam cilvēku uzvedību spektram — bieži bez papildus konteksta, kas varētu palīdzēt satura izpratnē vai saprātīgā klasifikācijā.

Stingra slepenība, ierobežotas aizsardzības

Darbinieki, kas strādā ar šādiem datiem, darbojas saskaņā ar stingrām konfidencialitātes vienošanām. Biroji tiek uzraudzīti ar kamerām, un darbiniekiem parasti ir liegts ienest personiskos ierīces, piemēram, telefonus, lai nepieļautu noplūdes.

Sankcijas un ietekme uz darbiniekiem

Noteikumu pārkāpšana var nozīmēt tūlītēju atlaišanu. Reģionos, kur darbs tiek ārpakalpojumā, jo īpaši tur, kur darba izmaksas ir zemākas, zaudēt darbu var radīt nopietnas finanšu sekas — kas, pēc ziņotā, attur darbiniekus runāt publiski.

Cilvēki, kuri strādā pie sensitīvu datu pārskatīšanas, reizēm saņem psiholoģisku slogu: biežas pakļaušanās grafiskam vai intīmam saturam var ietekmēt emocionālo labklājību. Dažās nozarēs uzņēmumi nodrošina atbalsta programmas, tomēr prakse atšķiras un, kā izmeklēšana rāda, tās ne vienmēr ir pietiekamas vai pieejamas visiem līgumu veicējiem.

Izvairīšanās no datu vākšanas un lietotāja izvēles

Žurnālisti, kas testēja Meta viedās brilles, arī konstatēja, ka atteikšanās no datu vākšanas ir sarežģīta, ja lietotājs vēlas piekļūt ierīces MI funkcijām. Meta brīdina klientus nekad nefiksēt vai nedalīt sensitīvu informāciju, lietojot sistēmu, taču kritiķi uzsver, ka šādi brīdinājumi, iespējams, nepārsniedz realitāti par to, cik plaši ierakstītais materiāls tiek pārskatīts.

Tehniski runājot, datu vākšanas slēdži vai privātuma iestatījumi var ierobežot automātisku apstrādi, taču tie reti nodrošina, ka cilvēki pilnībā nezaudē piekļuvi materiālam. Reāla izvēle nozīmē ne tikai iespēju izslēgt datu sūtīšanu mākoņos, bet arī skaidrus noteikumus par to, kādas trešās puses (tostarp apakšuzņēmēji) var redzēt datus.

Regulatoru un sabiedrības reakcija

Regulatori un datu aizsardzības aktīvisti uz šo gadījumu skatās kā uz pazīstamu spriedzi patērētāju MI jomā: tehnoloģija var šķist automātiska un privāta, bet kaut kur caurulēs cilvēka acis parasti ir iesaistītas. ICO paziņojums par plānu sazināties ar Meta iezīmē soli pretī pieprasījumam pēc lielākas atbildības.

Jurisdikcijas izaicinājumi un starptautiska piekļuve

Globālas tehnoloģiju platformas darbojas pa daudzām jurisdikcijām ar atšķirīgiem datu aizsardzības standartiem. Tas rada juridisku un izpildes izaicinājumu: kas notiek ar datiem, kad tie tiek nosūtīti uz citām valstīm, kur spēkā ir citas likumdošanas normas? Vai reģulatoram, piemēram, ICO, ir pilnvaras pārbaudīt partnerus ārpus valsts robežām?

Paturot prātā starptautiskas piegādes ķēdes, svarīgi jautājumi ir par līguma noteikumiem, piekļuves kontroles mehānismiem un datu šifrēšanu ceļā. Kādā brīdī datu anonimizācija vai minimizācija var samazināt risku, taču tās īstenošana praksē bieži saskaras ar tehniskiem ierobežojumiem un biznesa prasībām.

Sabiedrības uztvere un tehnoloģiju atzīšana

Šis incidents var mazināt lietotāju uzticību jebkurām valkājamām ierīcēm ar iebūvētu kameru un MI funkcijām. Patērētāji parasti sagaida, ka privātās sarunas vai intīmās situācijas netiks apstrādātas cilvēku acīm bez skaidras piekrišanas.

Uzņēmumiem, kas izstrādā viedās brillēs balstītus risinājumus, būs jāstrādā pie labākas komunikācijas par to, kādi dati tiek vākti, kā tie tiek izmantoti un kuri partneri tiem piekļūst. Skaidra privātuma politika, pārskatāma audita prakse un neatkarīga uzraudzība var palīdzēt atgūt daļu uzticības.

Tehniskie konteksti un iespējamie risinājumi

Lai saprastu šo problēmu dziļumu, lietderīgi izklāstīt tehniskos elementus: kā dati plūst no brilles uz mākoņinfrastruktūru, kur tie tiek apstrādāti un kāpēc cilvēki tajā iekļaujas.

Datu plūsma un pārskatīšanas punkti

Tipiska plūsma izskatās šādi:

• Ierīce (viedās brilles) ieraksta attēlu, video vai audio un saglabā to pagaidu buferī.
• Izlases vai specifisku triggeru gadījumā ieraksts tiek nosūtīts uz drošu serveri vai mākoņa vidi, kur to apstrādā MI pakalpojums.
• Lai uzlabotu modeļu veiktspēju, daļa ierakstu tiek atlasīta manuālai pārskatīšanai anotatoru komandā.
• Anotatori atgriež anotācijas un labojumus, kas tiek izmantoti, lai pārtrenirētu vai smalki noregulētu modeļus.

Katrs no šiem soļiem rada drošības un privātuma riskus, īpaši, ja nav stingru piekļuves kontroļu, šifrēšanas un audita žurnālu.

Tehniskie risinājumi, lai samazinātu cilvēku iesaisti

Daži tehniskie paņēmieni, kas potenciāli samazina jūtīga satura cilvēku pārskatīšanas apjomu:

• Edge computing — datu apstrāde lokāli uz ierīces, lai samazinātu nepieciešamību sūtīt sensitīvu saturu uz ārējiem serveriem.
• Automatizēta sajūtu noteikšana (sensitive content detection) ar augstu precizitāti, kas pirms cilvēka iesaistes filtrē vai anonimizē saturu.
• Pilnīga vai daļēja datu anonimizācija (faces blurring, voice masking) pirms datu nosūtīšanas anotācijai.
• Strikta datu minimizācija — vāc tikai to, kas ir nepieciešams konkrētai funkcijai.

Tomēr šie risinājumi nav vienkārši. Edge computing ierīču resursu ierobežojumu, modeļu precizitātes un izmaksu faktori ierobežo pilnīgu pāreju. Turklāt anonimizācija var degradēt datu kvalitāti, kas nepieciešama, lai modeļi mācītos pareizi interpretēt reālas situācijas.

Praktiskas atziņas un ieteikumi

Šī izmeklēšana izgaismo vairākus svarīgus virzienus politikas veidotājiem, uzņēmumiem un patērētājiem.

Ieteikumi uzņēmumiem

• Skaidri publicējiet, kurš piekļūst ierakstiem un kādi ir pārskatīšanas procesi; uzrādiet auditu rezultātus, ja iespējams.
• Samaziniet cilvēku piekļuvi jūtīgam saturam, izmantojot tehniskas filtrēšanas un anonimizācijas risinājumus.
• Nodrošiniet psiholoģisko un juridisko atbalstu līgumdarbiniekiem, kas strādā ar sensitīviem materiāliem.
• Ieviest stingrus SLA (service level agreements) ar apakšuzņēmējiem, kas iekļauj datu apstrādes, drošības un atbilstības prasības.

Ieteikumi regulatoriem

• Saskaņot starptautiskas vadlīnijas par valkājamu ierīču datu apstrādi un ārpakalpojumu nodrošināšanu.
• Pieprasīt uzņēmumiem publisku informāciju par to, kādi dati tiek annotēti un kā tie tiek aizsargāti.
• Veicināt neatkarīgus audits un atbilstības pārbaudes, īpaši, ja dati tiek pārsūtīti uz valstīm ar zemākām datu aizsardzības prasībām.

Secinājumi

Izmeklēšana par Meta viedajām brillēm un to, kā apakšuzņēmumu darbinieki pārskata saturu, izgaismo līdzsvara meklējumus starp tehnoloģisku attīstību, MI modeļu uzlabošanu un cilvēku privātumu. Lai gan datu anotācija ir būtiska, lai padarītu MI lietojamu un drošu, uzņēmumiem ir jānodrošina, ka šis process nenonāk pretrunā ar lietotāju tiesībām uz privātumu un emocionālo drošību.

Patērētāji, uzņēmumi un likumdevēji saskaras ar kopīgu izaicinājumu: kā saglabāt inovācijas tempu, vienlaikus ievērojot caurspīdīgumu, atbildību un datu aizsardzību. Ja valkājamās kameras kļūs par sadzīves daļu, cilvēku acis, kas pārskata ierakstus, var redzēt daudz vairāk nekā sākotnēji domāts — un risinājumi jāmeklē drīz.