Meta pārvaldība un produktu dizains: drošība pret iesaisti

Oaklandas tiesas zālē bijušais Meta inženieris uzzīmēja skarbu ainu par to, kā tiek pieņemti lēmumi sociālajā gigantā: ne laboratorijās vai komitejās, bet augšgalā. Arturo Bejar sacīja žūrijai, ka Marka Zuckerberga prioritātes ietekmēja produktu izvēli visā Facebook un Instagram, un jauno lietotāju drošība bieži tika upurēta iesaistei un izaugsmei.

Varas ietekme, produktu dizains un tam sekojoša kultūra

Bejar, kurš strādāja Meta no 2009. līdz 2015. gadam un atgriezās kā līgumstrādnieks no 2019. līdz 2021. gadam, lai pētītu pusaudžu labklājību Instagram, bija galvenais liecinieks valsts pusē nozīmīgā tiesas procesā, kas var piespiest būtiskas izmaiņas platformās. Valstu prokurori apgalvo, ka Meta veidoja savas lietotnes tā, lai tās pieķertu jaunākus lietotājus, veicinot trauksmes, depresijas un pat pašnāvību pieaugumu, vienlaikus slēpjot, ko uzņēmums zināja par šiem kaitējumiem.

Viņš aprakstīja augšupvērstu vadības stilu, kurā viena izpilddirektora fokuss varēja ietekmēt inženieru komandas: kad Zuckerberg pievērsās kādam rādītājam, produktu darbi paātrinājās un dizaina izmaiņas sekoja ātri. "Ja Marks kaut ko prioritizēja," Bejar liecināja, "mēnešos varēja pārvietot kalnus." Vienkārša frāze. Milzīgas sekas.

Šis liecinājums tieši apstrīdēja Zuckerberga publiskos apgalvojumus, ka uzņēmums pastāvīgi izmanto pētījumus, lai padarītu produktus drošākus. Bejar teica, ka viņš vairākkārt pauda bažas par bērnu drošību e-pastos augstākajai vadībai, un viņš žūrijai tieši norādīja, ka uzticēšanās Zuckerbergam bērnu jautājumos bija nepamatota.

Tiesas process sākās šonedēļ un, kā gaidāms, ilgs aptuveni sešas nedēļas. Žūrija sniegs padomdevēja atzinumu, bet galīgo lēmumu par Meta atbildību un, ja piemērojams, par civilajām soda naudām un piespiedu produktu izmaiņām pieņems tiesnesis Evan Gonzalez Rogers.

Ne visa pierādījumi bija abstrakti. Bejar stāstīja, kā palīdzēja savai pusaudžu meitai izveidot Instagram kontu. Viņai toreiz bija 16 gadi. Viņš atzina prettiesāšanā, ka nevarēja paredzēt visus kaitējumus, ar kuriem viņa varētu saskarties. Viņa pierakstījās, lai izveidotu telpu sievietēm runāt par autobraukšanu un automašīnām, taču saskārās ar mizogīniskiem komentāriem un toksiskām mijiedarbībām. "Viņa ieguva sekotājus," Bejar sacīja, "bet cena bija kaitējums." Šis teikums uzrunāja tiesas zāli.

Viņš arī atzina, ka Meta nodarbina simtiem cilvēku drošības lomās un ka daži no tiem ir ļoti kvalificēti. Tomēr Bejar teica, ka viņa otrais periods kā ārējam līgumstrādniekam ierobežoja piekļuvi iekšējiem resursiem un pašam Zuckerbergam, kas ārpus uzņēmuma apgrūtināja centienus virzīt dizaina izmaiņas.

Viens strīda punkts bija Meta tā sauktie pārtraukumu rīki, ko uzņēmums uzsver kā pierādījumu tam, ka palīdz lietotājiem ierobežot laiku. Bejar apgalvoja, ka šīs iespējas bija ieprogrammētas neveiksmei. Tās nav ieslēgtas pēc noklusējuma, un to paziņojumus ir viegli ignorēt. No viņa skatupunkta rīki funkcionēja vairāk kā sabiedrisko attiecību remonti, nevis sistēmiski risinājumi.

Viņš arī liecināja, ka Meta bija tehnoloģija, lai identificētu miljonus, visticamāk, zem 13 gadu vecuma lietotāju, bet izvēlējās pieeju "nevaicā, neziņo", jo stingrāka vecuma kontrole varētu samazināt ilgtermiņa iesaisti un ieņēmumus. Īsāk sakot: uzņēmums apmainīja iespējamus drošības pasākumus pret ekonomiskajiem ieguvumiem no plašākiem lietotāju pulkiem.

Žūrijai pēc Bejara liecības atskaņotā ierakstītā liecība no Meta pētnieces Elenas Davis uzsvēra iekšējo diskusiju. Deivisa lasīja pētījumu, kurā norādīts, ka Facebook varētu pārveidot tā, lai samazinātu ieradumu veicinošas mehānikas un palīdzētu lietotājiem pārtraukt nevēlamu lietošanu. Pētījums iezīmēja pavisam citu produktu ceļkartes variantu nekā to, ko kritiķi apgalvo, ka uzņēmums galu galā īstenoja.

Meta saskaras ar tūkstošiem saistītu tiesvedību visā valstī. Bejar ir bijis liecinieks četros atsevišķos procesos pret uzņēmumu, un viena agrākā lieta, ko iesniedza Ņūmeksika, noveda pie nolēmuma, kas prasīja izmaiņas un piešķīra zaudējumus aptuveni 876 miljonu eiro apmērā par soda naudām un izmaksām.

Tātad, kas ir izšķiroši? Reālas reformas tam, kā tiek veidotas platformas. Vai arī pakāpeniskas izmaiņas, kas atstāj pamatmehānikas nemainīgas. Žūrijas padomdevēja viedoklis un tiesneša Gonzalez Rogers galīgais spriedums būs svarīgi ne tikai Meta, bet arī tam, kā regulatori un tiesas uztvers korporatīvo atbildību uzmanības ekonomikā.

Ja vadība prioritizē iesaisti par drošību, produktu dizains tai sekos, apzināti vai neapzināti.