Čatboti nav cilvēki: privātums, kontrole un riski

Neuztveriet čatbotu kā uzticības personu. Īss teikums. Skarba realitāte.

Meredith Whittaker, kura vada drošo ziņojumapmaiņas lietotni Signal, Bloomberg nepārprotami sacīja, ka tādi rīki kā ChatGPT un Claude nav apziņas pilni sarunu biedri. Tie imitē sarunu. Tie nejūt. Tie nesaprot jūs tā, kā to dara cits cilvēks. Šī atšķirība kļūst svarīgāka nekā jebkad agrāk, jo mēneša laikā robeža starp noderīgu palīgu un invazīvu klātbūtni kļūst aizvien plānāka.

Whittaker atzīst, ka dažkārt izmanto mākslīgo intelektu ikdienišķiem uzdevumiem, piemēram, dokumenta noformējuma sakārtošanai, taču viņa nepieļauj, ka tas ietekmē viņas domāšanu. Viņa aizstāv to radošo un intelektuālo darbu, kas rodas no cilvēku prātiem. Kāpēc dot sistēmai, kas apkopo un aptuveni atkārto jau pastāvošo, varu virzīt to, kā mēs domājam vai rakstām?

Brīdinājums kļuva skarbāks, kad viņa reaģēja uz nesenu Mustafas Suleimana, Microsoft mākslīgā intelekta vadītāja, prognozi, ka palīgi kā Copilot šogad varētu nokārtot lietotāju Ziemassvētku iepirkšanos. Izklausās ērti. Taču, lai to panāktu, palīgam būtu nepieciešama ārkārtīgi intīma jūsu dzīves pārskata pieeja: ģimenes grupu tērzēšanas, pārlūkošanas vēsture, kredītkartes, adreses, kalendāri, kā arī spēja sūtīt ziņas radiniekiem jūsu vārdā. Vai jūs uzticētu visu to vienam pakalpojumam?

Whittaker šo plašo piekļuvi sauc par to, kas tā ir: slepena ieeja personīgajā privātumā. Droša ziņojumapmaiņas kontekstā šāda visaptveroša piekļuve apdraud pašas tās garantijas, ko lietotāji meklē. Signal neļaus mākslīgā intelekta sistēmām plašas un invazīvas piekļuves tiesības savā lietotnē.

Diskusija vairs nav tikai teorētiska. Kad mākslīgā intelekta funkcijas ieplūst vairāk platformu, katra jauna ērtība prasa kompromisu: ātrums pret kontroli, efektivitāte pret intimitāti. Kur jūs novilksiet robežu, tas noteiks ne tikai jūsu iesūtni, bet arī to, kas ietekmē jūsu uzmanību un izvēles.