OpenAI ievieš Uzticamo kontaktu paškaitējuma riska gadījumos

Daži cilvēki izmanto ChatGPT kā meklēšanas lodziņu. Citi runā ar to tā, it kā nosūtītu īsziņu draugam pulksten 2 naktī, kad miegs neļauj iemigt. Šis otrais lietošanas gadījums ir virzījis mākslīgo intelektu daudz smagākā virzienā nekā produktu demonstrācijas un programmēšanas palīdzība, un OpenAI tagad reaģē ar funkciju, kas paredzēta brīžiem, kad saruna šķiet bīstama.

Jaunais rīks, ko sauc Uzticamais kontakts, sāk parādīties ChatGPT iestatījumos pieaugušajiem lietotājiem. Papīra lapā tā mērķis ir vienkāršs: ļaut lietotājam izvēlēties vienu personu, kurai var tikt nosūtīta ziņa, ja sistēma konstatē nopietnu paškaitējuma risku. Praktiski OpenAI cenšas izveidot drošības tīklu, nepadarot privātās sarunas par automātiskām brīdinājumu izsūtēm.

Iestatīšana ir brīvprātīga. Lietotāji var nominēt vienu uzticamu personu, taču tai personai jāatbilst vecuma prasībai: visos reģionos vismaz 18 gadu vecumam, vai 19 gados Dienvidkorejā. Kad persona ir izvēlēta, kontakts saņem uzaicinājumu, kurā izskaidrota loma, un tai ir septiņas dienas, lai piekristu. Ja viņš vai viņa atsakās, lietotājs var izvēlēties kādu citu.

Tas, kas notiek tālāk, rāda, ka OpenAI skaidri cenšas izvairīties no pārlieku plašas rīcības. Brīdinājumi netiek sūtīti automātiski brīdī, kad sistēma konstatē satraucošu valodu. Vispirms ChatGPT informē lietotāju, ka viņa Uzticamais kontakts var tikt brīdināts. Tas arī mudina lietotāju sazināties tieši, pat piedāvājot ieteiktas sarunas uzsākšanas formas. Pēc tam neliela grupa īpaši apmācītu cilvēku pārskatītāju izskata gadījumu. Tikai ja viņi apstiprina, ka situācija norāda uz nopietnu paškaitējuma risku, OpenAI sūta paziņojumu.

Šāds paziņojums var tikt saņemts pa e-pastu, īsziņu vai caur lietotni. Tas nesatur sarunu žurnālus, citātus vai sarunas kopsavilkumu. Tā vietā tas vienkārši informē uzticamo personu, ka paškaitējums tika minēts satraucošā kontekstā, un lūdz sazināties un pārbaudīt, kā klājas. OpenAI norāda, ka mērķis ir veikt cilvēka pārskatīšanu mazāk nekā stundas laikā.

Kā tas iederas OpenAI plašākā drošības kampaņā

Tas neparādās izolēti. OpenAI jau ieviesusi drošības funkcijas, kas saistītas ar pusaudžu kontiem, tostarp brīdinājumus vecākiem, kad saistītajos kontos parādās pazīmes par trauksmi. Uzticamais kontakts paplašina šo ideju uz pieaugušajiem, kas daudz pastāsta par to, kā uzņēmums tagad redz ChatGPT lietojumu. Čatbots vairs nav tikai produktivitātes palīgs. Daudziem lietotājiem tas ir kļuvis par vietu ļoti personiskām, emocionāli uzlādētām sarunām.

Pēc OpenAI teiktā, funkcija izstrādāta, ņemot vērā klīnisko speciālistu, pētnieku un garīgās veselības grupu, tostarp Amerikas Psiholoģijas Asociācijas, ieteikumus. Šī ārēja iesaiste ir svarīga. Jebkurš rīks, kas skar paškaitējuma risku, privātumu un krīzes reakciju, atrodas jūtīgā laukā, kur dizaina lēmumiem ir reālas sekas.

Pastāv arī skaidras robežas. Uzticamais kontakts nav aizstājējs krīzes tālrunim, neatliekamajām dienestiem vai profesionālam garīgās veselības atbalstam. OpenAI norāda, ka ChatGPT turpinās virzīt lietotājus uz šiem resursiem, kad tas būs nepieciešams. Lietotāji jebkurā brīdī var noņemt vai mainīt izvēlēto kontaktu, un kontakts var jebkurā laikā atteikties.

Šajā ieviešanā ir arī klusāka vēstījuma daļa. OpenAI atzīst to, ap ko tehnoloģiju nozare jau kādu laiku ir riņķojusi: cilvēki jau nodod savus visievainojamākos brīžus AI čatbotiem. Vai uzņēmumi to paredzēja vai nē, vairs nav būtiski. Šī uzvedība ir klāt. Funkcijas, piemēram, Uzticamais kontakts, ir mēģinājums reaģēt uz šo realitāti ar nedaudz lielāku piesardzību, nedaudz vairāk cilvēciskuma un atzīšanu, ka pat visattīstītākais čatbots nedrīkst būt vienīgā balss telpā, kad kļūst tumšs.