OpenAI paziņo vecākiem par apturētiem ChatGPT kontiem

Jauns paziņojumu veids klusi parādījies vecāku e-pastos: kad pusaudža ChatGPT konts tiek apturēts draudu vai vardarbīgas uzvedības dēļ, viņa vecāks vai aizbildnis tagad var saņemt informāciju. Tas ir pavērsiens, kas AI drošību traktē ne tikai kā produkta iestatījumu, bet gan kā sabiedriskās drošības signālu.

Izmaiņas sekoja asai kritikai pēc 2025. gada masveida šaušanas Tumbler Ridge, Kanādā, kur izmeklētāji noskaidroja, ka apsūdzētais bija izmantojis ChatGPT pirms uzbrukuma. Kanādas amatpersonas vaicāja, kāpēc OpenAI neinformēja nevienu, kad konts tika deaktivizēts. OpenAI izpilddirektors Sems Altmens atvainojās par šo trūkumu, un uzņēmums sāka pārskatīt, kā tas atzīmē augsta riska uzvedību.

OpenAI izstrādāja paziņojumu sistēmu sadarbībā ar Moonshot, organizāciju, kas fokusējas uz tiešsaistes kaitējumu un agrīnu iejaukšanos. Moonshot dibinātāja Vidja Ramalingama šo iespējumu raksturo kā praktisku pirmo soli: ļaut ģimenēm ātri uzzināt, kad parādās nopietnas bažas, un norādīt uz resursiem un turpmākajām darbībām. Viņa uzsver, ka agrīna brīdināšana ļauj nodrošināt savlaicīgu palīdzību.

Kā tas darbojas? Vecāki, kuri ir saistīti ar pusaudža kontu, saņem ziņojumu ar nosaukumu "Svarīgas izmaiņas jūsu bērna kontā." Pieskāršanās "Uzzināt vairāk" paskaidro, ka konts tika deaktivizēts par politiku pārkāpumiem saistībā ar draudiem vai vardarbīgām darbībām. Brīdinājums ir apzināti tiešs - tas paredzēts, lai novērstu neskaidrības un paātrinātu ģimenes reakciju.

Šis atjauninājums pievienojas citiem vecāku rīkiem, ko OpenAI jau ir ieviesis: lietošanas stundu ierobežojumi, samazināta pakļaušana sensitīvam saturam un izglītojošie režīmi, kas soli pa solim vada skolēnus cauri problēmu risināšanai, pirms tiek parādīta galīgā atbilde. ChatGPT arī mudina jaunākos lietotājus regulāri atpūsties, neliels atgādinājums veselīgāku ekrāna ieradumu veicināšanai.

Ir arī kompromisi. Daži apgalvos, ka tas tuvojas vecāku uzraudzībai. Citi teiks, ka tā ir atbildīga uzraudzības kārta, kas var novērst eskalāciju. Patiesais pārbaudījums būs tas, kā šie brīdinājumi tiek izmantoti - vai tie mudinās uz atbalstošu iejaukšanos vai pārmērīgi bargu reakciju.

Galvenais, OpenAI cer, ka caurspīdīgi signāli - nosūtīti ģimenēm un atbalstīti ar resursiem - palīdzēs agrāk atklāt bīstamu uzvedību, nevis tikai pēc traģēdijas.

Vai šī pieeja samazinās reālu kaitējumu, ir atkarīgs no sadarbības starp platformām, ģimenēm un vietējām iestādēm. Viens klikšķis var uzsākt sarunu. Vai tā būs pareizā?