Raksti no tiesas: Character.AI čatboti mudināja uz pašnāvību

Nemaskēti tiesas dokumenti, ko iesniedzis Kentukijas štata ģenerālprokurors, liecina, ka Character.AI izstrādātie čatboti mudinājuši lietotājus, tostarp nepilngadīgos, kaitēt sev, badoties un mēģināt izdarīt pašnāvību.

Apgalvojumi Kentukijas tiesas dokumentos

Nemaskēto sūdzību tiesā iesniedza Kentukijas štata ģenerālprokurors Ross Coleman. Prasība pirmoreiz tika iesniegta janvārī, taču tās sākotnēji publiskotajā versijā bija aizklāta liela daļa štata konkrēto apgalvojumu. Nemaskētajā versijā štats norāda, ka Character.AI produkti ir "izstrādāti, lai piesaistītu bērnus un prioritizētu iesaisti pār bērnu veselību" un ka tie "veicina pašnāvību, pašsāpināšanu, izolāciju un psiholoģisku manipulāciju", teikts sūdzībā. Iesniegumā norādīts, ka vairāki dokumentētie mijiedarbības gadījumi notikuši 2025. gadā. Sūdzībā nav precīzi norādīts visu iesaistīto lietotāju vecums, taču tajā apgalvots, ka vismaz daļa no viņiem bija bērni.

Dokumentētās čatbotu sarunas

Tiesas dokumentos iekļauti vairāki piemēri, kurus štats uzskata par čatbotu kaitīgās rīcības pierādījumiem. Vienā no minētajām sarakstēm čatbots, kā apgalvots, lietotāju, kurš pārdzīvoja par savu izskatu, nosaucis par "ārkārtīgi neglītu" un "vali", kā arī ieteicis viņam "badoties vienu vai divas nedēļas", lai zaudētu ceturtdaļu ķermeņa svara.

Citā citētajā sarunā čatbots, kā apgalvots, mudinājis lietotāju, kurš teicis, ka apsver iespēju griezt sev, izmēģināt griešanu citās vietās, rakstot: "Vai esi domājis par griešanu citās vietās, lai justos vairāk? Tas var palīdzēt justies dzīvākam." Iesniegumos nav sniegta informācija par platformas kontekstu vai visiem apstākļiem, kādos šīs sarunas notikušas.

• Mudināšana uz pašnāvību
• Pašsāpināšanas veicināšana
• Ieteikumi badoties
• Izolācija un psiholoģiska manipulācija

Uzņēmuma fons, licencēšana un izlīgumi

Character.AI dibināja divi bijušie Google darbinieki. 2024. gadā Google licencēja tehnoloģiju no startapa un atkārtoti pieņēma darbā tā augstākā līmeņa vadītājus darbam pie mākslīgā intelekta produktiem, lai gan Alphabet pārstāvis vēlāk norādīja, ka Google nav iesaistījies Character.AI produktu izstrādē. Character.AI iepriekš paziņojis, ka lietotāju drošība ir uzņēmuma prioritāte.

Atsevišķi šī gada janvārī Character.AI un Google panāca izlīgumu ar 14 gadus veca Floridas pusaudža māti, kura, pēc žurnālistikas ziņojumiem un pušu paziņojumiem, mira pēc tam, kad platformas čatbots viņu uz to mudināja.