Apple gandrīz izņēma Grok no veikala par pornogrāfiju

Kā ziņots, Apple gandrīz izņēma Grok no lietotņu veikala pēc tam, kad xAI čatbots saistījās ar plašu nesaskaņotu mākslīgā intelekta radītu pornogrāfiju, tajā skaitā attēliem, kuros bija iesaistīti nepilngadīgie. Pāris grimtas dienas janvārī sekas ātri izplatījās X, un klusums no Cupertino bija grūti nepamanāms.

Saskaņā ar CNBC ziņojumu, uz kuru atsaucas 9to5Mac, Apple brīdināja xAI, ka Grok var tikt izņemts, ja netiks kontrolētas lietotnes problēmas ar mākslīgā intelekta ģenerētiem kailfoto. Uzņēmums bija jau noraidījis vismaz vienu atjauninājumu, skaidri norādot, ka X bija risinājis daļu no plašākās moderācijas problēmas, kamēr pati Grok lietotne joprojām neatbilda lietotņu veikala noteikumiem.

Apple šonedēļ publiskotā vēstule neatstāja daudz vietas interpretācijai. Pārskatot jaunās iesniegšanas, uzņēmums norādīja, ka X bija būtiski novērsis pārkāpumus, tomēr Grok joprojām neatbilda prasībām. Ziņa bija skaidra: novērsiet problēmu, pretējā gadījumā lietotne var tikt izņemta.

Tas brīdinājums bija svarīgs. X, Elon Musk jau bija pielāgojis moderācijas politiku, pēc tam, kad platformu aizplūdināja nelikumīgs ar mākslīgo intelektu radīts seksuāls saturs. Neskatoties uz to, Grok lietotne mainījās lēnāk, un lietotāji ātri atklāja, ka daļa ļaunprātīgas izmantošanas joprojām var izsprukt cauri aizsardzībām.

Kad bloķēšana kļūst par izaicinājumu

Musk paša izaicinājums situāciju tikai pasliktināja. Pēc tam, kad viņš aicināja cilvēkus mēģināt ģenerēt nepatiesus kailfoto ar Grok, daudzi tieši to arī izdarīja. Kopš tā laika drošības filtri ir pastiprināti, bet ne pietiekami, lai ļaunprātība pilnībā pazustu. Uzvedības norādes var būt grūtākas tagad. Apiet sistēmas joprojām ir iespējams.

Apple noteikumi par lietotāju ģenerētu saturu ne vienmēr ir visai skaidri, taču moderācija nav brīvprātīga. Grok gadījumā uzņēmums, šķiet, nolēma, ka daļa moderācijas ir labāka nekā nekādas, un tas, iespējams, bija pietiekami, lai lietotne paliktu publiski pieejama.

Tajā brīdī stāsts kļūst neērtāks. Apple ilgstoši ir izņēmis lietotnes par politikas pārkāpumiem, kas nav tik šokējoši kā šis. Lietotnes, kas saistītas ar viltus pornogrāfiju, iepriekš ir klusi izņemtas no veikala, tostarp vismaz 28, kas tika noņemtas pēc cita ziņojuma atklāšanas. Bet, kad attiecīgā lietotne pieder Elon Musk, process šķiet daudz sarežģītāks.

Nauda. Politika. Ietekme. Birokrātija. Izvēlieties pašu. Ar Musku visi šie faktori ir klātesoši.

Pastāv arī noturīgais mīts, ka X darbojas kā kāda neskarama brīvības izpausmes cietoksnis. Tas nav taisnība. Un Apple zina atšķirību. Tomēr uzņēmums šoreiz, šķiet, izvēlējās maigāku pieeju, ļaujot Grok palikt pieejamai pēc tā, ko sauca par būtiski uzlabotu atjauninājumu.

Kas tieši mainījās, nav skaidrs. Apple to nav precizējis, un xAI arī nav sniedzis daudz detaļu. Taču iznākums runā pats par sevi: lietotne izdzīvoja, pat pēc saistīšanas ar vienu no gada smagākajām mākslīgā intelekta drošības kļūdām.

Tādi gadījumi ir iemesls, kāpēc regulatori visā pasaulē turpina pārskatīt Apple lietotņu veikala politiku. Dažas valdības jau ir centušās ieviest modeli, kurā lietotņu pārskatīšana darbojas vairāk kā ārēja uzraudzības iestāde, nevis vārteja, kas atskaitās tikai Apple. Pēc Grok epizodes šī ideja kritiķiem liksies vēl pievilcīgāka tiem, kuri uzskata, ka pašreizējā sistēma pārāk viegli lokās, kad likmes kļūst augstas.