OpenAI līguma maiņa: AI masveida uzraudzība aizliegta

Sam Altman parasti neskaņojas kā cilvēks, kas gatavojas tiesas cīņai. Šoreiz viņš izklausījās tieši tā.

Pēc plašas kritikas par OpenAI nesen atklāto sadarbību ar ASV Aizsardzības departamentu uzņēmuma izpilddirektors paziņoja, ka līgums tiks pārrakstīts, lai viena lieta būtu neapšaubāma: OpenAI mākslīgā intelekta sistēmas nedrīkst tikt izmantotas masveida uzraudzībai pār amerikāņiem.

Altman ievietoja iekšēju memu — sākotnēji nosūtītu darbiniekiem — kurā apskatīta šī izmaiņa. Pēc viņa teiktā, atjauninātās līguma formulējums skaidri aizliegs apzinātu iekšējo uzraudzību pret ASV personām un pilsoņiem, sasaistot šo ierobežojumu ar esošajiem juridiskajiem drošības mehānismiem, piemēram, Četurtā labojuma aizsardzību, Nacionālās drošības likumu un Ārvalstu izlūkošanas uzraudzības likumu (FISA).

Mēmā ierosinātais formulējums ir neparasti tiešs attiecībā uz valdības līgumslēdzēju. Tajā teikts, ka, saskaņā ar piemērojamiem ASV likumiem, mākslīgā intelekta sistēma “nedrīkst tikt apzināti izmantota iekšējai uzraudzībai pret ASV personām un pilsoņiem”. Papildus tam iekļauta precizējoša rindiņa, kas domāta cilpu aizķeršanai: aizliegums attiecas arī uz apzinātu izsekošanu vai monitoringu, pat tad, ja tas balstās uz komerciāli iegādātu personisku vai identificējamu informāciju.

Līguma precizējums — skaidra rinda smiltīs

Altman arī apgalvo, ka Aizsardzības departaments apstiprināja vēl vienu bažas cēlušu punktu: saskaņā ar pašreizējo vienošanos OpenAI pakalpojumi netiks piegādāti ASV izlūkošanas iestādēm, piemēram, NSA. Ja tas mainītos, viņš norāda, būtu nepieciešams līguma grozījums.

Tad sekoja teikums, kas ātri izplatījās: Altman rakstīja, ka, ja viņam tiktu dotas pavēles, kuras viņš uzskatītu par konstitucionāli neatbilstošām, viņš labprātāk dotu priekšroku aizstāvībai tiesā vai pat cietumam, nekā pakļautos. Tas ir dramatizēts formulējums, taču tas arī signalizē, ka OpenAI mēģina izšķirt skaidru robežu starp “aizsardzības darbu” un “iekšējo uzraudzību” — atšķirība, kas bieži izplūst, tiklīdz iesaistās mākslīgais intelekts.

Altman atzina arī, ka paziņojuma izplatīšana izvērtās haotiski. Viņa stāstītajā OpenAI paziņojumu izlaižot pārāk strauji — viņš uzsvēra, ka jautājumi ir “ļoti sarežģīti” un prasa skaidrāku komunikāciju. Nodoms, pēc viņa teiktā, bija mazināt spriedzi un novērst “daudz sliktāku iznākumu”. Tomēr laika izvēle radīja iespaidu, ka darījums bija oportunistisks.

Laiks patiešām bija nozīmīgs. OpenAI partnerība kļuva publiska tūlīt pēc tam, kad prezidents Donalds Tramps izdeva rīkojumu ASV valdības iestādēm pārtraukt Anthropic rīka Claude un citu Anthropic pakalpojumu izmantošanu. Būtiski ir tas, ka Anthropic sadarbojas ar federālo valdību kopš 2024. gada.

Kas mainās līgumā

Galvenā izmaiņa, ko Altman solīja — un kas tiek uzsvērta memā — ir tieša aizsvērēšana attiecībā uz iekšējo uzraudzību. Šāda konkrēta līguma klauzula skaidri ierobežo, kā Aizsardzības departaments var izmantot OpenAI modeļus attiecībā uz ASV personām. Juridiski tas sasaista uzņēmuma komerciālā pakalpojuma izmantošanu ar konstitucionālajiem ierobežojumiem un federālajiem drošības likumiem, kas var kalpot kā papildu aizsardzība pret ļaunprātīgu izmantošanu.

Praksē šāda klauzula var nozīmēt:

• obligātu klienta atbilstības pārbaudi pirms piekļuves nodrošināšanas sistēmām,
• ierobežojumus datu veidiem, kurus var integrēt modeļos (piemēram, aizliedzot komerciāli iegādātas personiskas datu kopas bez skaidras juridiskas pamatojuma),
• šķautnainu pārbaužu un auditu mehānismus, lai nodrošinātu, ka sistēmas netiek izmantotas iekšējai uzraudzībai.

Reaģēšana un komunikācija

OpenAI vadības piezīme norāda uz problēmu, kas ir tikpat nozīmīga kā pašas juridiskās formulācijas: komunikācija. Grūtība skaidri izskaidrot līguma ierobežojumus, entuziasms publiskot sadarbību vai vēle reaģēt uz politisku spiedienu var radīt pārpratumus un uzticības krīzi. Tas, ko Altman rakstīja par “pārāk strauju” paziņojumu, atspoguļo plašāku problēmu tehnoloģiju uzņēmumiem — jāspēj balansēt starp drošības, ētikas un biznesa interešu prasībām, vienlaikus uzturot skaidru komunikāciju ar sabiedrību un regulējošajām iestādēm.

Anthropic, drošības barjeras un politiskā spriedze

Šīs ziņas virspusē raugoties, tas var šķist tikai par vienu līguma klauzulu. Tomēr dziļāks stāsts atklāj asu plaisu starp lielākajām AI laboratorijām par to, ko tās ir gatavas (un ne) pieļaut savu modeļu izmantošanā valdības rokās.

Saskaņā ar Altmana memā citēto informāciju Aizsardzības departamenta vadība, tostarp sekretārs Pīts Hegseth, esot spiedusi Anthropic vājināt Claude drošības barjeras, lai modelis būtu izmantojams jebkuram “likumīgam” mērķim. Šajā kontekstā termins “likumīgs” žurnālistu un avotu ziņojumos šķita ietvēris arī masveida uzraudzību un darbu pie pilnībā autonomām ieroču sistēmām.

Anthropic to noraidīja. Uzņēmums publiskā paziņojumā teica, ka “neviens spiediens vai sods” nemainīs tā nostāju attiecībā uz masveida iekšējo uzraudzību vai pilnībā autonomiem ieročiem. Pēc tam sekoja Trampa rīkojums, un, ziņots, Aizsardzības departaments sāka agrīnas darbības, lai Anthropic potenciāli klasificētu kā “piegādes ķēdes risku” — apzīmējumu, kuru biežāk pielieto ārvalstu (bieži Ķīnas) uzņēmumiem, kurus aizdomās tur par valdības saitēm.

Politiskā dinamika un regulatīvā vide

Šis konflikts nav tikai tehnoloģisks — tas ir politisks. ASV regulatori un politiskie lēmumu pieņēmēji pievērš lielu uzmanību tam, kuras tehnoloģijas nonāk valdības rīcībā un ar kādiem nosacījumiem. Debates par privātumu, nacionālo drošību un tehnoloģiju monopolizāciju tiek saasinātas, kad runa ir par AI, jo spēja analizēt lielu datu apjomu un automātiski pieņemt lēmumus maina tradicionālās varas attiecības starp valsti, uzņēmumiem un pilsoņiem.

Atsevišķi līguma punkti, piemēram, aizliegums iekšējai uzraudzībai, var būtiski ietekmēt, vai tehnoloģiju uzņēmums tiek uzskatīts par uzticamu valdības partneri. Tāpēc konkurence starp OpenAI un Anthropic neizskatās vienīgi kā tirgus sīva konkurence — tā kļūst par publisku rāda, kurā tiek vērtēts, kurš uzņēmums spēj kombinēt tehnoloģisko spēku ar ētisku nostāju un juridisku atbilstību.

Konkurence, uzticība un tirgus reakcijas

Šī strīda politiskā un juridiskā dimensija ātri pārtapa arī par tirgus stāstu. Kad ziņa par OpenAI darījumu ar Aizsardzības departamentu kļuva publiska, Anthropic rīkojas strauji: Claude pieauga Apple App Store bezmaksas lietotņu topā, apsteidzot ChatGPT un Google Gemini. Anthropic ātri izlaida rīku, kas ļāva importēt atmiņas, lai padarītu pāreju starp čatbotiem ērtāku, cenšoties izmantot lietotāju uzticības svārstības savā labā. Tikmēr pēc Sensor Tower datiem ChatGPT atinstalāciju līmenis pieauga par 295% diennakts laikā.

Šis dinamiskais reakcijas piemērs parāda, cik ātri publiska uzticība var izzust, ja lietotāji uzskata, ka drošības barjeras ir pārrunājamas. Pat ja tiesiskā aizsardzība pastāv, uztvere ir būtiska — lietotāji pieprasa skaidrību par to, kā viņu dati tiek izmantoti, īpaši, ja tehnoloģija var potenciāli ietekmēt bazālās pilsoņu tiesības.

Ticības ātruma nozīme

Mūsdienu digitālajā ekosistēmā uzņēmuma reputācija un lietotāju uzticība var mainīties dramatiskā ātrumā. Uzņēmumi, kas strādā ar sensitīvu informāciju vai piedāvā tehnoloģijas valdības iestādēm, īpaši jūt šos efektus. Pat ja līgumā ir iekļauti spēcīgi aizliegumi, slikta komunikācija, neskaidras deklarācijas vai datu izmantošanas piemēri, kas saskan ar sabiedrības bailēm, var radīt neatgriezenisku uzticības eroziju.

Juridiskie, tehniskie un ētiskie aspekti

Šīs situācijas juridiskie aspekti ietver gan tiešas līguma formulācijas, gan to savietojamību ar konstitucionālajām tiesībām. Četurtā labojuma tiesību aizsardzība pret nepamatotu meklēšanu un konfiscēšanu, Nacionālās drošības likuma prasības un FISA noteikumi nodrošina juridiskos rāmjus, kas var ierobežot valdības piekļuvi datiem un tehnoloģijām. Ja līgums OpenAI pusē skaidri sasaista pakalpojuma izmantošanas politiku ar šiem likumiem, tas var kalpot kā papildu kontrole pret ļaunprātīgu izmantošanu.

Tomēr tehniskā realitāte nav vienkārša. AI modeļi bieži tiek mācīti un pielāgoti, izmantojot lielus datu kopumus, un to darbība var būt grūti pilnībā paredzama. Jautājumi, kas joprojām prasa tehniskas un ētiskas diskusijas, ietver:

• kā novērst, lai modeļi netiktu izmantoti identifikācijai, izsekošanai vai profilēšanai bez skaidra juridiska pamatojuma,
• kā nodrošināt audita iespējām pietiekamu datu pieejamību bez privātuma pārkāpumiem,
• kā tehniski ieviest izmantošanas ierobežojumus, kas ir grūti apiet pat ar sarežģītu datu apvienošanu un komerciāli iegādāto informāciju,
• kā regulējošajām iestādēm un uzņēmumiem sadarboties, lai izstrādātu kopējas vadlīnijas drošības barjeru varbūtējai pārbaužu sistēmai.

Šajos jautājumos gan uzņēmumiem, gan valdībām būs jāiegulda laiks un resursi, lai izveidotu pārbaudes, auditus un tehniskos mehānismus, kas neļauj apiet aizliegumus, vienlaikus saglabājot sistēmu funkcionālumu aizsardzības mērķiem.

Nozares ietekme un nākotnes risinājumi

Šī publiskā cīņa par līgumu nosacījumiem un ētikas robežām var noteikt precedentu plašākai nozarei. Ja OpenAI pieprasītā, skaidrā līnija starp aizsardzības izmantošanu un iekšējo uzraudzību nostiprināsies, tas var mudināt citus piegādātājus iekļaut līdzīgus ierobežojumus savos līgumos. Savukārt, ja šāda prakse netiks ieviesta konsekventi, pastāv risks, ka valdības — vai trešās puses — atradīs veidus, kā izmantot AI rīkus privātpersonu datu apstrādei, pat šķietami likumīgu formu ietvaros.

Viens no iespējamiem risinājumiem ir plašāka nozares sadarbība ar regulatoriem, lai izstrādātu standarta klausules, piemēram, par aizliegumu iekšējai uzraudzībai, auditu pieejām un tehniskajiem blokiem, kas automātiski ierobežo noteiktu datu izmantošanu. Šādi standarti var palīdzēt mazināt politisku spiedienu un nodrošināt vienlīdzīgus spēles noteikumus starp dalībniekiem tirgū.

Secinājumi — uzticība, tiesiskums un tehnoloģiju nākotne

Šis incidents parāda, cik sarežģīti un daudzslāņaini ir jautājumi par mākslīgā intelekta izmantošanu valsts vajadzībām. Līgumu precizēšana, kā to piedāvā Altman, var būt nozīmīgs solis pretī skaidrākai rāmju noteikšanai, taču būtiska ir arī pārskatāmība un komunikācija ar sabiedrību. Bez skaidras informācijas un neatkarīgu auditu mehānismiem pat juridiskas klauzulas var neatbilst sabiedrības uzticībai.

Konkurence starp OpenAI un Anthropic atspoguļo plašākas nozares dilemmas: kā apvienot inovāciju, valsts drošību un privātuma aizsardzību. Izšķiroši būs tas, vai tehnoloģiju uzņēmumi spēs demonstrēt reālus, pārbaudāmus pasākumus pret ļaunprātīgu izmantošanu, kā arī vai regulatori spēs nodrošināt skaidru un saprotamu regulējošu ietvaru.

Galu galā runa ir par uzticības atjaunošanu — gan starp uzņēmumiem un valdībām, gan starp uzņēmumiem un to lietotājiem. Lēmumi, kas tiek pieņemti šajā posmā, var ietekmēt ne tikai vienu līgumu vai vienu gadu, bet arī to, kā sabiedrība uztvers un izmanto mākslīgo intelektu turpmāk.