OpenAI brīvprātīgi iesaistās ASV AI uzraudzības testos

Kad valdība lūdz ieskatīties jaunākās paaudzes mākslīgā intelekta darbībā, uzņēmumi parasti iepauzē. OpenAI to nedarīja, ne pilnībā. Džordžs Osborne, OpenAI valstu vadītājs, sacīja Londonas auditorijai festivālā SXSW, ka uzņēmums brīvprātīgi piedalīsies jaunajā ASV procesā, kas pieprasa agrīnu piekļuvi uzlabotiem modeļiem.

Sākotnēji Baltā nama virzītais izpildrīkojums paredzēja 90 dienu priekšizdošanas iesniegšanas periodu. Šāds priekšlikums saskārās ar pretestību. Kā ziņots, tas tika mīkstināts līdz 30 dienu pieprasījumam pēc sabiedriskām iebildēm un pat daļējas ambivalences no prezidenta Trampa puses. Gala formulējums lūdz piekļuvi, neuzliekot to par obligātu, tomēr tas joprojām signalizē stingrāku uzraudzību visjaudīgākajām sistēmām.

OpenAI ir piekritusi iesniegt savus nākamās paaudzes modeļus etalonizācijas vingrinājumam, kas paredzēts, lai novērtētu «AI modeļu uzlabotās kiberspējas» un palīdzētu noteikt slieksni tam, ko regulatori varētu dēvēt par «aptverto robežmodeli». Ko tas nozīmē praksē? Iedomājieties to kā programmatūras stresa testu reālu risku novērtēšanai: spējas, ļaunprātīgas izmantošanas potenciāls un drošības stāvoklis visi tiek mērīti pret sabiedrības interešu mēru.

Osborne šo soli raksturoja kā proaktīvu. Viņš norādīja, ka OpenAI ir sniedzis ierosinājumus par to, kā valdības var uzraudzīt AI drošību un aizsardzību, ne tikai ASV, bet arī globāli. Šāda pieeja atspoguļo nozares maiņu: uzņēmumi, kas agrāk bija aizsardzības pozīcijā pret regulējumiem, tagad redz koordināciju kā veidu, kā izvairīties no steidzīgi pieņemtiem un vāji izstrādātiem noteikumiem.

Tomēr brīvprātīga sadarbība atšķiras no saistošas uzraudzības. Uzņēmumi var pakļauties, sniegt ieteikumus vai iebilst. Tie var arī ietekmēt etalonus un no tiem izrietošās definīcijas. Lēmumu pieņēmējiem izaicinājums būs nodrošināt, ka etaloni paliek stingri, caurspīdīgi un izturīgi pret nozaru interešu sagrābšanu. Uzņēmumu skatījumā aprēķins ietver reputāciju, piekļuvi tirgum un praktisko slogu nodot jutīgus modeļus pat izvērtētiem vērtētājiem.

Regulēšana pēc pieprasījuma. Etalonēšana pēc vienošanās. Sākas jauna nodaļa par to, kā nozare un valdība sarunā kontroli pār jaudīgu AI, un tas uzdod pazīstamus, bet steidzamus jautājumus par atbildību, tehnisko caurspīdīgumu un to, kurš nosaka drošības sliekšņus. Sekojiet līdzi, jo paši testi var atklāt vairāk nekā jebkurš izpildrīkojums.