Fable 5 atgriešanās: Anthropic, ASV un AI drošība

Uz piecpadsmit dienām kāda vērā ņemama mākslīgā intelekta modeļa parādīšanās publiski pazuda. Cilvēki to pamanīja. Inženieri to pamanīja. Uzņēmumi, kas sākuši veidot uz tā pamatā, juta, kā zem kājām mainās grīda. Fable 5, Anthropic uzlabotais loģiskās domāšanas un programmēšanas modelis, tika atsaukts pēc tam, kad ASV varas iestādes izteica drošības bažas, un tagad, avoti ziņo, aizliegums ir tuvu atcelšanai.

Pārtraukums bija neparasts. Lielos modeļus atjaunina, ierobežo vai pielāgo. Tos reti izņem no apgrozības vidū izlaišanas dēļ valsts iejaukšanās. Tieši tas padarīja šo epizodi ievērojamu: tā atklāja spriedzi starp ātri kustīgajiem AI jaunuzņēmumiem un lēnāk darbojošiem nacionālās drošības pārskata mehānismiem. Sarunas starp Anthropic un ASV amatpersonām bijušas intensīvas, bet privātas, un iekšējie avoti Axios un citiem izdevumiem saka, ka vienošanās varētu atjaunot plašāku piekļuvi Fable 5 dažu dienu laikā.

Tajā pašā laikā Tirdzniecības ministrija jau ir sperusi mazāku soli: tā atļāva Anthropic atjaunot Mythos 5, uzņēmuma visjaudīgāko kiberdrošības modeli, dažiem iepriekš pārbaudītiem lietotājiem. Šis solis norāda uz kompromisa modeli. Ierobežotas, kontrolētas atkārtotas ieviešanas. Uzraudzītas izviešanas. Zelta vidusceļš starp pilnīgu aizliegumu un neierobežotu publicēšanu.

Likmes ir praktiskas. Izstrādātāji un uzņēmumi bija sajūsmināti par Fable 5 tā neparasti spēcīgo spriešanas un programmēšanas prasmju dēļ. Viens uzņēmums, Stripe, apgalvoja, ka darba ar šo modeli ļāva viņu komandām vienā dienā pārskatīt 50 miljonu rindu kodu bāzi, uzdevumu, kas citādi būtu prasījis mēnešus. Iedomājieties, ko šāds automatizācijas līmenis nozīmē produktivitātei un risku samazināšanai. Bet arī iedomājieties iespējamo ļaunprātīgu izmantošanu. Tieši šī spriedze lika regulatoriem iejaukties.

Saskaņā ar Tirdzniecības ministrijas vēstuli, Anthropic sadarbojies centienos samazināt riskus, kas saistīti gan ar Fable 5, gan Mythos 5, un ir apņēmies strādāt ar valdības aģentūrām pie standartiem, izlaišanas protokoliem un tehniskajiem aizsardzības pasākumiem. Šo sadarbību rūpīgi uzrauga aizsardzības un izlūkošanas iestādes; pilnīgai Fable 5 publiskai atjaunošanai joprojām nepieciešama galīgā apstiprināšana no Pentagona un Nacionālās drošības aģentūras (NSA).

Anthropic un OpenAI aicinājuši izvēlēties citu ceļu: nevis individuālas iejaukšanās, bet skaidras, tehniskas kritēriju sistēmas un caurskatāms, prognozējams pārskates process attīstītiem modeļiem. Šis pieprasījums tonāli vienkāršs, bet īstenošanā sarežģīts. Kas nosaka drošības slieksni? Kuras metriskas ir svarīgas? Kā sabalansēt inovācijas un uzraudzību, neapturot attīstību?

Tagad notiekošais ir mazāk par vienu modeli un vairāk par to, kā valdības un uzņēmumi turpmāk regulēs jaudīgu mākslīgo intelektu. Sagaidāmas precīzākas izlaišanas, vairāk kopīgu noteikumu izstrādes un plašas diskusijas. Nākamās dažas nedēļas parādīs, vai regulatori spēs rīkoties tikpat veikli kā tehnoloģija, kuru tie cenšas uzraudzīt, vai arī jaunuzņēmumi turpinās uzrauties pret valsts drošības vārdā noteiktajiem ierobežojumiem.

Sekojiet līdzi oficiālajām paziņām un izstrādātāju portāliem; Fable 5 atgriešanās var būt ieskats noteikumos, kas nākamajos gados veidos AI attīstību.