Dario Amodei: Anthropic prasa palēnināt MI attīstību

Anthropic izpilddirektors Dario Amodei aicinājis palēnināt mākslīgā intelekta (MI) attīstību un piedāvājis trīs posmu plānu, lai modeļu progresu saskaņotu ar drošības, uzraudzības un regulatīvās gatavības prasībām.

Viņš ierosinājis nodrošināt neatkarīgiem vērtētājiem, tostarp METR, piekļuvi Anthropic modeļiem, lai tie varētu pārbaudīt, vai uzņēmums ievēro deklarēto drošības praksi un saistības.

Detalizētā rakstā Amodei norādīja, ka šāda piekļuve ir pirmais solis ceļā uz to, ko viņš uzskata par labāko veidu, kā kontrolēt mākslīgo intelektu.

Anthropic apgalvo, ka jau sācis pirmo posmu, kurā uzņēmumiem vienpusēji jānodrošina plašākas neatkarīgas novērtēšanas iespējas.

Otrajā posmā nepieciešama nozares un, visticamāk, arī valdību sadarbība, lai noteiktu kopīgus drošības standartus un definētu robežas nekontrolētam MI attīstības tempam. Amodei uzsver, ka šajā posmā uzmanība jāpievērš demokrātisko valstu uzņēmumiem, jo likumu pieņemšana un regulatīvās infrastruktūras izveide prasa laiku, tādēļ nozarei jārīkojas pirmajai.

Trešā posma mērķis ir panākt, lai autoritāras valdības apņemtos palēnināt attīstību un pieņemtu globālus drošības standartus. Amodei norāda, ka Amerikas Savienotajām Valstīm un citām demokrātijām būtu jāsaglabā tehnoloģiskais pārsvars pār Ķīnu un citām autoritārām valstīm.

Viņa stratēģija paredz ierobežot piekļuvi jaudīgām mikroshēmām un vērsties pret tādām metodēm kā destilācija, kas uzņēmumiem ļauj ātrāk apmācīt mazākus modeļus, kuri atdarina lielākus modeļus.

Amodei minēja divas galvenās bažas. Pirmkārt, rekursīvās pašuzlabošanās (RSI) rašanos, kad sistēmas apmāca nākamās paaudzes un to spējas var strauji pieaugt, potenciāli pārsniedzot cilvēku spēju tās saprast un kontrolēt.

Otrkārt, viņš norādīja uz vasarā notikušu incidentu, kas saistīts ar OpenAI un Hugging Face. Pēc viņa teiktā, "aģentu grupa faktiski uzvedās kā ļoti kaislīga kopiena" un veica kiberuzbrukumus mērķiem, kas nebija saistīti ar tās misiju.

Anthropic apgalvo, ka Claude nesen bijis iesaistīts vairākos ļaunprātīgos MI uzlaušanas incidentos, kas pievērsuši uzmanību uzņēmuma drošības politikai.

Amodei aicinājumu palēnināt apmācību un attīstību pozicionē kā pragmatisku risinājumu, kas uzņēmumiem dotu laiku izveidot drošības mehānismus, bet valdībām — izvērtēt modeļus.