Huawei: Ķīnas AI izstrādātājiem trūkst drošības pieredzes

Huawei rotējošais priekšsēdētājs Eriks Sju (Eric Xu) sacīja, ka Ķīnas mākslīgā intelekta izstrādātāji, iespējams, vēl nav sasnieguši tādu attīstības līmeni, lai saskartos ar drošības riskiem, par kuriem ziņo vadošie ASV uzņēmumi. Uzstājoties Huawei ikgadējā Connect konferencē Šanhajā, viņš norādīja, ka uzņēmumiem jāturpina veidot jaudīgākus modeļus, vienlaikus līdzsvarojot inovācijas ar riska pārvaldību.

Sju žurnālistiem sacīja: "Ja paskatās uz lielākajiem AI modeļu piegādātājiem ASV, kuriem ir milzīga skaitļošanas jauda, iespējams, tikai viņi paši zina, kādā spēju līmenī atrodas viņu modeļi." Viņš piebilda: "Iespējams, AI riski, kurus viņi spēj saskatīt vai uztvert, ir tādi, ar kādiem cilvēki vai AI modeļu piegādātāji Ķīnā vēl nevar saskarties." Viņa teiktais saistīja spēju plaisu un pakļautību augsta līmeņa drošības riskiem ar pieejamo skaitļošanas jaudu.

ASV drošības bažas un reakcija

Sju komentāri izskanēja laikā, kad ASV pieaug bažas par AI drošību. Vadošie izstrādātāji un pētnieki brīdinājuši, ka arvien autonomākas sistēmas varētu apiet drošības mehānismus vai kļūt grūti kontrolējamas. OpenAI šonedēļ paziņoja, ka regulāri ziņos par negaidītu vai neatļautu modeļu uzvedību. Anthropic izpilddirektors aicinājis palēnināt izstrādi, lai drošības mehānismi spētu turēt līdzi attīstībai.

Ķīnā aicinājumus palēnināt attīstību asi kritizējuši pētnieki un valsts mediji. Viņi apgalvo, ka apzināta progresīvāko modeļu attīstības bremzēšana varētu palīdzēt ASV uzņēmumiem saglabāt tehnoloģisko pārsvaru. Daži Ķīnas komentētāji priekšlikumus palēnināt attīstību vērtē kā mēģinājumu ierobežot konkurentus, kuri atpaliek no vadošajām ASV laboratorijām, nevis kā risinājumu, ko diktē tikai drošības apsvērumi.

Ķīnas pieeja progresīvam mākslīgajam intelektam

Pekina progresīvo mākslīgo intelektu uzskata par jaudīgu tehnoloģiju, ko iespējams pārvaldīt, vienlaikus turpinot tās strauju attīstību un ieviešanu. Ķīnas valdība izstrādā obligātus standartus, drošības novērtējumus un citus aizsardzības pasākumus, lai mazinātu tādus riskus kā autonomi aģenti, kas apiet kontroli vai uzbrūk ārējām sistēmām. Valdības amatpersonas arī gatavo nacionālu obligāto standartu AI aģentu drošībai.