Anthropic brīdina: atvērtā koda AI modeļi ir riskantāki

Anthropic starptautisko attiecību vadītājs norādīja, ka atvērtā koda mākslīgā intelekta modeļi pēc būtības rada ievērojami lielākus riskus nekā uzņēmuma patentētās sistēmas. To viņš sacīja ES uzraudzītā samitā Dublinā.

Guillaume Perrencina brīdinājums un Anthropic nostāja

Guillaume Perrencin šos komentārus izteica valsts rīkotā mākslīgā intelekta samitā Dublinā. Viņš norādīja, ka atvērtā koda modeļi — proti, modeļi, kuru kods, arhitektūra un svaru faili ir publiski pieejami un kurus ikviens var lejupielādēt, palaist vai modificēt, — pēc definīcijas rada ievērojami lielākus draudus. Perrencin šo nostāju pretstatīja iepriekšējiem Anthropic izpilddirektora Dario Amodei izteikumiem, ka modeļi ar atklātiem svariem, kuriem nepiemīt bīstamas spējas, būtu jāuzskata par sabiedrisku labumu.

Nesenie atvērtā koda izlaidumi un drošības testi

Šie komentāri izskanējuši sīvas konkurences un nesenu drošības izvērtējumu kontekstā. Eiropas uzņēmums Mistral pagājušajā nedēļā prezentēja Large 4 modeli ar iesauku Le Chonk. Uzņēmums apgalvo, ka tam ir viens triljons parametru, tas apmācīts Eiropā un īpaši akcentē datu suverenitāti. Mistral pagaidām nav publicējis modeļa svaru failus: pašlaik tam iespējams piekļūt tikai ar Mistral API, bet svaru publicēšana plānota 27. oktobrī.

Samitā minētie neatkarīgie un institucionālie izvērtējumi atklāja atšķirīgu atvērtā koda modeļu drošības uzvedību. SaferAI novērtējumā secināts, ka Ķīnas modelis GLM-5.2 nenoraidīja nevienu uzdevumu, kas saistīts ar ļaunprātīgiem kiberuzbrukumiem vai dubultlietojuma bioloģiskiem pieprasījumiem. Savukārt Anthropic Claude, kā ziņots, drošības apsvērumu dēļ pieprasījumus noraidīja tik bieži, ka testēšanas etalonu nebija iespējams pabeigt. Anthropic Frontier Red Team pētījums arī parādīja, ka mazākus modeļus iespējams reproducēt uz lētiem Android TV box. Visi šajā testā izmantotie modeļi, tostarp Gemma4 un GLM-5.2, bija atvērtā koda modeļi.

Cenu izmaiņas un reģionālās intereses Dublinā

Perrencin arī paziņoja par Claude cenu izmaiņām: Claude Opus 5.5 izmaksas kopumā ir par 40 procentiem zemākas nekā iepriekšējai versijai. Viņš to skaidroja ar oficiālu cenas samazinājumu par 20 procentiem un jaunās versijas mazāku tokenu patēriņu.

Perrencina komentāri izskanēja Dublinā, Īrijā. Vairāki izdevumi un pilsoniskās sabiedrības grupas norāda, ka Dublinas izvēle ir pretrunīga, jo Īrijas zemās uzņēmumu nodokļu likmes jau ilgstoši piesaista lielus tehnoloģiju uzņēmumus un nodrošina valstij ievērojamus ieņēmumus. Šīs grupas uzskata, ka finansiālās priekšrocības var apgrūtināt Īrijas neitralitāti AI regulējuma jautājumos. Anthropic Eiropā ir ievērojamas komerciālās intereses: uzņēmums Eiropu raksturo kā savu visstraujāk augošo tirgu, Dublinā atvēris savu pirmo Eiropas biroju un, kā ziņots, gatavojas sākotnējam publiskajam akciju piedāvājumam ar apgalvoto novērtējumu 965 miljardu dolāru apmērā.