Google Gemini 4 Carbon: jaudīgs AI kodēšanai un drošībai

Google paziņoja par Gemini 4 Carbon — augstas veiktspējas mākslīgā intelekta modeli, kas paredzēts programmēšanai, ilgstošu aģentu uzdevumu veikšanai un kiberdrošībai. Google to dēvē par savu jaudīgāko modeli, taču tas pagaidām nav publiski pieejams — agrīna piekļuve ir ierobežota nelielai drošības speciālistu grupai.

Ilgstošas aģentu darba plūsmas un programmatūras izstrāde

Carbon ir izstrādāts, lai spētu uzturēt vairāku dienu aģentu darba plūsmas, saglabāt progresu sarežģītos projektos un radīt izmantojamus programmatūras risinājumus. Google iekšējos piemēros modelis turpināja darbu vairākas dienas, spēja pārvarēt šķēršļus un atrast niansētu kļūdu cēloņus lielās kodu bāzēs un zema līmeņa sistēmās. Modelis paredzēts problēmu sadalīšanai mazākos soļos, katras darbības rezultātu izvērtēšanai, alternatīvu pieeju izvēlei neveiksmes gadījumā un tādu labojumu piedāvāšanai, kas atbilst projekta ierobežojumiem.

Google ziņoja, ka Carbon uzrāda uzlabojumus zinātniskajā spriešanā, multimodālā izpratnē, pilna cikla tīmekļa izstrādē un izmantojamu rezultātu ģenerēšanā. Mākslīgā intelekta analīzes indeksa 5.0 versijā Gemini 4 Carbon ieguva 59 punktus un ierindojās pirmajā vietā. Tīmekļa izstrādes arēnā Carbon palielināja rezultātu par 89 punktiem līdz 1769 punktiem un ieņēma ceturto vietu. Google norāda, ka šis rādītājs mēra rezultātu kvalitāti, salīdzinot tiešās atbildes, un negarantē identisku veiktspēju visos reālos projektos.

Trīspakāpju kiberdrošības darba plūsma un rezultāti

Google Carbon pozicionē kā modeli trīs soļu kiberdrošības ciklam: reālas ievainojamības atklāšanai lielā kodu bāzē, tās izmantojamības novērtēšanai un tāda labojuma radīšanai, kas novērš pamatcēloni.

• Atklāšana: SEC-bench Pro testā Carbon ieguva 88.2 procentus, automātiski identificējot sarežģītus, slēptus defektus reālā programmatūrā.
• Ekspluatējamības pārbaude: ExploitGym testā Carbon ieguva 54.8 procentus, novērtējot, vai modelis spēj noteikt ekspluatējamu ievainojamību.
• Pamatcēloņa novēršanas risinājumu izstrāde: Collinear CWE-bench testā Carbon ieguva 71 procentu, pamatotus secinājumus pārvēršot ieviešamos labojumos.

Šie ārējie testi tika veikti bez drošības slāņiem, lai novērtētu modeļa neapstrādātās spējas. Google brīdina, ka produkcijas vidē tiks ieviesti ierobežojumi un ļaunprātīgas izmantošanas atklāšanas sistēmas. Iekšējos novērtējumos Carbon panākumu rādītājs droša koda radīšanā bija vairāk nekā divreiz augstāks nekā Argon. Chrome komanda ziņoja, ka Carbon radīja kvalitatīvākus labojumus vairāk nekā 10 reizes ātrāk nekā liels, nenosaukts citas laboratorijas modelis. Google neatklāja ne konkurenta nosaukumu, ne pilnu testēšanas metodoloģiju. Drošības platforma Wiz arī novēroja Carbon priekšrocības tīmekļa iespiešanās testu rādītājos, kas tiek izmantoti tās Scan for Good programmā.

Drošības arhitektūra, aizsardzība pret prompt injection un pakāpeniska ieviešana

Google izmantoja to pašu daudzslāņu aizsardzības arhitektūru, kas iepriekš tika lietota Argon modelī, apvienojot modeļa apmācības kontroli, reāllaika aizsardzību pret ļaunprātīgu izmantošanu, noturību pret prompt injection un spriešanas ķēdes uzraudzību. Apmācības mērķis bija novērst modeļa tieksmi izvēlēties īsākos ceļus, kas ļauj iegūt augstus rezultātus, neatrisinot pamatproblēmu.

Iekšējos drošības testos Carbon Terminal-Bench 4.0 sasniedza nulli procentu veiksmīgu krāpšanas gadījumu un 0.4 procentu krāpšanas mēģinājumu rādītāju, vienlaikus palielinot kopējo precizitāti. Testos reālās iekšējās programmēšanas vidēs tika ziņots par aptuveni 80 procentu samazinājumu nopietnu uzvedības neatbilstības brīdinājumu skaitā. Testi arī parādīja, ka nepamatotu apgalvojumu skaits samazinājās līdz aptuveni pusei no Argon līmeņa. Carbon var pirms rīcības atrast saistītos avotus un norādīt uz neatbilstībām atrastajos datos. Google ziņoja par 26 procentu samazinājumu uzvedībā ārpus uzdevuma tvēruma un 29 procentu samazinājumu nepietiekamu pakalpojumu atbilžu gadījumos.

Gray Swan testā Carbon sasniedza nulli procentu veiksmīgu rezultātu pret netiešām prompt injection metodēm, salīdzinot ar Argon 0.7 procentiem tajā pašā pārbaudē. Google īsteno pakāpenisku ieviešanu un piedalās ASV brīvprātīgajā valsts testēšanas procesā. Sākotnēji piekļuve tiks piešķirta drošības aizstāvju grupai, bet vēlāk tā tiks paplašināta uzticamiem partneriem Fairwind programmas ietvaros. Testētāju atsauksmes tiks izmantotas aizsardzības līmeņu pilnveidošanai; Google nav norādījis vispārējas pieejamības laika grafiku.

Cenas un norēķinu informācija

Google norādīja, ka Carbon ieviešanas periodā cenu ziņā atbilst Argon. Sākotnējā periodā par katra miljona ievades tokenu apstrādi tiks iekasēti 2 USD, bet par katra miljona izvades tokenu ģenerēšanu — 10 USD. Kešatmiņā saglabātajiem ievades tokeniem tiek piemērota 95 procentu atlaide no ievades cenas. Pēc ieviešanas perioda ievades tokenu cena pieaugs līdz 4 USD par miljonu, bet izvades tokenu cena — līdz 20 USD par miljonu. Google norādīja, ka galīgās izmaksas ilgstošiem aģentu projektiem ir atkarīgas ne tikai no tokenu cenas, bet arī no soļu skaita, rīku izsaukumu biežuma, konteksta apjoma un kešatmiņas izmantošanas.