Altar-1: vietējais AI modelis ievainojamību atklāšanai

Beļģijas uzņēmums Aikido Security ir izstrādājis Altar-1 — mākslīgā intelekta modeli ievainojamību atklāšanai un koda analīzei, ko iespējams darbināt organizācijas lokālajā infrastruktūrā.

Aikido norāda, ka publiski pieejamie modeļa svari un lokāla izvietošana mazina atkarību no mākoņpakalpojumiem, vienlaikus neļaujot sensitīvajam kodam un drošības analīzes rezultātiem nonākt ārpus iekšējiem tīkliem.

Altar-1 nav apmācīts no nulles. Aikido to veidojis, balstoties uz Z.AI GLM-5.3, un samazinājis modeļa izmēru ar kvantizācijas un ekspertu moduļu izgriešanas palīdzību.

Aikido norāda, ka pilnā GLM-5.3 versija aizņem aptuveni 1.51 terabaitu. Kvantizācija tās izmēru samazināja līdz 488 gigabaitiem, bet ekspertu moduļu izgriešana — vēl līdz 328 gigabaitiem.

Ekspertu moduļu izgriešanas procesā Aikido noņēma 88 no 256 moduļiem jeb aptuveni 34.4 procentus.

Aikido apgalvo, ka Altar-1 ir optimizēts programmatūras ievainojamību atpazīšanai, koda analīzei, rīku izsaukšanai, loģiskajai spriešanai un iekļūšanas testēšanas darbplūsmām. Modeli iespējams darbināt ar četriem H200 GPU, izmantojot vLLM.

Uzņēmums uzsver modeļa nozīmi organizācijām, kas nevar pieļaut koda vai drošības datu nonākšanu ārpus iekšējiem tīkliem, jo īpaši banku, veselības aprūpes un kritiskās infrastruktūras vidēs.

Novērtēšanai Aikido testēja Altar-1 datu kopā ar 32 zināmām ievainojamībām 30 koda repozitorijos. Altar-1 kopumā atklāja 60.4 procentus ievainojamību un identificēja vismaz vienu piemēru 23 no 32 problēmām.

Salīdzinājumam Aikido ziņo, ka kvantizētās GLM-5.3 atklāšanas rādītājs bija 61.5 procenti, bet oriģinālajai GLM-5.3 — 65.6 procenti. Aikido veica šo testu un norāda, ka rezultāti ne vienmēr atspoguļo veiktspēju pret nezināmām ievainojamībām vai reālos apstākļos.

Aikido norāda, ka Altar-1 ir pirmais solis Aikido Labs plānā izstrādāt specializētus drošības modeļus ievainojamību izpētei, koda analīzei, automatizētai kļūdu novēršanai un pilnveidotai iekļūšanas testēšanai. Modeļa svari ir publicēti Hugging Face, un tiek atbalstīta lokāla izvietošana.

Tehniska piezīme: Hugging Face lapā Altar-1 norādīts kā modelis ar aptuveni 504 miljardiem parametru, savukārt 328 gigabaitu rādītājs attiecas uz INT4 svaru izmēru. Aikido brīdina, ka šie abi skaitļi nav savstarpēji ekvivalenti.