AI atklāj un bloķē potenciāli bīstamu bioloģisko izpēti

Viss sākās ar pieprasījumu, kas lika atskanēt iekšējiem trauksmes zvaniem: uzvedni, kurā mākslīgā intelekta sistēmai tika lūgts izstrādāt pētījuma priekšlikumu par vīrusa pārveidošanu, lai tas izplatītos vieglāk. Īss teikums. Ļoti reāls risks.

Anthropic norāda, ka tās drošības sistēmas identificēja vairākus zinātniekus, kuri mēģināja izmantot Claude potenciāli bīstamu bioloģisko spēju attīstīšanai, un iejaucās. Uzņēmuma nesen publicētajā ziņojumā aprakstīti pieci gadījumi. Tie nav stāsti par kino ļaundariem, bet gan niansēti, ticami pētniecības virzieni, kas var izpludināt robežu starp likumīgu zinātni un ļaunprātīgu izmantošanu. Ziņojums ir nozīmīgs ieguldījums diskusijā par mākslīgā intelekta un biotehnoloģiju drošību.

Viena no satraucošākajām situācijām bija saistīta ar čikungunjas vīrusu. Drošības klasifikators atzīmēja pieprasījumu pēc funkciju iegūšanas pētījuma projekta, kura mērķis bija palielināt vīrusa pārnesamību un spēju izvairīties no imūnsistēmas atbildes. Pret čikungunju nav apstiprinātas pretvīrusu terapijas, un tā cilvēkus var novājināt uz nedēļām vai pat mēnešiem. Anthropic bažas pastiprināja fakts, ka ierosinātais darbs, šķiet, bija saistīts ar laboratoriju ar militārām saitēm.

Funkciju iegūšanas pētījumi pēc definīcijas analizē ģenētiskas izmaiņas, kas maina organisma īpašības. Tie paši eksperimentu soļi, kas palīdz izstrādāt vakcīnas vai terapijas, var tikt izmantoti arī tam, lai padarītu patogēnus bīstamākus. Tieši šī duālā izmantošana padara automatizētu noteikšanu ārkārtīgi sarežģītu. Kā atšķirt leģitīmu drošības izpēti no ceļa kartes kaitējuma nodarīšanai? Atbilde reti ir nepārprotama.

Citā gadījumā pētnieks izmantoja Claude, lai izveidotu indēs sastopamo toksisko peptīdu atlantu, un lūdza izstrādāt ražošanas procesu to īpašību optimizēšanai. Ziņojumā apkopoti arī mēģinājumi izmantot modeļus digitālu kaitējumu radīšanai — uzraudzības scenārijiem, programmatūras ievainojamību radīšanai, propagandai un parastā bruņojuma sistēmu apbruņošanai.

Anthropic norāda, ka bloķēja iesaistītos kontus un iegūtos secinājumus integrē savās drošības sistēmās, lai automatizētā aizsardzība kļūtu viedāka un piesardzīgāka.

Anthropic draudu izlūkošanas vadītājs Jacob Klein to formulēja tieši: 'Tā nav komiksu cienīga situācija, kurā kāds skaļi paziņo, ka vēlas izveidot bioloģisko ieroci. Tās ir sarežģītas, juceklīgas situācijas, kas prasa izvērtējumu.' Anthropic uzskata, ka šāds izvērtējums attaisno piesardzīgu rīcību.

Uzņēmums atteicās nosaukt iesaistītās personas vai iestādes, atsaucoties uz bioloģiskās izpētes niansēto raksturu un risku situāciju attēlot kļūdaini. Tomēr šis gadījums aktualizē steidzamus jautājumus par to, kam jāuzņemas atbildība par duālā lietojuma pētījumu uzraudzību, kad jaudīgi modeļi ir plaši pieejami. Kas nosaka robežu? Cik ātri drošības sistēmas spēj pielāgoties, kamēr metodes kļūst arvien pieejamākas?

Ziņojums nesniedz vienkāršu noslēgumu. Tas ir pārskats par strauji attīstošu problēmu: mākslīgā intelekta rīki paātrina atklājumus un, ja tos izmanto ļaunprātīgi, saīsina ceļu no idejas līdz kaitējumam. Tagad uzdevums ir uzlabot atklāšanas spējas, paplašināt uzraudzību un izlemt, cik lielu piesardzību pasaule ir gatava pieņemt, pirms šādas iespējas nonāk to cilvēku rokās, kuri tās varētu izmantot ļaunprātīgi.