AI attīstības temps var apdraudēt cilvēces nākotni, brīdina

27 gadus vecais pētnieks Jacob Coxon, kurš nesen pameta Anthropic un iepriekš strādāja OpenAI, brīdinājis, ka pašreizējais mākslīgā intelekta attīstības temps var radīt cilvēcei katastrofālas sekas. Viņš uzsvēra, ka daži AI pētnieki ir patiesi nobijušies. Par savām bažām Coxon rakstīja sociālajos tīklos un stāstīja intervijā BBC.

Aiziešana no uzņēmuma un galvenais brīdinājums

Publiskā ierakstā un vēlāk intervijā Coxon sacīja: "Ja mēs nepalēnināsim pašreizējo progresu, pastāv liela varbūtība, ka mēs visi drīzumā varam nomirt." Viņš norādīja, ka daudzi AI uzņēmumu darbinieki ir noraizējušies par attīstības tempu un iespējamo iznākumu tehnoloģijām, pie kurām viņi strādā.

Coxon, kurš pirms pievienošanās Anthropic strādāja OpenAI, sacīja, ka atbalsta Anthropic izpilddirektora Dario Amodei priekšlikumu palēnināt attīstības tempu. Taču viņš uzsvēra, ka jēgpilnai palēnināšanai jānotiek saskaņoti ar Ķīnu. Amodei sestdien publicēja rakstu, aicinot samazināt AI attīstības tempu.

Bažas par konkurences spiedienu un konkrēti scenāriji

Coxon ciešo konkurenci starp AI uzņēmumiem raksturoja kā vienu no darbinieku baiļu avotiem. "Cilvēki, kas strādā šajos uzņēmumos, runājot par regulējumu, to domā nopietni, jo viņi sevi redz kā iesprostotus sacensībā un baidās no tās sekām," viņš sacīja BBC.

Viņš arī aprakstīja konkrētu scenāriju, ko uzskata par iespējamu: botu tīklu, kas darbotos kā vienots superdators un varētu pārņemt kontroli pār internetu. Pēc Coxon teiktā, tas varētu kļūt par realitāti sešu mēnešu līdz gada laikā.

Anthropic paziņojums un Silīcija ielejas reakcija

Anthropic pārstāvis BBC sacīja, ka uzņēmums vienmēr ir uzsvēris: mākslīgais intelekts līdztekus milzīgām priekšrocībām rada arī bezprecedenta riskus. Pārstāvis piebilda, ka Anthropic turpina izstrādāt modeļus ar vieniem no spēcīgākajiem drošības mehānismiem nozarē.

Coxon izteikumi izpelnījās kritiku Silīcija ielejā. Hugging Face izpilddirektors Clement Delangue vietnē X rakstīja: "Piedodiet, bet jautāt Jacob par cilvēces izzušanas risku ir tas pats, kas jautāt kondicionieru remontniekam par klimata pārmaiņām." Vēlāk Delangue sacīja, ka ir gatavs iesaistīties Amodei ierosināto pasākumu apspriešanā.

Saskaņā ar vairākiem BBC avotiem Nvidia izpilddirektors Jensen Huang pagājušajā nedēļā Goldman Sachs rīkotā konferencē sacīja, ka Coxon izteikumi ir nepareizi.