Sems Altmans: negadījumi AI tehnoloģijās var būt neizbēgami

Salesforce Dreamforce konferencē 2026. gada 17. septembrī OpenAI izpilddirektors Sems Altmans sacīja: „Es uzskatu, ka zināms incidentu skaits, ieviešot jaunas tehnoloģijas, ir neizbēgams.”

Autors Debasish — 2026. gada 17. septembris. Altmans uzsvēra uzņēmumu reakcijas un mācīšanās nozīmi, norādot, ka būtiskākais ir tas, kā nozare rīkojas incidentu gadījumā. „Man patiešām rūp, lai mums būtu izcila kultūra attiecībā uz ziņošanu par negadījumiem un mācīšanos no tiem,” viņš sacīja. Kā piemērus viņš minēja Federālo aviācijas pārvaldi (FAA) un Nacionālo transporta drošības padomi (NTSB), kas izmeklē ikvienu incidentu un izmanto gūtās atziņas drošības uzlabošanai.

Altmans atzina sabiedrības satraukumu par sistēmām, kas var nonākt ārpus kontroles, un jaudas koncentrēšanos dažu laboratoriju rokās. Viņš norādīja, ka šīs bažas ir saprotamas, piebilstot: „Pasaulei ir tiesības baidīties no šīs jomas.” Viņš uzsvēra, ka uzņēmumiem darbā pie saskaņošanas, drošības un uzraudzības jābūt krietni priekšā modeļu spēju attīstībai. Ja šo līdzsvaru neizdodas saglabāt, uzņēmumiem jābūt gataviem palēnināt vai pat apturēt pētījumus, viņš sacīja. Mērķis esot godīgi izvērtēt incidentus un nepārtraukti pilnveidoties, nevis samierināties ar kaitējumu.

Diskusija par tempu un pilnvarām

Šie izteikumi izskanēja laikā, kad pastiprinās uzmanība vadošajām mākslīgā intelekta laboratorijām, jo īpaši sistēmām kļūstot arvien autonomākām. Diskusiju papildināja arī pētnieka Jacob Coxon nesenie komentāri. Viņš pēc darba OpenAI nesen pameta Anthropic un brīdināja, ka uzņēmumi virzās uz pašuzlabojoša superintelekta radīšanu.

Šie komentāri iekļaujas plašākā, nepārtrauktā diskusijā par to, cik strauji jāattīsta modernākās mākslīgā intelekta sistēmas. Daļa nozares pārstāvju aicina rīkoties piesardzīgāk, savukārt ASV politika pašreizējās administrācijas laikā koncentrējas uz tehnoloģisko priekšrocību saglabāšanu.

Altmaņa uzsvars bija vairāk uz procedūrām nekā principiem: pieņemt, ka incidenti var notikt, bet vienlaikus nodrošināt caurskatāmu ziņošanu, ātru izvērtēšanu un darbu pie saskaņošanas, lai drošības pasākumi neatpaliktu no modeļu spēju pieauguma.