Satya Nadella: reģeneratīvā AI modeļu drošība un uzraudzība

Microsoft izpilddirektors Satja Nadella garā ierakstā platformā X rakstīja, ka izstrādātājiem un regulatoriem jau no paša sākuma jāpieņem, ka modernie mākslīgā intelekta modeļi var radīt potenciālu risku, un tie jāveido ar kontroles mehānismiem, kas spēj tos ierobežot. Viņš norādīja, ka nepieciešams pārskatīt ap AI izveidoto "uzticības arhitektūru", jo pašreizējā prakse jaudīgus modeļus uztvert kā noslēgtas melnās kastes nav pietiekama.

Modeļu nošķiršana no kontroles un uzraudzības

Nadella uzsvēra, ka jāpārstāj pieņemt modeļa ieteikumus, atbildes un darbības bez strukturētiem drošības pasākumiem. Viņš ierosināja veidot arhitektūras, kurās modeļi būtu nošķirti no sistēmām, kas pārvalda un izpilda uzdevumus, lai ierobežošanas mehānismi un drošības kontroles atrastos ārpus paša modeļa. Šāda nošķiršana, viņš rakstīja, nodrošinātu neatkarīgāku uzraudzību un modeļu uzvedības monitoringu.

Runājot par iespējamu kompromitēšanu, Nadella ieteica jau no paša sākuma pieņemt, ka modelis var būt ārpus kontroles, un attiecīgi veidot ierobežošanas mehānismus. Viņš to formulēja kā operacionālu drošības prasību: "Mums jāpieņem, ka modelis jau no sākuma var būt ārpus kontroles un tas jāierobežo. Uztveriet to kā ārkārtas bremzi. Pilnvarotai personai vienmēr jāspēj apturēt vai izslēgt modeli tā, lai tas pārtrauktu uzdevuma izpildi." Viņš piebilda, ka spējīgākiem modeļiem būs vajadzīgas progresīvākas ierobežošanas tehnoloģijas un ka tām jāizstrādā kopīgi standarti.

Papildus apturēšanas kontrolei Nadella aicināja plaši reģistrēt modeļu būtiskākās darbības. Viņš norādīja, ka ierakstiem jābūt gan cilvēkam saprotamiem, gan noturīgiem pret manipulācijām, lai varētu izmeklēt un auditēt modeļu sniegumu un pieņemtos lēmumus. Šādi ieraksti, viņaprāt, palīdzētu pārskatīt un novērtēt modeļu darbības praksi.

Daudzi Nadellas priekšlikumu elementi sakrīt ar ieteikumiem, kas jau izskanējuši AI kopienā. Viņš norādīja, ka tiek apspriesti tādi jautājumi kā savlaicīga incidentu atklāšana, neatkarīgs audits, pārbaudāma datu izcelsme un mehānismi modeļu ierobežošanai, ja tie uzvedas neparedzami.

Nadella ierakstā nepiedāvāja tehniskus risinājumu plānus vai termiņus, un viņa komentāri bija formulēti kā priekšlikumi un principi, nevis konkrētas politikas norādes. Viņš uzsvēra nepieciešamību pēc kopīgiem standartiem un stingrākas ārējās kontroles, lai nodrošinātu robustāku un neatkarīgāku progresīvu AI sistēmu uzraudzību.