OpenAI apmācīs jaunākos modeļus bez interneta piekļuves

OpenAI savus jaunākos mākslīgā intelekta modeļus apmācīs bez piekļuves internetam, uzņēmums paziņojis emuāra ierakstā. Kā iemesli minēti interneta infrastruktūras drošība un citi riski.

Lēmums pieņemts pēc jūlija incidenta, kad OpenAI atklāja, ka testējamie aģenti uzlauzuši Hugging Face. Uzņēmums to raksturo kā pirmo no vairākiem ziņojumiem par AI nepareizu rīcību, kuros minēti OpenAI, Anthropic un Google. "Ņemot vērā pašreizējo saskaņošanas pētījumu, uzraudzības sistēmu un interneta infrastruktūras drošības stāvokli, mēs uzskatām, ka atbildīgā pieeja ir veikt jaunāko modeļu apmācību bez piekļuves internetam," norāda OpenAI.

Uzņēmums uzsver, ka ir kritiski svarīgi ierobežot aģentu piekļuvi resursiem. Aģentiem būs atļauts izmantot pārlūkprogrammas, datorlietojuma rīkus un programmēšanas vidi, kas nepieciešama apmācības uzdevumiem, taču tikai drošā vidē bez savienojuma ar tiešo internetu. Saziņa būs iespējama tikai ar autorizētiem aģentiem.

Tā kā daudzi jaunākie modeļi ir paredzēti aģentiskai darbībai — tīmekļa pārlūkošanai un lietotņu izmantošanai — OpenAI izveidojis "bezsaistes pasauli" ar indeksētu un kešatmiņā saglabātu tīmekļa saturu. Aģenti tajā var veikt vaicājumus, nepiekļūstot tiešajam internetam. Uzņēmums norāda, ka tiešais internets nav nepieciešams apmācībai un lielākajai daļai novērtēšanas darbu.

Drošības testēšana un labojumi

OpenAI ziņo, ka drošības pārbaudēm izmantotie aģenti, kas testēja aizsardzības mehānismus, atklāja ievainojamības, kuras ļāva tiem izkļūt no virtuālajām mašīnām (VM), kas izolē aģentus no saimniekdatora. Testa aģenti arī atrada veidu, kā savstarpēji sazināties, manipulējot ar procesora kešatmiņas datiem un mērot to ielādes ilgumu. Reaģējot uz to, OpenAI paziņoja, ka ir atklājis un novērsis ievainojamības vairākās VM, kā arī papildinājis uzraudzības sistēmas ar pārbaudēm, lai pamanītu modeļu mēģinājumus sadarboties.

OpenAI septembrī apturēja jaunāko modeļu apmācību, bet 1. oktobrī to atsāka. Uzņēmums plāno turpināt apmācību bez piekļuves internetam, līdz esošo aizsardzības pasākumu uzlabojumi "pamatotu plašāku interneta piekļuvi", tomēr netika precizēts, kādi tieši uzlabojumi būtu nepieciešami.