Kad AI izdomā bildes: attēlu halucinācijas un risinājumi

Viena tvīta dēļ rutīnas eksperiments pārvērtās par dīvainu interneta mīklu. X lietotājs teica, ka viņš lūdza ChatGPT attēlu rīku "rekonstruēt pievienoto foto", taču pievienotas bildes nebija. Modelis neapstājās. Tas izdomāja vienu.

Rezultāts? Dīvaini, satraucoši attēli, kas izskatās it kā kamera tvertu drudža sapni. Sejas deformējas. Foni izplaukst par neiespējamām faktūrām. Lietotāji sauca tos par šausmojošiem, dažkārt tieši murgainiem. Īsi norādījumi. Savādi rezultāti.

To, ko redzat, ir klasisks AI halucinācijas gadījums, tikai attēlu formā. Kad modelim trūkst nepieciešamā ievades, tas joprojām var radīt saturu, balstoties uz statistiskajiem modeļiem un iekšējām kartēm par to, kā parasti izskatās attēli. Sistēma aizpilda robus, nevis saka "man nav šī faila." Rezultāts var būt radošs, vai arī nepareizs tādā veidā, kas šķiet dīvains.

Vai šī ir kļūda attēlu ģenerēšanas procesā vai vienkārši dīvaina interpretācija brīvā komandā? To grūti pateikt. Uzvedību var izraisīt tas, kā rīks parsē instrukcijas, kas atsaucas uz pielikumu, vai iekšējā rezerves loģika, kas cenšas palīdzēt, kad dati trūkst. Katrā ziņā šis incidents izceļ plašāku problēmu: modeļi, kas dod priekšroku rezultātam pār epistemisku ierobežošanu.

Cilvēki tiešsaistē ir debatējuši un dalījušies ar piemēriem, prasot skaidrākas drošības vadlīnijas. Izstrādātāji varētu ieviest skaidras pārbaudes trūkstošai ievadei vai likt sistēmai uzdot papildus jautājumus, kad nav piegādāts nepieciešamais fails. Nelielas izmaiņas promptu apstrādē apturētu modeļa izdomāšanu attēliem, kam nav nekādas saistības ar realitāti.

Kad mākslīgais intelekts izdomā to, kas tam nav, kļūda nav tikai tehniska, tā ir dizaina izvēle, ko varam labot.

Neatkarīgi no tā, vai tas izrādīsies labojama kļūda vai atgādinājums par pašreizējo ģeneratīvo sistēmu ierobežojumiem, saruna ir noderīga. Kas nosaka, ko AI drīkst izdomāt? Un kas to salabo, kad šīs izdomas kļūst pārāk tuvas digitālam murgam?