Kāpēc valodas modeļi nevar aizvietot cilvēka izgudrojumu

Iedomājieties Albertu Einšteinu vienatnē ar domas eksperimentu. Viņš iedomājas sevi noslēgtā liftā, brīvā krišanā cauri telpai, un no šīs klusas garīgās ainas viņš izvelk vienādojumus, kas pārraksta fiziku. Šis brīdis - tīra intuīcija, jutekļu iztēle, lēciens ar gandrīz nekādu datu - ir tāda radoša izrāviens, ko mūsdienu valodas modeļiem ir grūti atdarināt.

Kāpēc milzums teksta nav tas pats, kas dzīvē piedzīvota pasaule

DeepMind zinātnieks Toms Zahavy to tieši izteica nesenā analīzē ar nosaukumu 'valodas modeļi nevar lekt'. Viņa arguments iedala domāšanu trīs režīmos: indukcija, dedukcija un hipotēžu ģenerēšana. Mūsdienu modeļi izceļas pirmajā. Tie saspiež kalnus ar paraugiem un spēj paredzēt nākamo teikumu ar pārsteidzošu precizitāti. Izsmalcinātas sistēmas arī pietiekami labi pārvalda dedukciju; automatizētas spriešanas rīki, tostarp projekti kā AlphaProof, demonstrē, ka mašīnas var sekot loģiskām ķēdēm, ja noteikumi ir noteikti.

Taču, runājot par hipotēžu ģenerēšanu - rīcību, kurā tiek iedomāta jauna rāmja struktūra no gandrīz nekādas empīriskas informācijas - mašīnas klibo. Kāpēc? Tāpēc, ka tām trūkst ķermeņa pasaulē un tām trūkst jutekļu intuīcijas, ko cilvēki izmanto cēloņsakarību saikņu veidošanā. Jūs nevarat iegūt Einšteina sākotnējās premisas, tikai analizējot esošos tekstus. Viņa atziņa radās no iemiesotām metaforām un jutekļu domas eksperimentiem, nevis no statistiskas paraugu saskaņošanas literatūrā.

Daži domātāji, piemēram, Jürgen Schmidhuber, reiz raksturoja zinātnisko atklājumu kā ekstrēmu datu saspiešanas formu. DeepMind apšauba šo nostāju. Raksts norāda, ka revolucionāras teorijas bieži rodas datu nabadzīgā vidē, balstoties uz kontrafaktuāliem scenārijiem un spilgtu iztēles sintēzi. Valodas modeļi, apmācīti uz retrospektīviem paraugiem, reti izdomā jaunas ontoloģijas, kas pārrakstītu veidu, kā pasaule tiek saprasta.

Tam ir praktiskas sekas. Pašreizējie AI programmēšanas un automatizētas atklāšanas rīki paliek ierobežoti pēc iepriekš noteiktiem ietvariem. Tie spēj optimizēt ierobežotā rāmī, taču tiem ir grūtības pārzīmēt pašu rāmi. Un neviens papildu skaitļošanas resursu apjoms, lielāki datu centri vai intensīvāka apmācība automātiski nepiešķirs to cēloņintuīciju, kas atbalsta radikālus zinātniskus lēcienus.

Tas, ko tas nozīmē pētniecībai un industrijai? Tas pārdefinē gaidas. Valodas modeļi ir spēcīgi sadarbības partneri uz paraugiem balstītos uzdevumos, melnrakstu sagatavošanā, hipotēžu precizēšanā un permutāciju izpētē. Tie papildina, nevis aizstāj, cilvēka dzirksti, kas izgudro pašus jautājumus un konceptuālos instrumentus. Citiem vārdiem sakot: lieliski kā konstrukcijas atbalsts. Vēl nav gatavi radīt revolūcijas.

Skaitļošanas mērogs nav aizvietojums iemiesotai izpratnei - cilvēka iztēle joprojām veic lēcienu.

Ir atvērta ceļa iespēja nākotnei. Hibrīdas pieejas, kas sasaista modeļus ar sensoriem, eksperimentiem un interaktīvām vidēm, varētu samazināt šo plaisu. Bet līdz brīdim, kad mašīnām nerodas situētas izpratnes un cēloņintuīcijas formas, kas pārsniedz tekstu, drosmīgākās zinātniskās idejas paliks cilvēku prātu teritorija.