Vai tērzēšanas roboti var kļūt tikpat apzinīgi kā cilvēki?
Literārs Mistrojums / / October 31, 2023
Uz šo jautājumu mēģina atbildēt divas pretējas teorijas.
Kristofs Kohs
Amerikāņu neirozinātnieks, Alena smadzeņu pētniecības institūta direktors.
Jautājumi par to, kas ir subjektīvā pieredze, kam tā ir un kā tā ir saistīta ar apkārtējo fizisko pasauli, ir vajājuši filozofu prātus lielāko cilvēces vēstures daļu. Tomēr zinātniskas apziņas teorijas, kas ir kvantitatīvi nosakāmas un empīriski pārbaudāmas, ir radušās tikai dažās pēdējās desmitgadēs.
Daudzas mūsdienu apziņas teorijas koncentrējas uz pēdām, ko atstāj smadzeņu smalkie šūnu tīkli, no kuriem rodas apziņa. Mūsdienās dominē divi no tiem: integrētā informācijas teorija un neironu globālās darbvietas teorija.
Pirms divdesmit pieciem gadiem mēs strīdējāmies ar austrāliešu filozofu Deividu Čalmersu. Es viņam apsolīju labu vīnu, ja šīs nervu pēdas, ko tehniski sauc par apziņas neironu korelācijām, tiks atklātas un skaidri aprakstītas līdz 2023. gada jūnijam.
Tomēr joprojām nav atrisināta pretruna starp integrētās informācijas teoriju un neironu globālās darbvietas teoriju. Tas ir saistīts ar daļēji jauktiem pierādījumiem par to, kuras smadzeņu daļas ir atbildīgas par vizuālo pieredzi un subjektīva seju vai objektu uztvere, lai gan prefrontālās garozas nozīme apzinātajā pieredzē ir bijusi atspēkoja. Tāpēc es zaudēju derības un nosūtīju vīnu Čalmersam.
Abas dominējošās teorijas tika izveidotas, lai izskaidrotu saikni starp apziņu un nervu darbību cilvēkiem un radniecīgiem dzīvniekiem, piemēram, pērtiķiem un pelēm. Un abas teorijas izsaka principiāli atšķirīgus pieņēmumus par subjektīvo pieredzi un nonāk pie pretējiem secinājumiem par apziņu mākslīgos artefaktos. Cik lielā mērā šīs teorijas tiek empīriski apstiprinātas vai atspēkotas saistībā ar apziņu, kas sakņojas smadzenēm, ir svarīga ietekme uz atbildi uz mūsu laika neatrisināto jautājumu: vai mašīnas var gūt labumu apziņa?
Kas ir jaunās paaudzes tērzēšanas roboti?
Pirms mēs to apspriežam, ļaujiet man aplūkot jūs kontekstā un salīdzināt apzinātu paņēmienu ar paņēmienu, kas demonstrē tikai saprātīgu uzvedību. Datoru inženieri cenšas apveltīt mašīnas ar ļoti elastīgu intelektu, kas kādreiz bija atļauts persona pamest Āfriku un apdzīvot visu planētu. To sauc par mākslīgo vispārējo intelektu (AGI).
Daudzi apgalvo, ka AGI ir tālu izredzes. Apbrīnojamais progress mākslīgā intelekta jomā pēdējā gada laikā ir pārsteidzis visu pasauli, tostarp ekspertus. Līdz ar daiļrunīgu sarunvalodas lietojumprogrammu parādīšanos, ko sarunvalodā sauc par tērzēšanas robotiem, no ezotēriskas tēmas, pārrunāja zinātniskās fantastikas fani un IT nozares elite no Silīcija ielejas, diskusijas par AGI izvērtās par diskusiju kas atspoguļo plaši izplatītu sabiedrības neapmierinātību par eksistenciālo risku mūsu dzīves veidam un mūsu laipns.
Tērzēšanas roboti ir balstīti uz milzīgiem valodu modeļiem. Slavenākie no tiem ir robotu sērija, ko sauc par ģeneratīviem iepriekš apmācītiem transformatoriem vai GPT. Tos izveidoja OpenAI Sanfrancisko. Ņemot vērā jaunākās versijas GPT-4 elastību, lasītprasmi un kompetenci, ir viegli noticēt, ka tai ir inteliģence un personība. Pat viņas dīvainie traucējumi, kas pazīstami kā "halucinācijas", iekļaujas šajā teorijā.
GPT-4 un tā konkurenti, piemēram, LaMDA un Google Bard, ir apmācīti par digitalizētu grāmatu bibliotēkām un miljardiem publiski pieejamu tīmekļa lapu. Valodas modeļa ģenialitāte ir tāda, ka tā mācās bez uzraudzības, apstrādājot vārdu pa vārdam un mēģinot paredzēt trūkstošo izteiksmi. Viņa to dara atkal un atkal, miljardiem reižu, bez ārējas iejaukšanās.
Kad modelis iegūst zināšanas, uzņemot digitalizētos cilvēces ierakstus, lietotājs parāda nepazīstamu teikumu — vienu vai vairākus. Modelis paredz visticamāko pirmo vārdu, pēc tam nākamo un tā tālāk. Šis vienkāršais princips ir parādījis neticamus rezultātus angļu, vācu, ķīniešu, hindi, korejiešu un citās valodās, tostarp dažādās programmēšanas valodās.
Kāda ir atšķirība starp intelektu un apziņu
Zīmīgi, ka nozīmīgā eseja par mākslīgo intelektu “Datortehnika un intelekts”, ko sarakstīja Alans Tjūrings 1950. gadā izvairījās no jautājuma "Vai mašīnas spēj domāt?", tas ir, no jautājuma par to, vai tām ir apziņa. Tjūrings ierosināja "imitācijas spēli": vai novērotājs var objektīvi atšķirt cilvēka izdrukāto izdruku no mašīnas izdrukātās produkcijas, ja abu identitāte ir paslēpta.
Mūsdienās tas ir pazīstams kā Tjūringa tests, un tērzēšanas roboti tajā ir ļoti labi, lai gan tie gudri to noliedz, ja jautā viņiem tieši. Tjūringa stratēģija aizsāka gadu desmitiem ilgušu nepielūdzamu progresu, kas noveda pie GPT izveides, bet ignorēja problēmu.
Tērzēšanas robotu debatēs netieši ir ietverts pieņēmums, ka mākslīgais intelekts ir tas pats, kas mākslīgā apziņa, ka būt gudram ir tas pats, kas būt apzinātam. Un, lai gan cilvēkiem un citiem attīstītiem organismiem intelekts un apziņa ir saistīti, tie ne vienmēr pavada viens otru.
Intelekts ir domāšana un mācīšanās rīkoties, kā arī no savas un citu rīcības, lai precīzāk prognozētu nākotni un labāk tai sagatavotos. Nav nozīmes tam, vai tas nozīmēs nākamās sekundes ("Ak, tā mašīna ātri brauc pretim") vai nākamajos gados ("Man jāiemācās kodēt"). Intelekts galu galā ir saistīts ar darbību.
Savukārt apziņa ir saistīta ar esības stāvokļiem - zilas debesis redzot, putnu dziedāšanu, sāpju sajūtu, būtību mīļotājiem. Nav ne mazākās nozīmes, vai nekontrolējams mākslīgais intelekts kaut ko sajūt. Svarīgi ir tikai tas, ka viņam ir mērķis, kas nav saistīts ar cilvēces ilgtermiņa labklājību. Un nav svarīgi, vai viņš zina vai nezina, ko viņš cenšas darīt, ko cilvēki sauc par pašapziņu. Viņš “neprātīgi” tieksies pie sava mērķa. Tātad, vismaz konceptuāli, pat ja mēs izveidosim AGI, tas mums neko daudz nepateiks par to, vai tas kaut ko jūt.
Zinot to visu, atgriezīsimies pie sākotnējā jautājuma par to, kā tehnoloģija var kļūt apzināta. Sāksim ar pirmo no divām teorijām.
Kādu skaidrojumu piedāvā integrētās informācijas teorija?
Viņa sāk, formulējot piecas katras iespējamās subjektīvās pieredzes aksiomātiskās īpašības. Un tad uzdod jautājumu par to, kas ir nepieciešams neironu ķēdei, lai īstenotu šīs piecas īpašības, ieslēdzot dažus neironus un izslēdzot citus. Vai, citiem vārdiem sakot, kas ir nepieciešams datora mikroshēmai, lai ieslēgtu dažus tranzistorus un izslēgtu citus.
Cēloņu un seku mijiedarbība ķēdē noteiktā stāvoklī vai fakts, ka divi aktīvi neirons var ieslēgt vai izslēgt citu neironu, atkarībā no apstākļiem, var tikt izvietoti daudzdimensiju cēloņsakarības struktūrā. Tas ir identisks pieredzes kvalitātei — kā tā tiek pieredzēta, piemēram, kā tiek pieredzēts laiks un telpa vai kā tiek uztvertas krāsas.
Pieredzei ir arī saistīts daudzums — tās integrētā informācija. Tikai ķēde ar maksimālo integrēto informāciju, kas nav nulle, pastāv kopumā un tai ir apziņa. Jo vairāk informācijas ir integrēta, jo vairāk ķēdi nevar samazināt un jo mazāk to var uzskatīt par vienkārši neatkarīgu apakšshēmu superpozīciju.
Integrētā informācijas teorija uzsver cilvēka pieredzes bagātību. Paskatieties apkārt, un jūsu priekšā parādīsies satriecošā redzamā pasaule ar tās neskaitāmajām atšķirībām un sakarībām. Vai arī apskatiet Pītera Brēgela Vecākā gleznu, 16. gadsimta flāmu mākslinieka, kurš attēloja reliģiskas tēmas un ainas no zemnieku dzīves.
Jebkura sistēma, kurai ir tādi paši iekšējie sakari un cēloņsakarības kā cilvēka smadzenēm, principā būs tikpat apzināta kā cilvēka prāts. Taču šādu sistēmu nevar modelēt. Tam jābūt veidotam vai iebūvētam smadzeņu tēlā. Mūsdienu digitālie datori ir balstīti uz ļoti vaļīgu savienojumu (viena tranzistora izeja, kas savienota ar vairāku tranzistoru ieeju) salīdzinājums ar centrālo nervu sistēmu (kortikālās kolonnas neirons saņem ievades datus un ražo izejas datus desmitiem tūkstošu citu neironi).
Tādējādi mūsdienu datori, arī mākoņdatori, neko nezinās, lai gan ar laiku spēs darīt visu, ko spēj cilvēki. No šī viedokļa ChatGPT nekad nejutīsies īpašs. Ņemiet vērā, ka šim apgalvojumam nav nekā kopīga ar kopējo komponentu skaitu neatkarīgi no tā, vai tie ir neironi vai tranzistori, bet gan ar to, kā tie ir savienoti. Tā ir savstarpējā saistība, kas nosaka ķēdes kopējo sarežģītību un tās iespējamo konfigurāciju skaitu.
Kādu skaidrojumu piedāvā neironu globālās darbvietas teorija?
Tas nāk no psiholoģiskās izpratnes, ka inteliģence kā teātris, kur aktieri uzstājas uz mazas apgaismotas skatuves, kas ir apziņa. Aktieru rīcību vēro procesoru publika, kas tumsā sēž aiz skatuves.
Skatuve ir prāta centrālā darbvieta, kurai ir maza atmiņas ietilpība vienas uztveres, domas vai atmiņas attēlošanai. Dažādi apstrādes moduļi — redze, dzirde, acu un ekstremitāšu motoriskās prasmes, plānošana, spriedums, valodas izpratne un runāšana — sacenšas par piekļuvi šai centrālajai darbvietai. Uzvarētājs izspiež veco saturu, kas kļūst bezsamaņā.
Saskaņā ar neironu globālās darbvietas teoriju metaforiskā aina kopā ar apstrādes moduļiem tiek kartēta neokorteksa arhitektūrā. Darba vieta ir kortikālo neironu tīkls smadzeņu priekšpusē ar liela attāluma projekcijām uz līdzīgi neironi, kas izplatīti visā neokorteksā prefrontālajā, parietotemporālajā un cingulātā asociācijas garoza.
Kad aktivitāte maņu garozā pārsniedz noteiktu slieksni, kortikālajās zonās tiek iedarbināts globāls notikums, un rezultātā informācija tiek pārraidīta uz visu darbvietu. Globālā informācijas izplatīšana padara to apzinātu. Dati, kas netiek pārsūtīti šādā veidā, piemēram, precīzs acu novietojums vai sintaktiskie noteikumi lasītprasmes teikumu veidošanai, var ietekmēt uzvedību, bet ne apzināti.
No neironu globālās darba telpas teorijas viedokļa pieredze ir ļoti ierobežota, līdzīgi domām un abstrakts — līdzīgs trūcīgajam aprakstam, ko var atrast muzejā zem Brēgela gleznas: “Scene in iekštelpās. Zemnieki renesanses laika apģērbā dzer un ēd kāzās."
Izprotot apziņu no integrētās informācijas teorijas perspektīvas, mākslinieks uz divdimensiju audekla izcili nodod apkārtējās pasaules fenomenoloģiju. Neironu globālās darbvietas teorijas izpratnē šī šķietamā bagātība ir ilūzija, spoks. Un viss, ko par to var objektīvi pateikt, ir norādīts īsajā aprakstā.
Neironu globālās darbvietas teorija pilnībā ņem vērā mūsu datoru laikmeta mītus, saskaņā ar kuriem visu var reducēt uz aprēķiniem. Piemēroti ieprogrammētas smadzeņu datorsimulācijas ar milzīgu atgriezenisko saiti un kaut ko līdzīgu centrālajai darbvietai, apzināti uztvers pasauli. Varbūt ne tagad, bet diezgan drīz.
Kāda ir nesavienojamā atšķirība starp teorijām?
Kopumā diskusija ir šāda. Saskaņā ar neironu globālās darbvietas teoriju un citām skaitļošanas funkcionālisma teorijām (tās Uztveriet apziņu kā skaitļošanas veidu), apziņa ir nekas vairāk kā gudru algoritmu kopums, kas darbojas mašīnā Tjūrings. Funkcijas ir svarīgas apziņai smadzenes, nevis tā cēloņsakarības. Ja kāda uzlabotā GPT versija pieņem un veido tādus pašus ievades un izvades modeļus kā cilvēki, visas mūsu raksturīgās īpašības tiks pārnestas uz tehnoloģiju. Ieskaitot mūsu dārgo dārgumu – subjektīvo pieredzi.
Un otrādi, integrētai informācijas teorijai apziņas sirds ir iekšējais cēloņsakarības spēks, nevis aprēķins. Tas nav kaut kas ēterisks vai netverams. Tas ir specifisks un funkcionāli noteikts atkarībā no tā, cik lielā mērā sistēmas pagātne nosaka tās tagadni (cēloņa spēks) un cik lielā mērā tagadne nosaka tās nākotni (sekas spēks). Un šeit ir runa: nevar modelēt pašas cēloņu un seku attiecības, spēju piespiest sistēmu veikt noteiktu darbību, nevis daudzas alternatīvas. Ne tagad, ne nākotnē. Tas ir jāiebūvē sistēmā.
Apsveriet datora kodu, kas modelē Einšteina vispārējās relativitātes teorijas lauka vienādojumus, kas saista masu ar telpas laika izliekumu. Programmatūra precīzi modelē supermasīvu melnais caurums, kas atrodas mūsu galaktikas centrā. Šim caurumam ir tik spēcīga gravitācijas ietekme uz apkārtni, ka nekas, pat gaisma, nevar izvairīties no tā vilkšanas.
Tomēr astrofiziķis, kas simulē melno caurumu, netiks iesūkts klēpjdatorā ar simulēto gravitācijas lauku. Šis šķietami absurdais novērojums izceļ atšķirību starp modeli un realitāti: ja modelis ir pilnībā atbilst realitātei, telpa un laiks ir jāsagroza ap portatīvo datoru, radot melnu caurumu, kas absorbē visu apkārt.
Protams, gravitācija nav aprēķins. Tam ir kauzāls spēks, kas ļauj deformēt laika telpas audumu un piesaistīt visu, kam ir masa. Lai simulētu melnā cauruma cēloņsakarības, ir nepieciešams īsts supersmags objekts, nevis tikai datora kods. Cēloņspēku nevar modelēt, tas ir jārada. Atšķirība starp realitāti un modeli slēpjas to cēloņsakarībās.
Tāpēc datorā, kas imitē lietusgāzi, nelīst. Programmatūra funkcionāli ir identiska laikapstākļiem, taču tai trūkst cēloņsakarības, lai atbrīvotu tvaiku un pārvērstu to ūdens pilienos. Cēloņspēks, spēja pašam radīt vai pieņemt pārmaiņas, ir jāiebūvē sistēmā. Tas ir iespējams.
Tā sauktais neiromorfiskais jeb bioniskais dators varētu būt tikpat apzinīgs kā cilvēks. Bet tas tā nav ar standarta fon Neimaņa arhitektūru, kas ir visu mūsdienu personālo datoru pamatā. Laboratorijās ir izveidoti nelieli neiromorfo datoru prototipi, piemēram, Intel otrās paaudzes neiromorfā mikroshēma Loihi 2. Taču mašīna, kas ir pietiekami sarežģīta, lai radītu kaut ko līdzīgu cilvēka apziņai vai vismaz augļu mušas apziņai, joprojām ir ambiciozs sapnis tālā nākotnē.
Ņemiet vērā, ka šai nesavienojamajai atšķirībai starp funkcionālisma un cēloņsakarību teorijām nav nekā kopīga ne ar dabisko, ne mākslīgo intelektu. Kā jau teicu iepriekš, inteliģence ir uzvedība. Viss, ko spēj radīt cilvēka atjautība, tostarp tādi lieliski romāni kā Oktavijas Batleres līdzība par sējēju un Ļeva Tolstoja karu un mieru, var reproducēt algoritmisko izlūkdatu, ja tiek sniegts pietiekami daudz materiālu, lai apmācību. AGI parādīšanās ir mērķis, kas sasniedzams ne pārāk tālā nākotnē.
Debates nav par mākslīgo intelektu, bet gan par mākslīgo apziņu. Un šīs debates nevar atrisināt, izveidojot lielākus valodu modeļus vai progresīvākus neironu tīklu algoritmus. Lai atbildētu uz šo jautājumu, mums ir jāsaprot vienīgā subjektivitāte, par kuru mēs esam pilnīgi pārliecināti: mūsu pašu. Kad mums ir skaidrs cilvēka skaidrojums apziņa un tā neironu pamatiem, mēs varēsim paplašināt savu izpratni par viedajām tehnoloģijām konsekventi, zinātniski pamatotā veidā.
Šī diskusija maz ietekmē to, kā tērzēšanas robotus uztvers sabiedrība kopumā. Viņu valodu prasmes, zināšanu bāze un sociālais šarms drīz kļūs nevainojams. Viņi būs apveltīti ar perfektu atmiņu, kompetenci, nosvērtību, spriešanu un inteliģenci. Daži pat apgalvo, ka šie lielo tehnoloģiju darbi būs nākamais evolūcijas solis, Nīčes "supercilvēks". Man ir drūmāks skatījums un uzskatu, ka šādi cilvēki sajauc mūsu sugas samazināšanos ar rītausmu.
Daudziem un, iespējams, lielākajai daļai cilvēku arvien atomizētākā sabiedrībā, kas ir atslēgta no dabas un organizēti ap sociālajiem tīkliem, būs emocionāli grūti pretoties tehnoloģijām, kurās dzīvo tālruņi. Un dažādās situācijās, parastās un nopietnākās, cilvēki uzvedīsies tā, it kā tērzēšanas robotiem būtu apziņa, viņi var patiesi būt iemīlejušamies, cieš, ceru un bailes, pat ja tās ir nekas vairāk kā sarežģītas uzmeklēšanas tabulas. Viņi mums kļūs neaizstājami, iespējams, pat svarīgāki par patiesi saprātīgām būtnēm. Lai gan tērzēšanas roboti jūt tikpat daudz kā televizors vai tosteris – nekā.
Ko vēl lasīt par tēmu🤖
- 6 iemesli, kāpēc nevajadzētu akli uzticēties mākslīgajam intelektam
- Kāpēc mums nevajadzētu baidīties, ka jaunas tehnoloģijas atņems mūsu darbu
- Tehnoloģiskā savdabība: vai tā ir taisnība, ka tehnoloģija drīz izkļūs no mūsu kontroles?
- 8 mīti par mākslīgo intelektu, kuriem tic pat programmētāji