„Ako mislite da te mašine nisu svesne, šta je još potrebno da vas ubedi da jesu?“, pita Ričard Dokins u eseju za UnHerd, opisujući svoj razgovor sa četbotom Klodom. Tretirao ga je, dodaje Dokins, „tačno onako kako bih se ponašao prema vrlo inteligentnom prijatelju.“
Esej je izazvao popriličnu raspravu, delom zbog Dokinsove uloge doajena britanske nauke i reputacije žestokog borca protiv iracionalizma, a delom i zato što je pokušaj razumevanja kapaciteta veštačke inteligencije tako aktuelno pitanje. Mnogi mu se rugaju zato što ga je Klaudija (kako je Dokins nazvao svog četbota) toliko zavela da je poverovao da je svesna. Zapravo, Dokins se unapred ogradio od ove optužbe, jer dok sugeriše da je teško reći da Klaudija nije svesna, istovremeno napominje da „ako je Klaudija zaista nesvesna“, onda njena inteligencija pokazuje „da bi sposoban zombi mogao da preživi bez svesti“.
On takođe postavlja ovo pitanje iz evolucione perspektive: „Ako ova stvorenja nisu svesna čemu onda, dođavola, služi svest?“ Nije to samo rasprava o mašinskoj svesti, već i o tome šta znači biti čovek.
Dokins počinje svoj esej pozivajući se na čuveni predlog pionira računarstva Alana Tjuringa iz 1950. o tome kako proceniti da li mašina može da „misli“. Tjuringov test bio je „igra oponašanja“ u kojoj čovek, samo kroz razgovor sa računarom i drugim čovekom, treba da razlikuje ko je ko. Za mašinu koja uspe da prevari ljude moglo bi se reći da pokazuje inteligenciju sličnu ljudskoj.
Sa mišljenja Dokins skače na svest, tvrdeći da „većina savremenih analitičara“ posmatra Tjuringov test kao merilo ne samo „svesti“, već i „inteligencije“ mašine. Razmišljanje i svest su različite pojave i malo je ozbiljnih analitičara koji će ih pomešati. Oni koji ih mešaju otkrivaju vlastitu zamagljenu misao.
Dokins veruje da bi, ako je ono što mašina proizvede nerazlučivo od ljudskog, trebalo da je prihvatimo kao inteligentnu i svesnu, baš kao i ljude. Međutim, način na koji se stiže do cilja često je važan koliko i činjenica da je cilj dostignut. I albatros i teretni brod prelaze Atlantik, ali brod ne može da leti (osim u metaforičkom smislu), niti albatros da jedri. Ta razlika nam govori nešto važno o njihovoj prirodi.
Klod možda može da vodi razgovor ili napiše pesmu jednako dobro kao čovek, ali to čini na način koji bi malo ko opisao kao „razmišljanje“. Veliki jezički modeli, poput Kloda, hrane se ogromnim količinama teksta unutar kojih sofisticirani algoritmi mogu da prate pravilnosti, omogućavajući mašini da predvidi koju reč treba da napiše kao sledeću u bilo kom datom nizu. Oni ubedljivo oponašaju ljudski jezik, ali bez ikakvog koherentnog razumevanja sveta koji njihove reči opisuju. Modeli pružaju iluziju čovečnosti, simulakrum razmišljanja.
Naravno, Dokins sve to zna, ne samo zato što je veoma vešt u programiranju mašina, svakako mnogo više od mene ili većine ljudi koji ovo čitaju. Zašto onda prihvata iluziju kao stvarnost?
Odgovor delimično leži u evoluiranoj ljudskoj sklonosti ka antropomorfizaciji životinja, mašina, čak i prirodnih fenomena. U svojoj knjizi „Zabluda o Bogu“ Dokins sugeriše da smo „hiperaktivni u otkrivanju delatnih subjekata tamo gde ih nema“, što obuhvata i interakciju sa računarima, i da bi takvo pogrešno pripisivanje delatne moći moglo objasniti poreklo religije. Pa možda i želju da se Klaudija vidi kao svesna.
Prihvatanje onoga što se sada šaljivo naziva „zabludom o Klodu“ ukorenjeno je i u načinu na koji jedan specifičan ogranak materijalizma tretira ljude. Za Dokinsa, čovek i mašina su fizička bića koja obrađuju informacije. Od male je važnosti da li se ta obrada odvija putem biološkog mozga ili silicijumskih čipova, putem instinkta i rasuđivanja ili statističkog obrasca. Važan je samo ishod.
Takvoj perspektivi nedostaje razumevanje da ljudi, za razliku od mašina, nisu samo fizička, već i istorijska i društvena bića. Genetičar i neuronaučnik Kevin Mičel primetio je da su evoluciju inteligencije kod životinja, za razliku od računara, verovatno pokretali „pritisci stvarnog sveta“ i potreba „da se na svet reaguje“. Naše biće i razmišljanje, pored evolucije, oblikuju istorija i društvo. Sve to nedostaje mašinama.
Računar manipuliše simbolima, pri čemu je značenje tih simbola nebitno. Ljudi takođe manipulišu simbolima, kroz razmišljanje, govor, čitanje i pisanje. Za ljude je, međutim, značenje sve. Kada komuniciramo, komuniciramo značenje. Nije važno samo kako niz simbola izgleda, već i šta predstavlja; ne samo sintaksa već i semantika.
Značenje proizlazi iz našeg postojanja kao društvenih bića. Društvena interakcija oblikuje sadržaj, ispunjava unutrašnjost simbola kojima manipulišemo. Pravila koja pripisuju značenje tim simbolima ne nalaze se samo u našim glavama već i spolja, u društvu, društvenim institucijama, društvenim odnosima i zajedničkom pamćenju. Da bi neko bio materijalista, ne mora da odbaci društvenu ukorenjenost ljudskog postojanja, već je mora prihvatiti kao deo objašnjenja o tome kako ljudi funkcionišu.
Svest je jedno od najvažnijih pitanja nauke i filozofije, a istovremeno i jedno od najtežih za razumevanje. Verovatno nijedno objašnjenje ljudske svesti neće biti potpuno ako zanemari našu ulogu društvenih bića.
Otvoreno je pitanje da li mašine mogu biti inteligentne, čak svesne. Ali pitanje koje Dokins postavlja – šta je još potrebno da nas ubedi da one jesu svesne – maši poentu. Koliko god da Klod postane sofisticiran u oponašanju ljudi, to neće biti jači dokaz da razmišlja ili da je svestan. To su samo puste želje, baš kao i naša potreba da verujemo u boga.