U knjizi 21 lekcija za 21. vek istoričar Juval Noa Harari sagledava novovekovne promene iz šire vremenske perspektive – ukupnog razvoja civilizacije. Pokušavajući da odgovori na pitanje čemu treba da učimo decu, Harari se poziva na savremene pedagoge i četiri sadržaja koja preporučuju za učenje: kritičko razmišljanje, komunikacija, saradnja i kreativnost. Harari dodaje: „Najvažnija će biti sposobnost da se nosimo s promenama, da učimo nove sadržaje i da sačuvamo mentalnu ravnotežu u nepoznatim situacijama (…) Jer kako se ritam promena ubrzava, mutiraće ne samo ekonomija nego verovatno i samo značenje pojma biti čovek.“[1]
Harari upozorava na superinteligentne mašine koje će pomoću različitih algoritama moći da manipulišu najdubljim ljudskim osećanjima. Gde je mesto obrazovanju ako već danas neko pomoću algoritma komponuje operu bez ikakvog muzičkog školovanja? Isto je pitanje koje se tiče kreativnosti, ali i vrednovanja ljudskog stvaralaštva. Kako ćemo procenjivati umetničku vrednost pesama ili slika koje su nastale pomoću algoritma?
Kompanija Apple je 2005. godine proizvela Siri – virtuelnog pomoćnika koji odgovara na vaša pitanja, daje vam savete i radi neke poslove za vas, ali Siri još uvek ne može da vodi složen i smislen razgovor. Godine 2012. konceptualni umetnik Radžit Batnagar izumeo je kompjuterski program Pentametron, koji piše poeziju u jampskom pentametru služeći se objavama na društvenoj mreži Tviter. Kasniji kompjuterski pokušaji takođe su proizvodili stihove, no i oni su više ličili na linijski kolaž nego na pesničku celinu. Za sada „kompjuterska poezija“ (computational poetry) ne uspeva da dostigne nivo „ljudske poezije“ (human poetry) jer, poput drugih verzija kompjuterskih jezika, ne poseduje sposobnost pisanja celovitih i smislenih rečenica.[2] To zapravo znači da kompjuter (još uvek) nije u stanju da koristi ljudski jezik niti da ispisuje tekst pomoću ljudskog jezika. Suštinske odlike teksta su koherentnost i smislenost. Samo je pitanje trenutka kada će se kreirati kompjuterski programi koji će pisati bilo šta umesto vas. Šta to može da znači?
Ljudski jezik je jedna od fundamentalnih odlika ljudi, koja predstavlja glavnu razliku između mozga neandertalca i homo sapijensa. „U stanju smo da jedan ograničen broj zvukova i znakova povežemo tako da grade beskonačan broj rečenica s različitim značenjima.“[3] Ova veoma gipka i složena tvorevina razvija se dugi niz vekova sa ciljem sporazumevanja, preživljavanja i saradnje. „Jedino sapijens može da govori o čitavim klasama stvari i bića koja nikada nije video, dotakao ni omirisao“, ističe Harari.[4] Pomenuti naučnik jezik definiše kao kognitivnu revoluciju zbog koje je sapijens mogao da stvara legende, mitove, bogove i religiju.
Taj pripovedni način organizovanja ljudskih iskustava ili znanja uopšte najstariji je način odnošenja prema stvarnosti. Ne zaboravimo da je pripovedanje svojstveno kulturi usmenosti, to je način oblikovanja pojedinca i kulture. „Jedino u narativnom iskazu možemo konstruisati identitet i naći svoje mesto u kulturi.“[5] Iako su naučnici uočili vezu opadanja kvaliteta obrazovanja i zapostavljanja narativnog konstrukta stvarnosti, nije se sistematski radilo na promenama u obrazovanju.[6]
Neki ipak žele da najjedinstveniju odliku sapijensovog jezika prenesu kompjuteru. Danas znamo da „ljudsku poeziju“ stvaraju ljudi na jedinstven i složen način, da najbolje pesme predstavljaju umetnost reči i da one prenose i izazivaju osećanja. „Kompjutersku poeziju“ ne pišu ljudi nego mašine, i to tako što koriste razne algoritamske operacije (brojanje, poređenje, proračune statističkih verovatnoća…). Kompjuter ne može da izrazi emocije, već neke uzorke kolektivnog nesvesnog, prikupljene iz ogromnih baza podataka.[7] Sada se samo nagađa o načinima na koje bi nova „mašinska poezija“ mogla da promeni naš odnos prema umetnosti. Jedna pesnikinja je postavila pitanje: „Zašto tražimo od kompjutera da piše sonete kao ljudi kada ljudi to već umeju da rade? Izmislite nešto novo!“[8]
Ako dozvolimo da kompjuter preuzme našu sposobnost da govorimo i razgovaramo, pišemo i mislimo, osećamo i odlučujemo, krećemo se, družimo, igramo i plešemo, da čuvamo i pamtimo, šta će se definisati kao razlika između ljudskog i mašinskog? Kakve će to posledice ostaviti na ljudske kognitivne sposobnosti, na kvalitet života uopšte? Da li je zaista moguće da sve ono što je neki pojedinac doživeo, stvorio, iskusio i pamtio postane deo kompjuterske baze podataka i algoritamskih operacija? Hoće li kompjuter proizvoditi, na primer, decu i drveće tako da oni zaista sačuvaju sve svoje prirodno autentične karakteristike ili će ih programirati prema vlastitim – algoritamskim zahtevima – mehanizacije i dehumanizacije?
Šta se sve menja u XXI veku možda i nismo dovoljno svesni. Izgleda da nam se već dešava „preživela pismenost“, gubljenje primarne pismenosti i prenos društvene odgovorosti na kompjuter, internet, algoritme i virtualni svet. Kao i u slučaju prelaska iz „primarne usmenosti“ na „preživljenu usmenost“, i sada nestaju upamćeni kodovi ponašanja.[9] Menjaju se i komunikacija i javni prostor. „Od subjekta komunikacije, pretvorili smo se u puki kanal preko kojeg se ona odvija, pa se može reći da ’mi zapravo ne komuniciramo, mi smo komunicirani.’“[10] U tom novom prostoru nestaju neposredni susreti, nestaju razgovori, nestaje sposobnost govora i pisanja, ukupnog izražavanja. Na Fejsbuku, kao dominantnoj platformi, najčešće se ne pišu komentari, nego kucne sličica i to sa veoma suženim i uvek istim izborom osećanja koje kompjuter prevodi ovako: „sviđa mi se“, „volim“, „podržavam“, „ha-ha“, „jao!“, „tužan sam“ i „ljut sam“.
Ranije je komunikacija bila društvena pojava, sada postaje hibridni fenomen, prepušta se mašinskoj komunikaciji. Sa radom na stvaranju mašinskih jezika, onih koji će biti „kao ljudski“, i posebno sa algoritmima upravljanja ukupnim ljudskim ponašanjem, približavamo se poništavanju ili uništavanju ljudskog. Ono što je bilo ključ ljudskog postojanja (prizivanje i prisećanje) postaće puki mašinski (kompjuterski) program, rukovođen redukcijom i kontrolom.
Posle radija i televizije, kompjuter je postalo novo sredstvo zaokupljanja naše pažnje, nova sila koja deluje na naš um, ali sa jednom ključnom razlikom. Dok je prvi medij oživeo naše uši, a drugi naše oči, treći je uneo zbrku u veoma stare kodove komunikacije (govorenje, pisanje, čitanje). Počeo je ozbiljno da ih remeti, oslabljuje i obesmišljava. Novija istraživanja upozoravaju na eskapistički trend u globalnoj kulturi.[11] U filmskoj industriji, fantastika preuzima prevlast nad dramom, savremenim i istorijskim filmom. U stvarnoj svakodnevici, gube se faktuelne istine a ljudi pokazuju sve veće nepoverenje prema nauci. Caruju dezinformacije, omalovažava se nauka, ne priznaju se ekološke krize i klimatske promene, sve uticajniji su pokret „ravna Zemlja“ i protivnici vakcina.[12]
Harari smatra da živimo u vreme „hakovanja[13] ljudskih bića“: „Kako se biotehnologija i mašinsko učenje budu sve više usavršavali, postajaće sve lakše manipulisati najdublim ljudskim osećanjima i željama i sve opasnije pratiti svoje srce (…) Pomoću Velike datoteke i mašinskog učenja upoznavaće vas sve bolje, a kada vas budu poznavali bolje nego što sami poznajete sebe, moći će da upravljaju i manipulišu vama, a vi nećete moći da uradite bogzna šta protiv toga.“[14] Kao spasonosnu protivmeru Harari predlaže meditaciju, neposredno posmatranje uma. Ipak, za materijalno sagledavanje tog posmatranja rada uma, smatram da je pisanje veoma korisno i lekovito sredstvo, od kojeg vekovima nismo odustajali, i to uglavnom slabo menjajući oblik pisaljke. (Menjali smo njen materijalni sastav: voštani štapić, ptičje pero, drvena olovka, naliv-pero, hemijska olovka.) Govor odlazi u eter, pisanje ostaje na papiru i omogućava da istinski vidimo i pratimo, ali i razumemo, tumačimo i vrednujemo ono o čemu se razmišlja. Za posmatranje vlastitog uma ne preporučujem pisanje na kompjuteru, jer mašina kad-tad može da nas „hakuje“ i zagospodari nad nama. Sveska i obična olovka van su domašaja Njegovog Veličanstva Mašine od Kompjutera.
Razmislite o ovom upozorenju da se ljudi i ljudski način života dehumanizuju. Polako se sve tehnicizuje, čak i ono što nam je ranije bilo nezamislivo. Mehanizuje se naše odlučivanje o nečemu, o običnoj kupovini na primer, ali i o izboru predsednika države – čemu posebno pomažu tzv. čet-botovi. Mehanizuju se naša osećanja i razmišljanja. Onog trena kada nekome šaljemo sličicu-poruku umesto mišljenja-poruke, pristali smo da algoritam na Viberu ili WhatsAppu „govori“, „misli“ i „oseća“ – „piše“ – umesto nas. U kućama, školama i na univerzitetima zato treba insistirati na pisanju i govoru, na mišljenju i samoizražavanju.
Šta će se desiti sa naučnim i novinarskim istraživanjem i pisanjem? Da li će novinari i naučni radnici prestati da postoje? Hoće li mašine pisati novinarske tekstove i naučne radove? Da li ćemo i to dozvoliti? Da li se može očekivati da mašinski radovi sadrže sve odlike najboljih novinarskih i naučnih radova? Hoće li ljudi zaboraviti da je domet jezika vekovima uvećavan pisanjem?[15]
Baš u ovom trenu, dok se kompjuterski programeri bore sa kreiranjem potpuno uspešnih mašinskih programa za pisanje i govorenje, imamo vremena (možda poslednju šansu) da najviše poradimo na pisanju i govorenju. To nije samo način da očuvamo mogućnost samoizražavanja. To je naša borba za pravo na humanost, ljudsku vrstu i našu jedinstvenu komunikaciju. Sada je to vrsta svesti koja još uvek može da ispravi poneke reči koje kompjuter nameće dok pišemo neki imejl ili kucamo poruku na aplikacijama „pametnih telefona“, ali u nekoj ne baš tako dalekoj budućnosti, to možda više neće biti moguće. Ako se ne izborimo za svoje pravo na jezik, na vlastite misli i vlastite rečenice, postaćemo neka vrsta „obesmišljene algoritamske operacije“. Možda će ljudska rasa biti nazvana baš tako – obesmišljena algoritamska operacija. Na nama je da odlučimo.
[1] Harari 2019: 329.
[2] Od 2015. do 2018. godine razvijale su se nove poboljšane verzije veštačkih jezika. Uporno se radi na „razumevanju prirodnih jezika“ (natural language understanding processing) i na „obradi prirodnih jezika“ (natural language processing). OpenAI je u martu 2018. godine predstavio podatke o kompjuterskom programu GPT-3 koji proizvodi rečenice nalik ljudskim i može da piše odgovore na ljudska pitanja. No, i taj program, kao i prethodni, za sada poseduje ograničenja i slabosti. Kompjuter još uvek ne može sam da ispisuje duže pasuse koji bi bili smisleni.
[3] Harari 2019: 39.
[4] Harari 2019: 41. Podrobnije o značaju homo sapijensovog otkrića jezika videti Harari 2019: 35‒61.
[5] Bruner 2000: 54, navedeno prema Mitrović 2008: 308.
[6] O položaju narativa u obrazovanju više videti kod Mitrović 2008: 309‒310.
[7] Hadas 2020.
[8] Mary Flanagan: „Humans are already good at producing human-sounding sonnets, so why get a computer to do that? Do something new!” Navedeno prema Rockmore 2020.
[9] Sa novim razumevanjem pismenosti i usmenosti, naučnici su u drugoj polovini XX veka, pisali o „primarnoj usmenosti” i „preživeloj usmenosti” kao oblicima prenosa kulture koji su prethodili pismenosti. „Preživela usmenost” podrazumeva nove uslove (postojanje pisanog jezika) zbog kojeg razvija nove uloge i sadržaje. Više videti kod Mitrović 2008: 301‒314. Videti i Havelock 2003.
[10] Z. Tomić 2014: 5.
[11] Reč eskapizam vodi poreklo iz engleskog jezika (glagol escape znači bežati), zabeležena je tridesetih godina XX veka. U Речнику српског језика (2011) ove reči nema, a Srpski rečnik novijih anglicizama (dostupan je na internetu) značenje te reči objašnjava ovako: „bežanje od stvarnosti, naročito kroz maštanje, bavljenje umetnošću i sl.“ (Prćić i drugi 2021: 182). Zanimljivo je da se reč eskapizam ne nalazi kod Vujaklije (Вујаклија 1986), dok kod Klaića stoji detaljnije objašnjenje: „bijeg od života“, „traženje smirenja“, „spašavanje (od odgovornosti), bijeg iz stvarnosti“, „odlazak do nekih imaginarnih podneblja, zvjezdanog neba i sunčanih otoka“… oslobađanje iz zbilje svakodnevlja …“ (Klaić 1989: 391).
[12] Hurlburt 2018.
[13] Anglicizam hakovanje znači „neovlašćeno pristupanje kompjuterskom sistemu, podacima i slično“ (Prćić i drugi 2021: 245).
[14] Harari 2019: 335‒336.Velika datoteka (big data) i mašinsko učenje (machine learning) su dve nove oblasti računarskih nauka. Prva se odnosi na analizu koja se primenjuje na veliku količinu složenih podataka, a druga na sposobnost računara da uči bez programiranja.
[15] O tome detaljnije videti Pinker 2019: 557‒616.