U svom kratkom izlaganju „Do 2030. godine svijet će biti neprepoznatljiv“,[1] Yuval Noah Harari iznosi svoj stav o tome kako će eksplozivni razvoj umjetne inteligencije utjecati na naše živote na tako jasan i sažet način da se njegovo izlaganje gotovo samo nameće kao predmet kritičke analize. On pruža prilično detaljnu viziju našeg svijeta 2030. godine, koji opisuje kao „neprepoznatljiv“ za one među nama koji su još uvijek ukorijenjeni u tradicionalnom poimanju čovjeka. Međutim, da svoju poentu izrazim krajnje direktno, mislim da će stvarnost 2030. godine biti neprepoznatljiva i za one koji prihvataju Hararijevu viziju 2030. godine.
Hararijeva premisa (koju dijelim) jeste da se danas događa nešto čega većina nas nije u potpunosti svjesna: kraj čovječanstva kakvo poznajemo otprilike posljednjih 10.000 godina, od vremena kada su plemena kamenog doba počela koristiti jezik. S ubrzanim usponom umjetne inteligencije, jezik više nije samo alat kojim se ljudi služe za komunikaciju i međusobno djelovanje; on stiče potpunu nezavisnost i počinje funkcionirati kao vlastiti agent, prekidajući pupčanu vrpcu koja ga je povezivala s ranjivim majmunima zvanim ljudi.
(Ovdje nailazim na prvi problem: može li jezik bez subjekta ili subjekata, jezik koji djeluje kao vlastiti agent, još uvijek funkcionirati kao jezik? Nadalje, može li se jezik zaista svesti na njegove dvije funkcije, intelektualno računanje i izražavanje emocija? Ali o tome sam drugdje već pisao.)
Harari razrađuje tri velika reza koji označavaju kraj čovječanstva kakvo smo poznavali. Prvo, tu je ogromni aparat umjetne inteligencije: on sadrži znanje koje daleko nadilazi ljudsko pamćenje i koje je trenutno dostupno. To znanje uključuje i znanje o pojedincima koji obitavaju unutar AI-ja, u tom smislu, kako se često kaže, AI nas poznaje bolje nego što poznajemo sami sebe. Osim toga, AI ne samo da prikuplja znanje i obavlja kognitivne operacije (zaključivanje): ona više nije samo alat, mašina koja slijedi naredbe i radi ono što joj se kaže; ona je već agent spreman donositi autonomne odluke, odluke za koje nije bila programirana. Ona ne samo da uči i mijenja samu sebe kako bi obavljala svoje zadatke, već je već sposobna sama redefinirati te zadatke…
Moja reakcija na ovo je dvostruka. Prvo, naravno da sebe ne poznajemo dobro zato što imamo Nesvjesno, naprimjer, zato naša subjektivnost podrazumijeva da sami sebi nismo prepoznatljivi. Što se tiče odlučivanja, ljudsko odlučivanje je slobodno u smislu da je njegova najosnovnija dimenzija ono što je Freud nazivao nagonom smrti (death drive), izborom ničega. U oba slučaja ostaje otvoreno pitanje u kojoj mjeri AI pokazuje ove dimenzije: subjektivnost, nagon smrti i nesvjesno.
Drugo, AI, zajedno s tehnološkom primjenom uvida iz nauke o mozgu, zamagljuje granicu između stvarnosti i fikcije. Naša percepcija i interakcija s vanjskom stvarnošću uvijek su bile posredovane sociohistorijskim simboličkim kontekstom, tako da je ono što vidimo „kontrolirana halucinacija“ (Anil Seth): naša percepcija stvarnosti nije direktan prozor u svijet, nego interna simulacija, najbolja moguća pretpostavka koju mozak aktivno proizvodi i neprestano ograničava putem osjetilnih podataka. Danas „interna simulacija“ više nije samo spontani proces koji regulira naš mozak i zajednička ideologija; ona se sve više proizvodi svjesno planiranom tehnološkom manipulacijom.
Nije riječ samo o tome da je ono što izvan sebe vidimo kao stvarnost lažno, poput kulise naslikane na velikom zidu u filmskoj sceni kako ne bi bilo potrebno izgraditi stvarne kuće ili postaviti stvarno drveće u pozadini scene. Naš perceptivni aparat direktno se manipulira, tako da ono što mislimo da vidimo tamo vani zapravo nije tamo, čak ni kao naslikana lažna kulisa ili simulirani zvuk: direktno se djeluje na naše živce.
Kao što većina nas zna, ne samo bol ili zadovoljstvo nego čak i orgazam već se mogu proizvesti bez vizuelnih predstava u našem umu, jednostavnom direktnom stimulacijom naših živaca. Kada direktne intervencije u naš mozak postanu činjenica, postat će moguće u naš mozak umetnuti lažna sjećanja ili čak traume koje nikada nismo doživjeli u stvarnosti… Moj odgovor na ovo jeste insistiranje na ključnoj lakanovskoj razlici između Realnog i stvarnosti, koja se ni na koji način ne preklapa s razlikom između stvarnosti-po-sebi i načina na koji nam se stvarnost pojavljuje, zaražena fikcijama i fantazijama.
(Mnogi kritičari prigovaraju da je lakanovsko Realno neuhvatljiv pojam koji oscilira između suprotnih značenja: ono je praznina oko koje je strukturirana simbolička mreža; ono je slučajni ostatak, mrlja, mali komad Realnog koji se opire simbolizaciji (ono što je Schelling nazivao der nie aufgehende Rest); ono je čisto formalni jezik koji ne nosi nikakvo značenje (poput matematičkih formula); ono je zastrašujuća Stvar koju nismo sposobni integrirati u svoju svakodnevnu predstavu stvarnosti (gigantsko čudovište koje proždire žive ljude, megastorm koji zbriše kuće i ljude u njima, brutalno mučenje koje raskomada ljude, slučajevi u kojima posmatrač sebi govori: „Ovo ne može biti stvarno!“); ono je prepreka koja nam zabranjuje da se pomaknemo izvan nje (iako tamo nema ničega); ono je temeljna fantazija, na čijoj represiji počiva postojanje subjekta, fantazija u kojoj subjekt nikada ne može prepoznati samoga sebe…
Ono što ovdje moramo učiniti nije uvesti klasifikaciju Realnog, dijeleći ga na četiri ili pet podkategorija; moramo uhvatiti imanentno kretanje pojma Realnog. Jedan aspekt Realnog, doveden do krajnjih granica, mutira u potpuno drugačiji aspekt: slika zastrašujuće Stvari prelazi u fantaziju koja prikriva (ili, bolje rečeno, popunjava) prvobitnu Prazninu; ta Praznina prelazi u prepreku/zabranu koja prikriva činjenicu da iza nje nema ničega skrivenog…
Matrica se ovdje ponavlja: Realno je ono što je tamo, prije simbolizacije, i ono što dolazi poslije, kao ostatak simbolizacije. Realno je ono što je izvan simbolizacije, ali i prepreka koja nas sprečava da dosegnemo to „izvan“. Realno je prazna forma bez sadržaja i sadržaj za koji nema mjesta u formi (sjetimo se Lacanove formule subjekt-objekt: $-a).
U tome također leži paradoks zabrane incesta: ona zabranjuje nešto što je samo po sebi nemoguće. Incest s majkom je zabranjen, ali pravi cilj te zabrane jeste stvoriti iluziju da bismo, ako prekršimo tu zabranu, dobili potpunu, nekastriranu jouissance. Ukratko, zabrana prikriva činjenicu da nema ničega što bi trebalo zabraniti… Zašto onda gubiti vrijeme na ove detalje? Zato što, ponovo, u AI-ju nema mjesta za ovakvo zamršeno podudaranje suprotnosti.)
Stoga nije dovoljno žaliti se na to kako rast AI-ja potkopava razdvajanje činjenica i fikcija, niti je dovoljno slaviti našu sposobnost da se glatko krećemo između činjenica i fikcija kao neku novu vrstu slobode – katastrofu takve „slobode“ jasno vidimo u velikom dijelu današnje politike (Trump, Putin, Izrael), gdje se pojavljuje novi diskurs koji čak ni ne pokušava biti istinit u tradicionalnom smislu. Na ontčkom nivou stvarnosti, trebali bismo više nego ikada insistirati na činjeničnoj istini, ali trebali bismo ostati svjesni da se na temeljnijem ontološkom nivou razlika između istine i fikcije zamagljuje.
Treće, i ne manje važno, sveti gral čitavog ovog trenda jeste perspektiva Neuralinka, odnosno „ožičenog“ mozga: AI u kombinaciji s neurohirurgijom i tehnologijom zasnovanom na neuroznanosti otvara put direktnoj komunikaciji između toka naših misli i digitalnog agenta. Više nam nije potreban ekran za interakciju s AI-jem; AI agent može direktno čitati ono što se događa u našem umu i djelovati u skladu s tim.[2]
Kada kompanije predstavljaju prve skromne implantate koji omogućavaju digitalnoj mašini da čita naše misli, gotovo uvijek ističu dobronamjeran slučaj: kako takav implantat omogućava potpuno paraliziranoj osobi da komunicira svoje misli (ona misli, a AI mašina ih izgovara) ili da djeluje bez pomjeranja tijela (AI agent čita njenu misao i pomjera njenu stolicu, uključuje televizor itd.). Ono što se mnogo manje spominje jeste da komunikacija ide i u suprotnom smjeru: naše misli kontrolira AI agent i, naravno, druga osoba koja kontrolira AI agenta. Perspektiva koja se ovdje otvara jeste perspektiva potpune transparentnosti unutrašnjeg toka mojih misli prema vanjskoj AI mašini – i prema onima koji tom mašinom upravljaju.
Iako je Harari poznat po svojim stalnim upozorenjima da je ljudska era završena, on je ovdje odveć optimističan, slikajući blisku budućnost (2030) u kojoj će pojedinci moći stupati u emocionalne odnose sa stvarnim i digitalnim osobama. To se već događa danas, kada pojedinci provode sate razgovarajući s ChatGPT-jem, ali zamislimo mnogo razvijeniji sistem u kojem stavim digitalne naočale i stupim u razgovor sa svojim pokojnim ocem, čija je virtualna osoba rekonstruirana na osnovu mojih i tuđih sjećanja i drugih vrsta materijalnih tragova (snimaka itd.).
Ali ko kontrolira ovu igru? Šta ako se kontrola odvija iznutra, tako da se misli i lažna sjećanja usađuju u moj um, a da ja toga uopće nisam svjestan? Zamislimo da mi se u um usadi sjećanje da me je otac silovao, koje doživljavam kao autentično. Šta ako se pojavi nova klasa gospodara koji mogu čitati naše misli i intervenirati u njih, ali sami nisu podložni neuralinku? Šta ako isključeni nisu samo marginalizirani, inferiorni, nego elitna grupa gospodara koja kontrolira i manipulira stanovnicima singularnosti?
Što se neuralinka tiče, Harari zamišlja da će pojedinac moći slobodno birati kojim će se kolektivnim umovima pridružiti (naučnicima? pjesnicima?) – stvarno? Hoće li moja individualnost preživjeti svoje uranjanje u ono što nazivamo „singularnošću“?
Budući da je implantat koji regulira moj kontakt s neuralinkom mehanički uređaj, očigledno je da kontrolu vrši onaj ko implantat povezuje ili isključuje. Nisam naivni ljevičar koji misli da je AI neutralna mašina čije društvene posljedice zavise od društvenih okolnosti u kojima djeluje: u samoj formalnoj strukturi AI-ja upisana je tendencija prema tehnološkoj kontroli i dominaciji. Zbog toga je teško zamisliti sretnu, emancipiranu zajednicu ljudskih pojedinaca koji zajedno obitavaju u singularnosti: u singularnosti nema seksa, nema šala, nema komunikacije u kojoj drugi ostaje nepoznat.
Zaključak koji se nameće jeste da svaki veliki tehnološki proboj otvara put prema novom barbarstvu: njegov pseudooslobađajući učinak završava u onome što je Herbert Marcuse nazvao „represivnom desublimacijom“, terminom koji je uveo u svojoj knjizi Čovjek jedne dimenzije iz 1964. godine.[3] Može se tvrditi da je Theodor Adorno prvi ukazao na ovaj smjer u svojoj analizi Stravinskog, „Stravinski i reakcija“, drugom dijelu svoje Filozofije nove muzike iz 1949. godine.[4] Adorno je pronicljivo primijetio kako modernizam Stravinskog, njegova muzička imitacija ritma brutalne industrijske proizvodnje, kao svoj sadržaj uzima stare ruske barbarske, nasilne žrtvene mitove.
Prema Marcuseu, „represija“ u kasnom kapitalizmu ne djeluje kroz kontrolu i uskraćivanje, nego kroz dopuštanje i izražavanje: sva zadovoljstva su dopuštena, u komodificiranom obliku, što dovodi do kontroliranog izražavanja svih želja i potreba.
Drugim riječima, danas represija djeluje kroz desublimaciju želje, pri čemu se nijedna želja ne potiskuje u podzemlje: pornografija, seksualni rad, kultura droga, BDSM, furry kultura, gej kultura, raskošan način života, transkultura i slično više se ne smatraju negativnim ili štetnim životnim stilovima. Njihovo prakticiranje danas je društveno dopušteno i slavljeno: biti pripadnikom ovih oblika života više nije subverzivni čin ili stil života, ono sada reproducira kapitalizam kroz formu vrijednosti.
Danas je eksplozivni rast AI agenata doveo represivnu desublimaciju na novi nivo, dosad nezamisliv, u svim njenim dimenzijama: od univerzuma post-istine do zamagljivanja razlike između javnog prostora kao takvog i privatnog prostora, a da ne govorimo o digitalnoj kontroli onoga što radimo i mislimo.
AI mediji također igraju ključnu ulogu u načinu na koji su tokom posljednje decenije brutalnost i besramna opscenost prodrle u javni politički diskurs: ne samo kroz njihove riječi nego i kroz njihova djela (javne izjave o tome kako se zatvorenici muče). SAD i Izrael danas prakticiraju represivnu desublimaciju. Trump i Netanyahu (da ne spominjemo Hegsetha i Bena Gvira) često javno govore na način koji je donedavno bio zamisliv samo u privatnim razgovorima ili privatnoj e-mail komunikaciji. Njihov govor je doslovno govor represivne desublimacije: on je definitivno desublimiran (brutalno otvoren, bez ograničenja koja štite dostojanstvo), a istovremeno represivan (najavljuje ništa manje brutalno postupanje prema onima koji se smatraju neprijateljima, uključujući i uništenje čitave civilizacije).
Ovdje se ne bavimo samo učinkom AI-ja, nego vrlo specifičnim skupom društvenih okolnosti unutar kojih AI djeluje. Još uvijek tražimo odgovarajuće ime za ovaj novi skup okolnosti: digitalni neofeudalizam, liberalni fašizam, novi oblik bonapartizma… Svjesni smo da ova imena kruže oko fenomena koji je definitivno stvaran i čiju težinu svi osjećamo. Funkcioniranje AI-ja ne može se odvojiti od neofeudalne klasne borbe, koju najbolje simbolizira pogubna petorka: Gates-Musk-Thiel-Bezos-Zuckerberg.
[1] YouTube link
[2] Godinama unazad napisao sam knjigu o ovome, vidi Hegel in a Wired Brain, London: Bloomsbury, 2020.
[3] vidi Herbert Marcuse, One-Dimensional Man, Boston: Beacon Press, 1991.
[4] vidi Theodor W. Adorno, Philosophy of New Music, Minneapolis: Minnesota University Press, 2006.