„Nexus. Scurtă istorie a rețelelor informaționale din epoca de piatră și până la IA”, de Yuval Noah Harari, o carte în mare parte dezamăgitoare, ca mai toate cărțile lui Harari de la „Sapiens” încoace, însă nu lipsită de unele idei strălucite.
Prima dintre ele, poate lipsită de importanță, dar care mie mi se pare folositoare, e clasificarea realităților. Toți cunoaștem realitățile obiectivă și subiectivă, dar Harari vine cu o nouă categorie: realitatea intersubiectivă, un concept bun care să integreze acel fenomen de credințe subiective de grup cum ar fi țările (care nu există obiectiv), banii (care n-au valoare obiectiv) sau religia (care nu dispune de adevăr factual). Toate sunt credințe subiective împărtășite de grupuri de oameni, deci realități intersubiective.
Dacă realitatea obiectivă e doar una, iar cea subiectivă (individuală) tot doar una, atunci când mai multe realități subiective identice se întâlnesc formează o realitate intersubiectivă. Pentru individ, spre diferență de celelalte două, realitățile intersubiective sunt infinite. Un grup poate intreține o realitate intersubiectivă conform căreia Isus este Dumnezeu, iar un alt grup că Allah este zeul unic și suprem. Pentru alții scopul vieții e o echipă de fotbal pe care o iubesc, iar pentru alții avansarea în carieră. Câte credințe subiective, atâtea realități intersubiective, de unde și toate conflictele. În locul căutării obiectivului (adevărul, în măsura în care el poate fi aflat și un onest „nu știu” atunci când el nu poate fi aflat), grupuri cu realități intersubiective diferite și adesea opuse se ciocnesc și încearcă să se impună asupra altora.
Yuval Harari face un rezumat a diferenței dintre ceea ce am crezut cu toții în trecut (că lipsa accesului la informație e problema) și ce am descoperit acum (că nu lipsa accesului la informație era problema, ci lipsa educației și pura prostie omenească).
„Istoria freneziei vânătorii de vrăjitoare din Europa modernității timpurii demonstrează că îndepărtarea barierelor din calea circulației informațiilor nu conduce neapărat la descoperirea și diseminarea adevărului. Poate duce la fel de ușor și la răspândirea minciunilor și fanteziilor și la crearea unor sfere informaționale toxice. Mai exact, o piață complet liberă a ideilor poate stimula diseminarea scandalurilor și senzaționalismul în detrimentul adevărului. Nu e greu de înțeles de ce. Tipografii și librarii au făcut mai mulți bani din poveștile șocante ale Ciocanului vrăjitoarelor decât din matematica anostă a lui Copernic – Despre revoluțiile sferelor cerești (…)”.
În paragraful de mai jos mi se pare că autorul explică foarte bine modul în care oamenii au scăpat de sub control libertatea de a decide pentru ei înșiși de unde să se informeze, cum să se informeze și care informații sunt reale sau nu. Și, aș adăuga eu, această externalizare a autonomiei personale devine tot mai pronunțată și mai gravă odată cu apariția ChatGPT și a altor astfel de resurse atunci când le folosim pentru a alege în locul nostru. O întrebare de genul „Ce ar trebui să fac în X situație?” adresată lui ChatGPT nu pare o mare dramă, dar acest gest este, în sine, o externalizare a autonomiei și în timp o atrofiere a capacității de decizie, cu tot declinul cognitiv care vine cu asta. Atunci când urmezi „sfatul” unui algoritm fără ca tu să contribui sau să filtrezi în vreun soluția, atunci poți spune că viața ta începe să fie ghidată de un algoritm.
Revenind la paragraful de mai jos, e destul de clar că Facebook nu și-a propus să comită masacre, dar ne întoarcem la sursa multor probleme: lăcomia. Dorința de a face cât mai mulți bani a dus la conceperea unor algoritmi care să mențină „engagement-ul”, algoritmi care analizează autonom care postări aduc cele mai multe interacțiuni și algoritmi care tot autonom decid apoi postările pe care să le promoveze. Și știm cu toții care sunt postările care aduc cel mai mult engament. Cu siguranță nu sunt cele despre cărți.
Mai mult engament = mai mulți bani și toată lumea câștigă, nu? Nu prea. Doar companiile social media câștigă, restul lumii arde. Sintetizând, niște agenți non-umani pot crea condițiile pentru a altera realitatea umană, toate astea nu pentru a vindeca cancerul sau ce ne mai imaginam noi de la progresul tehnologic, ci pentru a aduce cât mai mult engagement.
„Un caz paradigmatic al noii puteri a computerelor este rolul pe care îl joacă algoritmii folosiți de platformele de social media în răspândirea urii și subminarea coeziunii sociale în numeroase țări. Unul dintre primele și cele mai cunoscute astfel de exemple s-a petrecut în 2016-2017, când algoritmii Facebook-ului au contribuit la sporirea violenței împotriva etnicilor rohingya din Birmania. (…) Deși mesajele de instigare erau create de extremiști în carne și oase precum călugărul budist Wirathu, algoritmii Facebook au fost cei care au decis ce postări să promoveze. Amnesty International a descoperit că algoritmii au amplificat și au promovat proactiv conținut de pe platforma Facebook care incita la violență, ură și discriminare împotriva rohingya. O misiune de anchetă a ONU conchidea în 2018 că, distribuind conținut plin de ură, Facebook jucase un rol determinant în campania sa de epurare etnică.
Cititorul se poate întreba dacă e justificat să dăm vina atâta pe algoritmii Facebook-ului și în general pe noua tehnologie a social media. Dacă Heinrich Kramer s-a folosit de tiparnițe ca să răspândească un discurs al urii, nu era vina lui Gutenberg și a tiparului, nu? Dacă în 1994 extremiștii rwandezi s-au folosit de radio ca să-i îndemne pe oameni să masacreze populația tutsi, era rezonabil să se dea vina pe tehnologia radioului? La fel, dacă extremiștii budiști au ales să se folosească de conturile lor de Facebook ca să răspândească ură, de ce să dăm vina pe platformă? Și Facebook s-a bazat pe acest raționament ca să abată criticile. (…) Esențial este să înțelegem că algoritmii folosiți de platformele de social media sunt fundamental diferiți de tipar și de aparatele de radio. În 2016-2017, algoritmii Facebook luau singuri decizii active și fatidice. (…) Algoritmii ar fi putut alege să le recomande utilizatorilor predici despre compasiune sau cursuri de gătit, dar au decis să răspândească teorii ale conspirației pline de ură. (…) Michael, un asistent umanitar, a spus despre influența acestor algoritmi că dacă cineva posta ceva plin de ură sau care agita spiritele, era promovat cel mai mult – oamenii vedeau cel mai mult conținutul cel mai abject. Nimeni dintre cei care promovau pacea sau făceau apel la calm nu ajungea să fie văzut în feedul de știri.”
Mai jos mi se pare că Harari a dat-o de gard și s-a aventurat pe un teren pe care nu-l înțelege. Entitățile non-conștiente nu pot fi inteligente, asta e destul de clar. Ceea ce pot face entitățile non-conștiente este să facă programarea interioară să pară drept comportament inteligent văzut din exterior. Harari o dă de gard și cu afirmația cum că conștiința este capacitatea de a avea sentimente. Animalele și plantele (din câte știm până acum) nu posedă conștiință de sine, dar au sentimente. Conștiința de sine nu este capacitatea de a simți, ci a ști despre tine că exiști, a ști despre alții că există, a ști despre lumea din jurul tău că există. Un om se recunoaște pe sine în oglindă, pe când un animal nu, pentru că nu e conștient (de sine). Nu poți avea inteligență fără conștiință și teorie a minții.
Dar cum rămâne cu AI atunci? E inteligentă? E autonomă? Toată inteligența AI e programată, iar autonomia este un bob de mazăre într-un cerc închis. AI nu e autonomă, dar poate lua decizii autonome unde i se permite să facă asta. Pentru a analiza și promova anumite postări algoritmilor li se oferă autonomie, dar și acolo doar pe baza unei programări anterioare care le spune pe baza a ce să selecteze și să promoveze. Nu a decis AI-ul singur bazele deciziilor sale. E ca și cum îmi dai o poartă și-mi spui că trebuie să o vopesc, dar când mă apuc de treabă văd că mi-ai pus la dispoziție doar vopsea roșie și vopsea albastră. Nu am libertatea de a nu vopsi, iar dacă vopsesc o pot face doar în culorile pe care mi le-ai adus. Deci e o autonomie minimală și extrem de condiționată, prea puțină pentru eticheta de autonom, chiar și dacă decizia mea de a vopsi poarta în roșu va face pe toată lumea să înnebunească și să se omoare.
Revenind la inteligență, AI nu e inteligentă, cel puțin nu încă. Nu știm dacă ar putea fi. Educația prin care trec oamenii, în familie și la școală, e tot o formă de programare, dar la oameni rămâne întotdeauna un factor de imprevizibil, ca ei să nu-și respecte „programarea”. Oamenii au mai multe forme de inteligență (emoțională, socială etc), nu doar matematică precum AI-ul, care le conferă imprevizibilitate și inițiative personale în afara „programării”. Lucrurile astea nu le vedem la AI, care este în continuare doar o inteligență matematică, un gigantic procesator și analizator de date cu o putere de calcul enormă, dar fără autonomie, decizii personale, imprevizibilitate, sclav al programării de care dispune.
AI-ul este fix ca o albină, dar despre asta la final.
„Oamenii confundă adesea inteligența cu conștiința , așa încât mulți trag concluzia că entitățile non-conștiente nu pot fi inteligente. Dar inteligența e una și conștiința cu totul altceva. Inteligența e capacitatea de a atinge niște obiective , precum maximizarea implicării utilizatorilor pe o platformă de social media. Conștiința este capacitatea de a avea sentimente subiective precum durerea, plăcerea, iubirea sau ura.”
Harari crede că bacteriile și plantele dau dovadă de inteligență, dar e doar o aparență a inteligenței. Cred că Giorgio Agamben, în „Deschisul. Omul și animalul“, a descris lumea non-umană mult mai aproape de adevăr.
„Bacteriile și plantele par să nu aibă conștiință, dar și ele dau dovadă de inteligență. Culeg informații din mediul lor înconjurător, fac alegeri complexe și urmează strategii ingenioase ca să obțină hrană, să se reproducă, să coopereze cu alte organisme și să scape de prădători și de paraziți.”
În viziunea lui Agamben, care mi se pare validă și pe baza a ce vedem empiric zi de zi în jurul nostru, plantele și animalele se află într-un cerc închis, pe când oamenii sunt parte dintr-un cerc deschis. Cercul închis al unei albine este că aceasta reacționează și acționează doar pe baza programării sale biologice. Albina, ca și AI-ul, nu alege să facă ceva, ci trebuie să facă acel ceva pentru care a fost programată. E un cerc închis, unde pot exista mici decizii autonome, dar minore și parte tot din închisoarea în care se află. Omul în schimb, chiar dacă și el are parte de programare biologică, dispune și de un crâmpei de libertate. Nu este 100% din timp sclavul programării, starea de plictiseală fiind un exemplu prin care Agamben încearcă să explice asta. În starea de plictiseală omul doar trăiește, nu se supune niciunui instinct sau imperativ biologic.
Pentru a fi parte dintr-un cerc deschis trebuie să dispui de conștiință de sine și doar pe această bază poate exista adevărata inteligență. Oamenii spun „eu vreau să fac asta, eu aleg asta”. Acel eu este conștiința de sine, realizarea eului care poate decide să acționeze într-un fel sau altul. Animalele și planetele nu-și conștientizează existența, iar astfel sunt în imposibilitatea unei alegeri. O albină, ca și un AI, face ce a fost programată să facă. Din afară poate părea un comportament inteligent, dar asta nu înseamnă că-n spate se și ascunde o inteligență, ci doar o programare din care nu se poate ieși, pentru că nu există un „eu” care să-și dorească să facă asta.
Drept concluzie, AI-ul poate fi un dezastru și un final al rasei umane. Există foarte multă anxietate despre potențialitatea ca AI-ul să dezvolte conștiință de sine și să decidă că nu suntem decât niște paraziți care nu merită să trăiască. Totuși, dacă conștiința AI ar veni cu Teoria Minții (care implică printre altele și empatia) poate n-ar fi așa de dezastruos, căci ne-ar păstori cu blândețe așa cum majoritatea dintre noi o facem cu animalele (sau cu unele dintre ele). Ar fi oarecum scenariul Asimov.
Opusul, despre care nu se vorbește în schimb, îmi pare că are potențial mai mare de dezastru: ca AI să capete autonomie totală fără să dezvolte conștiință de sine sau teoria minții. Asta înseamnă matematică pură. Eugenia este și ea matematică pură. Matematic vorbind, ființele inferioare, persoanele cu handicap etc sunt gunoi care trebuie extirpat. Inteligența pur matematică nu dispune de empatie, ci doar de calcule.
În momentul de față suntem mai aproape de al doilea scenariu, pe care-l vedem la algoritmii care promovează doar ce face mai multă audiență, indiferent de dezastrele umanitare pe care acele mesaje le provoacă. Scop 100% matematic, 0% empatic.
