Diagnoza „new dark age” se datorează lui Howard P. Lovecraft, eseistul american care, pe baza propriilor experiențe și explorări și influențat de Oswald Spengler, a readus în atenție, în anii douăzeci, ideea decadenței civilizației. Vestul ar fi lovit, la rândul său, de declin, iar faptul s-ar lăsa observat în politică, economie și în restul aspectelor civilizației. În proza sa, At the Mountains of Madness (1931), eroul contemplă în final masacrarea de oameni, ca urmare a conflictului sau a curiozității științifice. Iar în mult comentatul eseu The Call of Cthulhu (1926), tot Howard P. Lovecraft a adăugat o profeție: „Științele, fiecare încordându-se în direcția ei, ne-au dăunat prin urmare puțin; dar într-o bună zi, punând împreună piese ale cunoașterii disociate, vor deschide atât de terifiante vederi asupra realității și asupra poziției noastre înspăimântătoare înăuntrul ei, încât va trebui sau să devenim nebuni de revelație sau să fugim de lumina mortală în pacea și siguranța unui nou ev întunecat”. Scurt spus, înaintarea cunoașterii nu exclude revenirea întunericului în lumea oamenilor.
Metafora aceasta nu a fost străină altor mari prozatori. De pildă, deja Virginia Woolf (1915) a dezvoltat motivul conform căruia „viitorul este întunecat”. Diagnoza a fost adusă însă în actualitate cu forța literaturii, în anii noștri, de Michel Houllebeck, care a și propus relansarea eseistului american (detaliat în A. Marga, Profunzimea artei, Libris, Brașov, 2020). Autori mai noi, de calificare științifică superioară, au reluat diagnoza și au aplicat-o consecințelor expansiunii inteligenței artificiale.
Cu o bună cunoaștere a acesteia, a aplicațiilor și consecințelor ei, James Bridle, începe prin a semnala „prăpastia (chasm)”: „tehnologiile noastre sunt complici în cele mai mari provocări cărora avem a le face față astăzi: un sistem economic ieșit de sub control, care trimite în sărăcie mulți și continuă să lărgească prăpastia dintre bogat și sărac; colapsul consensului politic și societal ce traversează globul și are ca rezultate naționalismele în creștere, diviziunile sociale, conflictele etnice și războaiele din umbră; și un climat al încălzirii ce ne amenință existențial pe toți”. Nu se mai poate înțelege ceea ce se petrece doar cu abordări funcționaliste devenite curente – este nevoie de „a gândi asupra istoriei și consecințelor, de asemenea” (New Dark Age. Technology and the End of the Future, Verso, London, New York, 2023, p.3). James Bridle se și concentrează imediat asupra istoriei inteligenței artificiale și a schimbării de abordare pe care ea a adus-o pe scena civilizației.
Așa cum am arătat amănunțit, la rândul meu, cu alte prilejuri, inteligența artificială se alimentează din premise ce se distanțează hotărât de cunoașterea naturală. Este azi tot mai evident și cert că trecerea în logică de la logica naturală a judecăților la logica simbolică a propozițiilor, considerarea „conexiunii inverse” ca trăsătură generală a acțiunilor, decuparea informației în relațiile binare și cuantificarea ei, plasarea la începutul cercetării faptelor a unei modelări, concentrarea analizei psihologice pe inteligență și aplicarea de algoritmi în explicarea fenomenelor, însăși matematica mulțimilor au schimbat cunoașterea. Aceasta nu mai are evidența de odinioară, chiar dacă profunzimea ei este de necontestat, iar utilitatea ei cognitivă și tehnologică este enormă.
James Bridle este dintre aceia care au reunit o enormă cazuistică pentru a arăta convingător că, din premisele ei, inteligența artificială antrenează schimbări de civilizație, care nu sunt de tratat sceptic, dar nici euforic. Într-un fel, paradoxal poate, ea extinde informarea și iluminarea în populații, dar, în funcție de folosirile ei, poate și să scadă luminile din jurul nostru ca oameni.
Dacă după diverse „iluminisme” antice și post-antice, s-a ajuns la un „ev mediu întunecat”, în care s-au preferat dogme, unele luate ca indiscutabile, din premisele ei inteligența artificială face posibil un alt „ev întunecat”. James Bridle scrie că „ne aflăm astăzi noi înșine conectați la vaste arhive ale cunoașterii și nu am învățat încă să gândim. În fapt se petrece opusul: ceea ce a fost intenționat să fie luminat din lume în practică ajunge să se întunece. Abundența informației și pluralitatea vederilor asupra lumii accesibile acum nouă prin Internet nu produce o coerentă realitate consensuală, ci una ruptă de insistența fundamentalistă asupra narativilor simpliști, teoriilor conspirației și politicilor postfactuale. Aceasta este contradicția în jurul căreia se mișcă ideea unui nou ev întunecat: un ev în care valoarea pe care am pus-o în cunoaștere este distrusă de abundența de comoditate profitabilă și în care noi privim la noi înșine în căutarea de căi noi de înțelegere a lumii” (p.10-11). Teza lui James Bridle privind inteligența artificială sună astfel: ceea ce particularizează cognitiv inteligența artificială nu are neapărat luminozitate, nu este luminator și poate duce la un „nou ev întunecat”.
Iar acest potențial s-ar putea observa deja în conceptele ce rezumă optica inteligenței artificiale. Realizarea majoră a autorului cărții New Dark Age. Technology and the End of the Future, în literatura pe cale de extindere despre inteligența artificială, mi se pare inventarul acestor concepte și tematizarea rupturii pe care ele o antrenează în raport cu cunoașterea tradițională. Este vorba de promovarea în centrul procedurilor de cunoaștere a conceptelor de „computație”, „funcționalitate”, „rețea (networking)”, „calcul”, „complexitate”, ce pleacă de la abordarea realității drept „cloud”, după ce cunoașterea a fost redusă la obținerea de „informație”.
Acestea nu sunt, desigur, toate caracteristicile inteligenței artificiale. S-ar putea adăuga, după părerea mea, de pildă, abordarea faptelor cu ajutorul „modelării prealabile”. Noi am descrie fapte, dar după ce le plasăm tacit într-un cadru bazat pe modelare. S-ar putea spune, în opinia mea, că și demersurile de copiere (la unii chiar de „duplicare”) a rețelei neuronale a creierului uman caracterizează tot mai mult inteligența artificială.
Dar caracteristicile inventariate de James Bridle, ca specific al opticii inteligenței artificiale, sunt suficiente pentru scopul său – acela de a capta consecințe ale inteligenței artificiale pe planul lămuririi noastre, ca oameni, asupra realității. Această lămurire conține critici severe, dar nu devine critică a tehnologiei însăși. De pildă, James Bridle observă că de computație este legată convingerea că orice problemă din societățile noastre se poate rezolva prin procedee noi („soluționismul”) ce presupun inventarierea alternativelor și calculul. El face computația responsabilă de „cele mai rele tendințe din societățile noastre” (p.4), dar precizează că este nevoie nu de nouă tehnologie, care să se dispenseze de computație, ci de „un nou metalimbaj”.
Desigur, tehnologiile nu sunt „în mod inerent emancipatoare”, cum se crede cu naivitate și astăzi. Ele nu duc nicidecum, așa cum se imaginează de mult timp, la sporirea „egalității” în societate. „Tehnologia este în fapt conducătorul (driver) cheie al inegalității ce traversează multe sectoare” (p.113). Ea înlocuiește masiv oamenii cu algoritmi, încât, spus fără ocolișuri, procedează consecvent cu logica noii tehnologii acele firme care reduc personalul.
Dar „prăpastia nu este între noi și tehnologiile noastre, ci înăuntrul rețelei însăși și este prin rețeaua pe care noi urmează să o cunoaștem” (p.5). Dacă privim lucid devine limpede că „nimic aici nu este un argument contra tehnologiei: a face astfel ar însemna să argumentezi împotriva noastră înșine. Mai curând este un angajament reflectat cu tehnologia, cuplat cu o radical diferită înțelegere a ceea ce este posibil să se gândească și să se cunoască asupra lumii. Sistemele computaționale, ca instrumente, accentuează unul dintre aspectele cele mai puternice ale umanității: abilitatea noastră de a acționa efectiv în lume și de a-i da formă conform dorințelor noastre. Dar dezvăluind și articulând acele dorințe și asigurându-ne că ele nu degradează, domină, șterg sau suprimă dorințele altora, rămân prerogativele noastre”(p.12-13). Este nevoie de tehnologie, ca instrument la îndemână, dar și de noi „metafore” în care să o preluăm în viața noastră. Acestea sunt cu atât mai necesare cu cât „noi avem mult de învățat despre necunoaștere. Nesiguranța poate fi productivă, chiar sublimă” (p.15). Trebuie, așadar, să învățăm din tehnologie ceea ce avem de făcut dincoace de ea pentru a ieși din fenomenele inacceptabile care azi o însoțesc.
Înainte de orice, însă, două adevăruri se impun privind dependența tehnologiei de oameni.
Primul este că „tehnologia nu emerge dintr-un vacuum. Ea este mai curând reificarea unui set anume de credințe și dorințe: dispoziții congruente, fie și inconștiente ale creatorilor ei. În fiecare moment ea este asamblată dintr-un set de idei și fantezii dezvoltate prin generații, prin evoluție și cultură, pedagogie și dezbatere, la nesfârșit încurcat și încremenit”( p.142). Și tehnologia este astfel obiectivare a unor vederi asupra lumii.
Al doilea adevăr este că apar computere care sunt mai capabile să înmagazineze informații și să le prelucreze decât inteligența naturală a oamenilor. În definitiv la jocul de șah odată cu Deep Blue s-a dovedit că un computer poate câștiga în fața campionului mondial la șah. „Dar tocmai cel mai puternic program contemporan poate fi învins de un jucător înzestrat care are acces la computerul său – chiar la unul decât oponentul său. Cooperarea dintre uman și mașină se dovedește a fi o strategie mai puternică decât doar computerul cel mai puternic” (p.160). De aici este de plecat în înțelegerea inteligenței artificiale.
Oricum, plecând de la „computație”, „funcționalitate”, „abordare în rețea (networking)”, „calcul”, „complexitate”, proceduri ce-și asumă optica „cloud” și reducerea cunoașterii la „informație”, drept caracteristici ale inteligenței artificiale, James Bridle captează consecințele sub trei termeni: „complicitate”, „conspirație”, „concurență”. El aduce exemplificări ale acestora, amănunțite.
Autorul cărții New Dark Age. Technology and the End of the Future observă că de computație este legată convingerea că orice problemă din societățile noastre se poate rezolva prin procedee noi („soluționismul”). Ea, computația, vine spre zilele noastre mărindu-și continuu aria de aplicare, de la Alexander Bell, care în 1880 a lucrat la descompunerea luminii în unde pentru a transmite sunete, trecând prin Lewis Richardson, care în 1916 a propus abordarea atmosferei cu ajutorul unui calcul al componentelor în vederea previziunii meteorologice, și Vannevar Bush, care a creat în al doilea război mondial un instrument, „memex”, capabil să înregistreze și prelucreze enorma cantitate de informații existente în diferite domenii și să inducă soluții noi în telefonie, construcția de mașini, fotografiere, stenografie, înmagazinarea de date, la perfecționările aduse în acest domeniu al stocării și prelucrării de date, cu John von Neuman și Alexander Zworîkin, care au lucrat la Manhattan Project. Iar acest proiect a dus, cum se știe, la crearea de mașini de calculat și, pe baza lor, a bombei atomice și lansarea ei asupra Hiroșimei și Nagasaki și, desigur, la Internet, creat din nevoile armatei americane. Operațiile matematice au trecut în operații electromecanice și de altă natură și au servit scopuri militare din viața societăților. „Întreaga computație contemporană – scrie James Bridle – provine din acest nexus: încercările militare de a prezice și controla vremea și astfel de a controla viitorul” (p.33). Google a creat indexul întregii cunoașteri umane, iar Facebook a putut elabora geografia conexiunilor dintre oameni. Odată cu computerul personal, cu smartphone și rețeaua mondială am ajuns să trăim în interiorul computației, care a înlocuit cu brio formele anterioare, fizice și sociale de comunicare.
Computația a modificat însă adevărurile cu care operăm. Ea nu mai este „doar arhitectura cunoașterii, ci veritabilul fundament al gândirii noastre” (p.43). Ea schimbă chiar așezarea categoriilor în mințile oamenilor și, prin intermediul minților, în realitatea pentru oameni. „Ceea ce este posibil devine ceea ce este computabil… Computația proiectează un viitor care este precum trecutul – care o face, în revers, incapabilă să abordeze realitatea prezentului, care nu este niciodată stabilă” (p.44). Ea fixează oamenii în ceea ce este.
Computația seduce însă în virtutea „puterii” ei, nu ca urmare a „adevărului”. „Exact așa cum accesibilitatea unei vaste puteri computaționale duce la implementarea unei supravegheri globale, logica ei ajunge să dicteze cum să se răspundă la ea și la alte amenințări existențiale la adresa bunăstării noastre cognitive și fizice” (p.184). Computația asigură reproducerea unei lumii, nu schimbarea ei cu una dorită.
James Bridle consideră că „inabilitatea crescândă a tehnologiei de a prezice viitorul – fie că este vorba de fluctuația pieței ale digital stock exchange, rezultatele și aplicațiile cercetării științifice, sau accelerarea instabilității climatului global – provin direct din aceste neînțelegeri privind neutralitatea și comprehensibilitatea computației” (p.32). El face computația responsabilă, măcar coresponsabilă, de „cele mai rele tendințe din societățile noastre” (p.4) – disoluția consensului, conflictualizarea, adâncirea prăpastiei dintre bogați și săraci, criza climatică și alte crize.
Funcționalismul nu poate da seama de originea sistemelor și finalitatea pe care o servesc. Abordarea ca „rețea (network)”, mereu parte a unei rețele tot mai cuprinzătoare, „amestecă agenți umani și nonumani” (p.76). „Calculul” este un progres enorm în cunoaștere, „dar nu toate problemele în științe pot fi depășite, fie și aplicând computația, oricât de atrăgătoare ar fi ea. Așa cum soluții mai complexe sunt aduse în față de probleme mai complexe, noi riscăm să avem probleme sistematice chiar mai mari dacă trecem peste ele” (p.101). „Informația” nu are neutralitatea ce se bănuiește de obicei. „Ea este mult mai asemănătoare puterii atomice decât petrolului: o resursă nelimitată care conține încă putere destructivă imensă și care este explicit chiar mai mult conectată decât petrolul la istoriile violenței” (p.248). Doar luată abstract informația este doar informație și inocentă.
În definitiv, tehnologiile sunt cele care influențează felul de a gândi al oamenilor, încât, odată cu noi tehnologii ar fi normal să apară și noi feluri de a gândi. Inteligența artificială solicită feluri de a gândi ele însele schimbate în raport cu trecutul. Dar asumarea astăzi dominantă a realității obiectuale drept cloud este legată, desigur, de ceea ce-l interesează pe inginer, dar acest interes ar putea fi și pentru ceea ce nu intră în aria atenției ingineriei. „Cloud-ul a fost o cale de reducere a complexității: el permite focusarea asupra a ceea ce este aproape, la îndemână, și nu se îngrijorează asupra a ceea ce se petrece în rest” (p.6). Strategia de cunoaștere ce-și asumă orizontul „cloud” își asumă că realitatea se epuizează pe planul a ceea ce este vizibil și caută să asigure lectura celor vizibile.
În mod explicit, James Bridle se opune concepției reprezentată de liderii Google, conform căreia „făcând ceva vizibil, este mai bine”, iar „tehnologia este instrumentul care face vizibil ceea ce este real” și o respinge. „Această opinie, care a ajuns să domine lumea, este nu doar fundamental eronată; ea este în mod activ periculoasă, atât global cât și în instanța specifică în care a fost afirmată de Schmidt” (p.242). Este vorba de Eric Schmidt, fostul lider al Google! Eronată fundamental și periculoasă, de pildă, căci în atrocitățile care se petrec în lume chestiunea nu este doar de evidență a faptelor, ci și de angajare de voințe – de voință a celor care generează atrocitățile și de voință a celor care nu intervin. „Tehnologia reală asupra căreia Schmidt insistă, ca o contracarare a răului sistematic, smartphone-ul, a dovedit din nou și din nou că amplifică violența și expune individul la ravagiile ei” (p.244). Mai mult, „informația și violența sunt utterly și inextricabil legate, iar transformarea informației în armă (weaponisation of information) este accelerată de tehnologii care au ca scop afirmarea controlului asupra lumii”(p.245). Ansamblul inteligenței artificiale – de la date, începând – este de fapt folosit deocamdată mai mult ca instrument al puterii în lume.
De ce vorbim de „o nouă eră întunecată”? Este intuitivă observația că la stock markets nu numai că nu se operează totul pe față, dar se recurge la dark dealing și dark fibre. Aceasta înseamnă în fapt deplasarea pe ascuns, plecând de la decizii în forumuri private, a unor volume importante de acțiuni fără le prezența pe piața deschisă. Se vrea protejarea acestor acțiuni de predatori, dar se ajunge la a dezavantaja participanții la jocul pe bursă (p.108-109). Tot intuitivă rămâne observația că, apelând la inteligența artificială, serviciile secrete extind sfera activităților de care nu mai dau socoteală. „Promulgarea secretului oficial este profund corozivă pentru calea pe care noi cunoaștem și înțelegem lumea, căci noi nu ne putem cunoaște propria istorie, nici nu putem înțelege ceea ce noi suntem cu adevărat capabili” (p.169). Istoria începe să se desfășoare nu în fața noastră, ci în întuneric. „Operația supravegherii, și complicitatea noastră în ea, este una dintre cele mai adânci caracteristici ale noului ev întunecat, deoarece insistă asupra unui fel de viziune oarbă: totul este iluminat, dar nimic nu este văzut”(p.185). Se dovedește că poți orbecăii chiar sub becuri puternice!
Acest „nou ev întunecat” nu este doar chestiune de iluminare. „Acesta este un timp profund întunecat, în care structurile pe care le-am construit pentru a extinde sfera comunicațiilor și discursurilor noastre este folosit împotriva noastră – a tuturor – în feluri sistematice și automatizate”(p.231). Destul să amintim ceea ce s-a petrecut în experimente precum cel întreprins de Cambridge Analitica, în conjuncție cu servicii secrete, când s-au folosit volume imense de date pentru a le oferi votanților și a le orienta alegerile spre ceea ce se voia. Informația servea închiderea orizonturilor.
Ce este de făcut? James Bridle spune că nu este de cedat ipotezelor conspirației, dar este de acceptat că „teoria conspirației, oricum, îndeplinește o vitală și necesară funcție, aducând în atenție obiecte și discursuri altfel ignorate” (p.195). Nu este cazul să ne opunem tehnologiilor noi, dar este cazul să nu se cedeze „promisiunilor predicției, supravegherii, ideologiei și reprezentării computaționale” (p.252). Tehnologiile noi sunt un sistem amplu și ramificat. „Înțelegerea acelui sistem și a ramificațiilor lui și a alegerii conștiente pe care noi am făcut-o în designarea lor, în aici-ul și acum-ul situațiilor, rămâne în întregime în capacitatea noastră. Nu suntem fără putere, nu suntem fără capacitate de acțiune și nici limitați de întuneric. Avem doar a gândi și a gândi iarăși și a rămâne gânditori. Rețeaua – noi și mașinile noastre și lucrurile pe care gândind le descoperim împreună – ne cer aceasta” (p.252). Gândirea este reazemul oricărei rezolvări a dificultăților.

 

 

(din volumul A.Marga, Inteligența artificială și condiția umană, în curs de publicare)