În ce punct al evoluției inteligenței artificiale ne aflăm? Care e potențialul IA, care sunt limitele?

În planul conceptual, nu suntem foarte departe de începuturile domeniului, de ceea ce a dat direcție încă din anii 1950 și 1960, când apar textele fondatoare ale acestui tip de cercetare, fie că vorbim de IA formalist-simbolică sau de cea probabilist-statistică, care uneori presupune rețele neurale artificiale. Practic, odată ce a fost posibil să avem volume mari de date și putere mare de procesare (adică după anul 2000), învățarea automată (machine learning) a început să producă rezultate, pe care le vedem pretutindeni, de la viața noastră online la noile descoperiri în biomedicină. Totuși, aceste rezultate rămân particulare unui domeniu, sistemele de AI nu sunt flexibile și capabile de adaptare pentru orice nouă problemă.

 

Chiar dacă metodele de învățare a mașinilor sunt din ce în ce mai rafinate și aș zice uneori universale, încadrarea problemei de rezolvat și natura datelor avute la dispoziție fac, deocamdată, imposibilă apariția, sau emergența spontană, a unui sistem general de IA, un algoritm-stăpân, final, total. Aici ar fi una dintre limite. Potențialul IA e direct proporțional cu mulțimea și diversitatea datelor pe care le avem la dispoziție, deocamdată. E interesant de văzut ce nu se poate produce cu ajutorul IA și de ce nu toate rezultatele acestor sisteme, chiar dacă par similare unor realizări umane, sunt de încredere.

 

Unde se plasează IA pe scara istorică a progresului tehnologic? E o fază „firească” într-o lungă serie de tipare recognoscibile sau e un prag radical peste care e posibil să pășim în viitor?Asta dacă nu cumva e doar proiecția noastră fantezistă, în timp ce IA va rămâne pur și simplu o unealtă, ca multe altele.

Din poziția noastră istorică, pare că apariția IA este ultimul salt tehnologic realizat încă de oameni. De aici încolo multe dintre provocările științei, ne așteptăm, ar putea fi depășite direct de astfel de sisteme care nu mai au nevoie de input uman și de supraveghere. Este deocamdată un scenariu la limita fanteziei. Apariția unor astfel de sisteme nu este doar un act ingineresc, ci de transformare conceptuală.

 

Deocamdată sistemele de IA sunt bune în a face descoperiri în biochimie, dar nu vin cu noi ipoteze despre natura universului, structura relației energie-materie, nu au împăcat interpretările mecanicii cuantice etc. În cercetarea umanistă devin bun companioni pentru cercetători, pentru că pot „străbate” bibliografii imense, corpusuri de texte imposibil de citit într-o viață, dar nu pot produce semnificație, ci doar repera configurații care altfel ar fi fost greu sau imposibil de detectat de mintea umană. Semnificația, care ține de interpretare, rămâne totuși o activitate umană. Capabile să-și dezvolte propria sintaxă a datelor, sunt departe de orice semantică și de auto-reflexivitate.

 

IA nu este o unealtă, așa cum nici computerul nu este. O unealtă, o ustensilă sunt încă la dispoziția și în continuarea corpului și minții umane. Sistemele de IA sunt mașinării complexe, semi-autonome sau de-a dreptul autonome uneori, sunt un asamblaj de procese care duc la modelarea unor structuri abstracte, să le numim algoritmi, într-o oglindire cu datele cu care le „hrănim”. Nu sunt organisme, nici simple mecanisme, sunt dinamice, evolutive (nu toate), greu de încadrat printre alte artefacte și sisteme socio-tehnice apărute în istoria tehnologiei.

 

Pentru că sunt totuși obiecte născute din date și limbaje, posibile prin faptul că matematica și statistica au atins un stadiu înalt de dezvoltare, genul lor, ca obiecte tehnico-științifice, este unul propriu. Dincolo de inteligența artificială a zilelor noastre se vor afla probabil și alte momente revoluționare: neurotehnologiile, convergența neurotehnologiilor cu inteligența artificială și cea colectivă, cyborgizarea, computația cuantică și „teleportarea” informației, biologia sintetică etc., să numesc doar câteva.

 

Mulți filosofi și eticieni se îndoiesc de puterea IA de a modifica sau, la extrem, de a substitui conștiința umană. Richard David Precht, de pildă, în Künstliche Intelligenz und der Sinn des Lebens [Inteligența artificială și sensul vieții], rămâne la părerea că IA e supraestimată – și nu pentru că se află într-un stadiu incipient al dezvoltării, ci chiar prin condiția sa și principiile sale de funcționare, a căror complexitate ține, până la urmă, doar de cantitate informațională și viteză. Altfel spus, așa cum a fost proiectată, IA nu poate, în niciun punct viitor al evoluției sale, să concureze cu conștiința umană.

Conștiința este un proces emergent și greu de prezis, are grade și etape de dezvoltare și este întotdeauna conștiință a ceva (chiar și conștiința de sine e despre ceva, adică sinele). Conștiința are/este și o activitate integratoare a existenței într-o lume, ea e situată aici și acum, fiind totodată incorporată sau încastrată în ceva – nu vedem conștiința ca pe un „duh plutind pe deasupra apelor”, capabilă să ia ce formă vrea, ca personajul Q din Star Trek. Iar până la conștiință este nevoie de intenționalitate, de a te orienta spre ceva, fie din voință proprie, fie ca reacție la mediu sau undeva între.

Ne aflăm de-abia la început în naturalizarea conștiinței, în a o înțelege cu cadrele și instrumentele neuroștiințelor, nu doar ca postulat filosofic. În egală măsură, de-abia de curând acceptăm că omul nu e singurul animal capabil de conștiință. Astfel că avem premisele de a deschide mai mult categoria conștiinței, spre alte specii, fie ele naturale sau artificiale, dar nu avem încă un consens despre cum să recunoaștem manifestările, semnele ei.

 

Totuși, până nu vom avea sisteme autonome de IA care se orientează singure în lume și sunt capabile de intenții proprii, care să aibă și conștiința fenomenală, adică să-și înțeleagă experiența din și pentru propria subiectivitate, nu doar abilități de procesare computațională, e prea devreme să ne pronunțăm. Și, la urma urmei, vrem astfel de sisteme? Intrăm într-o contradicție morală: dacă sunt capabile de conștiință, chiar dacă poate nu vor avea niciodată sensibilitate și nu vor simți durerea sau bucuria (necesare, credem încă, acestui proces auto-reflexiv numit conștiință), vom mai putea să le tratăm ca pe niște instrumente, ca pe obiecte, ca pe niște sclavi?

 

Continuând gândul de mai sus, e cazul să repunem, în termeni noi, eterna întrebare „Cine sunt eu?”?

În istoria conștiinței umane, așa cum a emers de-a lungul istoriei naturale a speciei și istoriei culturale a gândirii, întrebarea despre eu a căpătat noi și noi răspunsuri. „Cine sunt eu?” nu este o întrebare doar despre mine hic et nunc, ci despre din ce sunt (făcut), cum sunt, câți sunt, cum am ajuns să fiu, de ce sunt și tot așa. Fiecare epocă a avansat comparații și analogii între om și o tehnologie dominantă, observă mai mulți istorici ai media; uneori omul sau sufletul său, mintea sa, erau ca un car de luptă, ca o moară de apă sau de vânt, ca un ceas și, astăzi, precum un computer. Dar în mod evident nu suntem computere în sensul mașinilor electronice care ne structurează viața. Relația dintre corp, creier și minte nu se poate traduce prin relația software – hardware.

 

Condiția autoratului a căpătat noi dimensiuni odată cu progresul tehnologic – în „epoca reproductibilității mecanice”, apoi în epoca internetului, acum în zorii IA: ce este, așadar, un autor? În ce fel este momentul IA un punct de cotitură, de revoluție poate, de schimbare de paradigmă în planul creației umane?

Un autor este o funcție raportată la un set de reguli sau norme și la un cadru de recunoaștere. E autor ceea ce trece drept autor la un moment dat într-o comunitate umană, ceea ce este recunoscut ca autor. Astfel, am putea recunoaște, nu e exclus, sistemele de IA ca autoare – întrebarea care s-ar naște ar fi cea a responsabilității operei creative, cine răspunde de rezultat?

 

Creativitatea artificială este deja bine documentată, vedem cum se pot scrie poeme, se generează imagini, se compune muzică de către IA. Și adesea e greu de distins de rezultatele creativității umane. Totuși, aceste sisteme fac ceva la comandă, sunt mai degrabă niște bune executante, meșteșugari care pun în operă, dau formă unor intenții umane. Cum o fac rămâne adesea un mister, dar știm de ce o fac – din intenția altcuiva.

La fel cum artiștii și cercetătorii onești recunosc public cum au ajuns să creeze, care le-au fost sursele și ajutorul, reușind să spargă turnul de cleștar al propriului ego, la fel ar trebui să recunoaștem unde e intervenția unui sistem de IA, care e aportul adus, care e contribuția sa unică. Co-autoratul om – mașină inteligentă pare a fi condiția viitorului, dar responsabilitatea rămâne umană.

 

Care e impactul IA în cele două mari ramuri ale activității și cunoașterii umane: științele exacte vs. științele umaniste? E posibil ca asta să fie șansa profesiilor umaniste de a deveni mai relevante în contextul automatizărilor, ca fiind mai bune păstrătoare a ceea ce ar fi propriu, unic, irepetabil, în ființa umană? În arhitectură și design – ca și în alte domenii exacte – se estimează că programele bazate pe IA vor reduce drastic timpul și efortul acela cantitativ, repetitiv, oferindu-le specialiștilor ocazia să-și concentreze atenția asupra problemelor de substanță, ce implică creativitate, asociativitate, în fine, abilități intelectuale de care nicio mașină nu e capabilă. E acesta un scenariu realist?

Da, este realist în măsura în care nu vom delega toată activitatea creatoare către mașini. Fără îndoială, rolul de asistenți pare a veni mănușă acestor sisteme, care, în fond, sunt niște programe, nu ființe. În design sau arhitectură trecerea de la paradigma CAD-ului la una procesuală în care computerul nu este doar un asistent care simplifică munca, ci un agent care co-produce alături de designer preluând sarcini. Într-o paradigmă de tip BIM, IA are ce să facă în mod creativ, nu doar corectiv.

În cercetarea științifică lucrurile pare că sunt și mai avansate. În unele domenii, IA poate formula chiar și ipoteze, pe care le testează, poate folosi cu succes corelația pentru a oferi explicații cu probabilități foarte mari. Științele umane produc moduri nu doar de a investiga omul, ci chiar conceptualizarea sa, în multiplele sale dimensiuni. Faptul că acestea nu sunt științe nomologice, care caută legi, ci mai degrabă asignează semnificații unor procese, fapte, relații ale existenței umane, de acum sau din alte secole, le face mai puțin dependente de puterile sistemelor de IA.

 

Spuneați într-un alt interviu că e esențial să ne păstrăm filtrul critic în fața „mecanismului violent și ne-critic al automatizării”. Cum putem atenua, individual, intruziunea – într-adevăr, pe cât de violentă, pe atât de „abstractă” – a tehnologiilor digitale în existența noastră?

Nu există un singur mod, un singur răspuns. Cuvântul-cheie e intruziune – cum să facem ca aceste tehnologii să nu mai fie intruzive și adversariale nouă e provocarea. Tehnologiile nu se află într-un vacuum, ci prinse în viețile noastre care de mult nu mai sunt naturale, ci instituționale. Așa cum noi, oamenii, ne limităm intruziunile și ne alegem cooperarea, având libertăți și drepturi, putem stabili și limitele sociale, politice și morale ale tehnologiilor.

Ultimele decenii au dus la impunerea unei ideologii tehniciste, aproape a unei fetișizări a tehnologiei ca mecanism de salvare și reparare a problemelor lumii. Dar e doar o falsă impresie că mai multă tehnologie sau mai puternică ne duce mai departe. Ne poate îndepărta de modul în care are rost să ne punem întrebări și să găsim soluții împreună. Alegerile se fac nu între tehnologii, ci între tehnologii raportate la valori și principii de viață, ale unui individ sau ale unei comunități. Impunerea fără o cercetare critică a întregului asamblaj de tehnologii, cum sunt cele care întrețin și chiar guvernează viața noastră online, provoacă o serie de rupturi în textura socială și o inversare a puterii, dinspre indivizi, preferințele și interesele lor, spre mecanisme abstracte care ne tratează ca pe niște obiecte de analiză și mărfuri.

 

Care ar fi câteva probleme etice pe care le ridică IA și cum le putem gestiona? Cu ce principii noi lucrează etica tehnologiilor, cum ține pasul, ca să zic așa, cu rapiditatea și dilemele domeniului?

Întotdeauna m-am întrebat de ce punem tehnologia, în cazul de față IA, în avangardă și asumăm o înapoiere a cadrelor de evaluare morală. Tehnologiile sunt contingente, lucrurile ar putea să stea și altfel, dar oamenii au în centrul vieții lor etica indiferent de epocă (nu înseamnă că e aceeași etică trans-istorică sau transculturală) și de mijloacele prin care își produc existența. Procesul de actualizare a valorilor, principiilor, de schimbare a normelor este rapid, pentru că normativitatea nu e absolută, unică, finală, ci dinamică, raportată la viață așa cum e trăită spre a înțelege cum ar trebui să fie.

Câteva probleme etice: tratarea algoritmică a vieții concrete produce alienare; sfera privată nu mai este respectată pentru că suntem permanent supravegheați (și nu ca într-un sistem totalitar); mai mult, faptul că fiecare are un corespondent în dosarele sale digitale, ca o colecție imensă de date care-l descriu nu doar în amănunt, ci și în profunzime, deschide posibilitatea manipulării comportamentului uman; sistemele de IA sunt opace, greu inteligibile sau inexplicabile, și asta le face foarte greu investigabile, parcă ar fi serviciile secrete ale unei țări din est; nedreptatea și inegalitatea ranforsate de părtinirile inerent apărute, ca rezultat al unei neatente curări a datelor – probabil despre bias și IA se scrie cel mai mult; riscurile unei lumi fără locuri de muncă, plină de automatizări, dar dominată de titani, companiile de IT etc.

Pentru fiecare problemă poate exista o abordare evaluativ-morală cu surse istorice, fie că vorbim de teoria virtuților, deontologism, utilitarism sau principiism (spre a da doar câteva exemple), sau una care pune într-un echilibru reflectat teoriile, cazurile particulare, intuițiile morale, noi perspective, într-un mod poate agonistic, dar pluralist. De douăzeci de ani apar tot felul de cercetări care încearcă să implementeze etica mașinilor, de zece ani apar coduri și instrumente etice pentru a asigura un design responsabil al IA. Problema nu mai este cea a unui vacuum moral, că nu am ști cum să ne raportăm la aceste mașinării minunate în lumea noastră, nici a unor aproximări conceptuale, ci a refuzului celor care dau designul IA de a accepta „filtrele” etice.

 

O curiozitate cam banală și anecdotică, dar aș vrea să profit de tema la zi: ați testat ChatGPT? Ce gânduri aveți, la ce să fim atenți, păstrând justa măsură în evaluarea noii aplicații?

Am observat rezultate bune în procesul de editare de texte, de rescriere într-un registru sau altul. Și o capacitate de a realiza orice sarcină pentru care are un corpus de date adecvat. Odată ce începi totuși să porți o discuție serioasă, care presupune nu doar replici, cuvinte, ci angajament, e evident că te afli în fața unui model complex, rafinat, lingvistic, dar lipsit de minte, intenție, situare în lume. Există un pericol de a trece nedetectate fraudele realizate cu ChatGPT și altele asemenea. Și de a instrumenta armate de boți care „conversează” fără încetare, putând inunda spațiul public (deja inundat de ferme de boți) până la a nu mai vedea ce e relevant discuției.

 

Câteva sugestii de lectură pentru cei care doresc să-și exerseze simțul critic și să aprofundeze subiectul.

O carte apărută de curând explică foarte bine mizele unei lumi în care datele și IA au un rol constitutiv, pe care o recomand cu toată încrederea: Răzvan Rughiniș, Societatea digitală. Stăpâni, cetățeni sau sclavi?, Humanitas, 2022.

Între 2020 și 2022, am fost parte dintr-un proiect, la Centrul de cercetare în etică aplicată, despre responsabilitate și IA: CoMoRe – Collective moral responsibility: from organizations to artificial systems. Re-assessing the Aristotelian framework (http://comore.ccea.ro/). Am publicat, alături de colege și colegi, mai multe articole care se găsesc în acces liber:
http://comore.ccea.ro/publications/

Și alte cărți, internaționale: Kate Crawford, The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence, 2021; Kate Darling, The New Breed: How to Think About Robots, 2021; Philip N. Howard, Lie Machines: How to Save Democracy from Troll Armies, Deceitful Robots, Junk News Operations, and Political Operatives, 2020; Cédric Durand, Technoféodalisme, 2020; Nick Dyer-Witheford, Atle Mikkola Kjosen, James Steinhoff, Inhuman Power: Artificial Intelligence and the Future of Capitalism, 2019; Ian McEwan, Machines Like Me, 2019; Stuart J. Russell, Human Compatible: Artificial Intelligence and the Problem of Control, 2019.