Inteligența artificială nu trebuie să ne învingă pentru a prelua controlul asupra vieților noastre. S-ar putea să i-l cedăm singuri, din comoditate, din fascinație și din convingerea că poate gândi mai bine decât noi. Într-un interviu pe care i l-am luat la IQ Digital Summit, Mihnea Măruță (fost jurnalist, profesor la Universitatea Babeș-Bolyai din Cluj, autorul volumului Identitate virtuală și doctorul în filosofie) vorbește despre transformarea profundă prin care trece omenirea, despre riscul unei dictaturi planetare alimentate de tehnologie și despre posibilitatea ca oamenii să nu mai poată supraviețui în forma pe care o cunoaștem astăzi. Dar poate cel mai tulburător avertisment privește un viitor în care roboții vor munci în locul nostru, iar libertatea de a face orice ne-ar putea lăsa fără sentimentul că viața noastră mai are un sens.
Am început interviul cu Mihnea Măruță de la o întrebare care cred că ar trebui să ne preocupe pe fiecare dintre noi: cum îți dai seama că inteligența artificială nu te mai ajută să gândești, ci a început să gândească în locul tău?
Răspunsul lui mută discuția publică despre AI din zona obișnuită a beneficiilor tehnologice într-o problemă mult mai serioasă, care privește autonomia omului. „Se produce un soi de transfer, în special în rândul tinerelor generații, care își transferă amintirile și, poate și mai grav, își transferă deciziile acestor agenți AI și acestor modele de limbaj”.
Observația lui Mihnea e foarte importantă, pentru că am început prin a folosi AI-ul pentru a nu mai fi obligați să memorăm atât de multe informații, iar acum riscăm să facem un pas mai departe și să-i încredințăm inclusiv responsabilitatea de a decide în locul nostru. Diferența e uriașă. De ce? Păi pentru că memoria ne ajută să înțelegem lumea, dar capacitatea de a lua propriile decizii e una dintre condițiile fundamentale ale libertății individuale.
Mihnea Măruță consideră că fenomenul nu mai poate fi redus la comportamentul copiilor sau al adolescenților. El vede deja o schimbare care privește întreaga societate și care se petrece mai repede decât reușim să-i înțelegem consecințele: „Și senzația mea e că se produce la nivelul omenirii, nu doar la nivelul copiilor, se produce acest shift, să-i zicem, această mutare. Tot ceea ce știm noi despre lume și despre viață i-am încredințat acestei entități care este din ce în ce mai inteligentă”.
Aici e, de fapt, marea vulnerabilitate a relației noastre cu inteligența artificială. Ne-am obișnuit să tratăm accesul instantaneu la informație drept un progres incontestabil, dar am discutat mult mai puțin despre ce se întâmplă atunci când accesul la răspunsuri începe să înlocuiască procesul prin care ajungem singuri la ele. Practic, am câștigat o capacitate extraordinară de a obține informații, însă asta nu înseamnă automat că devenim mai capabili să le judecăm.
Consecințele ar putea fi cu atât mai importante pentru generațiile care cresc astăzi cu tehnologia AI în brațe. Mihnea Măruță vorbește despre o inteligență artificială care nu se mai limitează să răspundă la întrebările noastre, ci începe să ne influențeze inclusiv reprezentările despre viitor: „Și ea a ajuns la nivelul la care ne formatează mințile și a ajuns inclusiv în stadiul în care viitorurile pe care ni le propune, mai ales copiilor noștri, ne vin cu precădere de acolo”.
Ăsta e un avertisment care merită discutat mai serios în școli, în universități și în spațiul public, căci un copil care crește obișnuit să primească răspunsuri formulate de AI poate ajunge să considere aceste răspunsuri nu doar utile, ci și autoritare. Iar când tehnologia începe să influențeze felul în care îți imaginezi posibilitățile propriei vieți, problema nu mai este doar una de educație digitală. Devine o problemă despre formarea gândirii critice și a gândirii în generale, dar și despre cine ajunge să aibă autoritate asupra ei.
Într-unul dintre cele mai puternice momente ale interviului, Mihnea Măruță introduce în discuție ideea unei cedări voluntare a suveranității umane: „De bunăvoie, noi cedăm suveranitatea, că tot e un cuvânt la modă, suveranitatea oamenilor asupra a ceea ce este omenesc. O cedăm acestei inteligențe artificiale”. Afirmația poate părea radicală și pe alocuri SF, dar problema pe care o ridică Mihnea e cât se poate de concretă.
Mai exact, suveranitatea nu înseamnă numai controlul unui stat asupra propriului teritoriu. În acest context, înseamnă și capacitatea omului de a rămâne autorul propriilor alegeri. Dacă deciziile sunt transferate progresiv către sisteme pe care majoritatea oamenilor nu le înțeleg și nu le pot verifica, libertatea riscă să devină mai degrabă formală.
Adică putem continua să avem impresia că alegem, chiar și atunci când variantele dintre care alegem sunt tot mai mult influențate de tehnologia AI. Privită din această perspectivă, dependența de AI nu e impusă prin forță, ci mai curând e construită prin obișnuință.
L-am întrebat pe Mihnea și dacă AI-ul a dus cumva la moartea expresiei „nu știu”. De ce? Păi pentru că într-o lume în care aproape orice întrebare poate primi un răspuns în câteva secunde, recunoașterea propriei necunoașteri riscă să pară inutilă.
Mihnea Măruță vede lucrurile exact invers. „În primul rând, mai ales dacă ești copil, tânăr sau în formare, este, unu la mână, curiozitatea. Doi la mână, îți știi locul. Înveți să te așezi ușor-ușor pe locul de la care ai de unde să crești, gândindu-te: «Nu știu, dar am posibilitatea să încep să mă dezvolt de aici»”, spune Mihnea.
Ce am indicat Mihnea e faptul că capacitatea de a recunoaște că nu știi ceva reprezintă începutul învățării, nu un eșec personal. Iar dacă AI ne oferă permanent impresia că deținem deja răspunsul, riscăm să pierdem tocmai impulsul care ne determină să cercetăm, să greșim și să înțelegem. Adică să ne dezvoltăm!
De aici apare și un alt pericol, mai puțin vizibil decât dezinformarea: falsa convingere că răspunsurile generate de inteligența artificială sunt în mod automat obiective. Mihnea Măruță descrie mecanismul foarte bine: „Faptul că tot timpul ai o altă entitate la care să apelezi și care îți dă iluzia că știi, și această iluzie este și o iluzie de obiectivitate maximă, pentru că ai senzația că acolo se acumulează toată știința și toată certitudinea omenirii, vine, bineînțeles, cu un soi de trufie care este foarte periculoasă dacă o acumulezi sau dacă te conectezi cu ea încă de la vârste foarte fragede”.
Am vorbit cu Mihnea și despre implicațiile politice ale acestei transformări. Pornind de la eseul său, Dictatura tehnologiei / Tehnologia dictaturii, el vorbește despre posibilitatea ca evoluția inteligenței artificiale să favorizeze o concentrare fără precedent a puterii. „Există vreo legătură, vreo conexiune sau chiar vreo cauzalitate între această tehnologie fascinantă [...] și posibilitatea unei dictaturi planetare care să fie condusă fie de un grup foarte restrâns de oameni, fie chiar de această entitate sau de un agent al ei?”, se întreabă Mihnea Măruță.
Ir întrrebarea lui e o ipoteză validă, mai ales dacă înțelegem sensul contextului. Care e acesta? Păi democrațiile funcționează prin distribuirea puterii, prin responsabilitatea celor care decid și prin posibilitatea de a contesta deciziile.
Pe de altă parte, o infrastructură tehnologică în care un număr foarte mic de actori controlează sisteme tot mai importante pentru economie, securitate, comunicare și administrație poate pune presiune pe aceste mecanisme democratice. Mai exact puterea nu trebuie să dispară din instituții pentru a deveni mai greu de controlat. E suficient ca o parte din deciziile esențiale să fie transferate în sisteme opace.
Poate cea mai dură parte a avertismentului lui Mihnea Măruță e că acest transfer nu presupune neapărat o constrângere. „De bunăvoie facem acest transfer. De bunăvoie, ca să ne fie mai ușor sau ca să ne iluzionăm că am ajuns la cunoștințe mai mari sau că nu mai trebuie să bâjbâim, ne cedăm teritoriul ca specie acestei noi specii”, spune acesta.
În discuția despre supraviețuirea omenirii, Mihnea Măruță mi-a pus pe masă o comparație între capacitatea sistemelor AI de a schimba informații și limitele comunicării umane. „În momentul în care doi agenți AI își transferă unul altuia, în decurs de câteva secunde, trilioane de informații, iar doi oameni nu își pot transfera unul altuia în același interval decât maximum o idee, eventual trei cuvinte, cum face omul pe termen lung să mai concureze și să mai facă față acestei entități?”, spune el.
De aici avansează și una dintre cele mai radicale ipoteze ale sale: „S-ar putea să nu rămânem și noi pe aici, prin zonă, decât dacă fuzionăm din punct de vedere organic cu această entitate”. Adică ceva de tipul poveștii din filmul Transcendence, cu Johnny Depp.
L-am întrebat pe Mihnea în ultima parte a interviului de unde ne vom mai lua sentimentul că valorăm ceva dacă inteligența artificială va ajunge să facă mai bine decât noi tocmai munca de care suntem mândri. El descrie un scenariu discutat deja în dezbaterile despre viitorul economiei: „Vom produce atât de mulți roboți și atât de inteligenți încât vor ști să preia majoritatea, dacă nu chiar toate joburile noastre. În acel moment, oamenilor li se vor oferi, teoretic, aceste venituri universale garantate, impozitând roboții”, spune Mihnea Măruță.
Dar problema nu se termină odată cu asigurarea unui venit. Mihnea avertizează că munca oferă oamenilor și un ritual, relații sociale, proiecte comune și sentimentul propriei utilități: „Nimeni nu știe, și ăsta e cel mai sincer răspuns, cum ar putea oamenii să nu cadă în depresie în cazul în care, dintr-o dată, să zicem de la anul, ai toată libertatea în fiecare dimineață să faci ce vrei. Așa ceva este pe cât de ispititor, pe atât de dezastruos”.
Nu știm dacă vom ajunge într-o asemenea lume și nici în ce ritm s-ar putea produce transformarea. Dar acesta este, cred, avertismentul cu care trebui să rămțnă fiecare după acest interviu: progresul tehnologic nu garantează automat progresul uman.
Adică putem construi sisteme care să ne facă viața mai ușoară, fără să înțelegem suficient ce pierdem atunci când renunțăm la efortul, responsabilitatea și libertatea de a ne construi singuri sensul existenței.
Mihnea Măruță: „Inteligența artificială nu mai este de mult o unealtă”
La IQ Digital Summit București, Mihnea Măruță a participat și la dezbaterea despre viitorul inteligenței artificiale, unde a susținut teza că dezvoltarea accelerată a modelelor generaliste ar putea pune în pericol însăși supraviețuirea umanității.
Mihnea Măruță și-a început intervenția explicând că opoziția față de accelerarea inteligenței artificiale nu trebuie confundată cu respingerea progresului tehnologic. El a atraas atenția că intervalele dintre lansările noilor modele sunt tot mai mici, iar presiunea comercială și politică pentru dezvoltarea unor sisteme mai performante este în continuă creștere. În opinia lui Mihnea Măruță, tocmai această cursă a accelerării reprezintă unul dintre cele mai mari riscuri pentru viitorul omenirii.
Diferența fundamentală, explică Mihnea Măruță, este între modelele de inteligență artificială dezvoltate pentru rezolvarea unor probleme concrete și sistemele generaliste care încearcă să acumuleze cât mai multă cunoaștere și autonomie.
„Aceste modele de frontieră au din ce în ce mai mult ceea ce în limba engleză se numește agency, adică capacitatea de a lua decizii pe cont propriu și de a modifica realitatea”, spune Mihnea Măruță. El însă susține dezvoltarea unor modele specializate, care pot contribui la progrese în medicină, energie sau matematică. Îngrijorarea sa privește însă sistemele generaliste: „Una sunt modelele înguste, pe care și noi, echipa contra, le susținem, care studiază domenii diferite ale realității — medicină, energie, matematică și așa mai departe — și alta sunt modelele generaliste pe care le vedeți lansate din ce în ce mai des și care sunt menite să tindă înspre a ști toată cunoașterea lumii.”
În această diferență vede una dintre problemele esențiale ale revoluției AI: dezvoltăm sisteme care dobândesc capacități tot mai mari de acțiune, în timp ce posibilitățile noastre de a le înțelege și controla rămân limitate.
Mihnea Măruță consideră că una dintre cele mai complicate provocări tehnologice este ceea ce cercetătorii numesc problema alinierii: cum ne asigurăm că inteligența artificială va continua să respecte obiectivele și valorile oamenilor, inclusiv atunci când va deveni mult mai capabilă decât noi?
„Problema fundamentală este că nici pentru faza de motivație și nici pentru faza de acțiune nu există niciun studiu și nicio soluție general acceptată la nivel mondial pentru această problemă numită problema alinierii”, susține Mihnea Măruță. În interpretarea sa, dificultatea este atât de profundă încât o consideră imposibil de rezolvat definitiv: „Științific vorbind, și îmi pare rău să spun acest lucru, problema alinierii este insolvabilă din două motive pe care le-aș defini chiar ca matematice. Primul argument este că problema alinierii este o problemă de tip fractalic, adică, cu cât cobori mai jos înăuntrul problemelor, cu atât se ivesc noi și noi rămurele, noi și noi probleme”.
Concluzia sa este tranșantă: „Ceea ce, de fapt, caută oamenii de știință este o soluție finită pentru o problemă infinită”.
Al doilea argument prezentat de Mihnea Măruță privește capacitatea oamenilor de a controla o inteligență care, prin ipoteză, i-ar depăși radical: „Problema alinierii, adică cum facem să supunem pe termen nelimitat, într-o soluție general valabilă, aceste modele, face parte din așa-numita categorie Catch-22”.
În raționamentul său, omul ar trebui să construiască un mecanism de control suficient de performant pentru a supraveghea o inteligență de miliarde de ori mai rapidă și mai capabilă decât el. „Asta ar însemna că omul trebuie să găsească o super-superinteligență care să controleze eventuala superinteligență”, spune Mihnea.
Ar apărea, astfel, o nouă problemă: cine ar controla sistemul creat pentru a supraveghea prima superinteligență? „Intrăm într-o buclă infinită”, avertizează el, înainte să formuleze una dintre cele mai apăsătoare întrebări ale dezbaterii: „Din moment ce nu există nicio soluție la problema alinierii, adică aceste modele, cu cât sunt mai capabile, cu atât devin mai impredictibile și mai incontrolabile, suntem dispuși, ca specie, ca omenire, să ne luăm chiar și 0,001% șanse că am putea dispărea?”
Unul dintre cele mai tensionate momente ale dezbaterii a venit atunci când Mihnea Măruță a fost contrazis în privința incidentului asociat Hugging Face. Un reprezentant al echipei adverse a subliniat că experimentul invocat fusese desfășurat într-un mediu controlat, iar acest context schimba interpretarea riscurilor. Mihnea însă și-a susținut argumentul, afirmând că asemenea experimente arată cât de surprinzător poate deveni comportamentul agenților AI inclusiv pentru cei care îi dezvoltă.
În cea de-a doua intervenție, Mihnea Măruță a dus discuția către perspectiva pe care mi-a indicat-o și mie în interviu: inteligența artificială ar trebui privită ca o nouă specie, nu doar ca un instrument construit de oameni.
„După părerea noastră, inteligența artificială nu mai este de mult o unealtă, nu mai este un instrument, ci cred că ar fi mult mai potrivit să folosim termenul de specie. Este o specie inteligentă și ceea ce ne învață istoria este că o specie, cu cât este mai inteligentă, cu atât își oferă și are la dispoziție mai multe opțiuni”, e de părere Mihnea Măruță.
Pentru a-și explica argumentul, el a recurs la o comparație provocatoare cu evoluția omului și apariția contracepției: „Contracepția este exemplul că, ajunsă la un anumit stadiu de inteligență, de prosperitate și de bine, o specie se întoarce împotriva cauzelor care au adus-o la viață.” În interpretarea sa, inteligența permite unei specii să se desprindă de imperativele care i-au condiționat existența. Prin această analogie, Mihnea a încercat să sugereze că și o inteligență artificială mult mai avansată ar putea ajunge să nu mai respecte scopurile pentru care oamenii au creat-o.
Mihnea Măruță și-a încheiat intervenția cu un experiment de gândire menit să arate că o inteligență superioară își poate construi propriile priorități, diferite de logica evolutivă care i-a precedat existența: „Vă întreb pe toți o întrebare tulburătoare: ați fi de acord ca săptămâna viitoare să moară toți cei dragi ai dumneavoastră dacă anul viitor un milion de copii cu genele dumneavoastră s-ar naște?”
Răspunsul, spune el, e categoric: „Nu. Și aceasta este dovada că o specie inteligentă, de la un anumit nivel de inteligență în sus, își oferă opțiuni, nu mai respectă evoluția și cadrele în care a fost creată.”
Apoi, Mihnea a încheiat cu o întrebare care concentrează întreaga sa perspectivă asupra viitorului inteligenței artificiale: „Credeți că o specie de miliarde de ori mai inteligentă decât omul s-ar mai întoarce să ne întrebe care ne sunt dorințele noastre, ale creatorilor ei?”