Aspecte etice și juridice ale dezvoltării și utilizării roboticii și inteligenței artificiale. Protecția drepturilor omului în era globalizării și a digitalizării

Autori:

Ramona Duminică
Diana Maria Ilie

INTELIGENȚA ARTIFICIALĂ (IA) – „SĂ DESCHIDEM PORȚILE” UNEI ARII INTERDISCIPLINARE. RISCURI, OPORTUNITĂȚI ȘI CONSECINȚE ASUPRA DREPTURILOR ȘI LIBERTĂȚILOR FUNDAMENTALE

Organizația pentru Cooperare și Dezvoltare Economică (OCDE) definește sistemul de inteligență artificială ca fiind „acel sistem care funcționează grație unui computer capabil să influențeze mediul, prin producerea de rezultate (predicții, recomandări sau decizii) menite a răspunde unui anumit set de obiective. Acesta utilizează datele și intrările generate de calculator și/sau introduse de om cu scopul (i) de a percepe mediile reale/virtuale; (ii) de a produce o reprezentare abstractă a acestor percepții sub formă de modele și (iii) de a utiliza deducțiile modelelor pentru a formula diferite opțiuni de rezultat”^[1]. Astfel, regăsim sisteme de Inteligență Artificială sub formă de software, respectiv asistenți virtuali, programe informatice de analiză a imaginilor, motoare de căutare, sisteme de recunoaștere vocală și facială, sau sisteme integrate unor obiecte, precum roboți, automobile autonome, drone, internetul obiectelor etc. În cadrul secțiunii a doua vom analiza definiția mult mai extinsă și mai flexibilă propusă la nivelul Uniunii Europene de către Comisia Europeană, conceptul fiind încă sub semnul interpretării.

Cert este că până în prezent nu există o definiție universal acceptată a IA. De exemplu, potrivit Grupului de experți la nivel înalt privind inteligența artificială al Comisiei Europene (AL HLEG) „Inteligența artificială (IA) se referă la sistemele care manifestă comportamente inteligente prin analizarea mediului lor înconjurător și care iau măsuri – cu un anumit grad de autonomie – pentru a atinge obiective specifice. Sistemele IA se pot baza exclusiv pe software-uri, acționând în lumea virtuală (de exemplu, asistenți vocali, software de analiză a imaginii, motoare de căutare, sisteme de recunoaștere vocală și facială) sau pot fi încorporate în dispozitive hardware (de exemplu, roboți avansați, vehicule autonome, drone sau aplicații pentru internetul obiectelor)^[2]. Într-adevăr, există tehnologii de IA de peste 50 de ani, însă creșterea puterii de calcul, disponibilitatea unor cantități enorme de date și noii algoritmi au condus la progrese majore în domeniul IA în ultimii ani.

Deși tehnologia informației și a comunicării a „invadat” toate aspectele vieții noastre, inteligența artificială (IA)^[3] reprezintă, încă, un subiect sensibil, perceput și asimilat atât de inegal și diferit, uneori abstract, în rândul populației. Dacă privim în jur, vom constata că IA este peste tot și în toate, s-a dezvoltat pe toate palierele, iar evoluțiile din ultimii ani marcați de pandemia COVID-19 au „dezvelit fără niciun fel de perdea” supremația și adevăratul potențial al acesteia, astfel încât, în prezent vorbim de o transpoziție în modele interdisciplinare de analiză. Constatăm, astfel, că IA a căpătat valențe complexe, de la cele social-economice, la cele politice și juridice, materializându-se într-o multitudine de acțiuni, strategii, reglementări, care impun, pe de altă parte, promovarea încrederii și asigurarea unui cadru etic, juridic, de securitate și dialog.

Cert este că IA își va exercita influența asupra unor sectoare și arii la care în prezent nici nu ne gândim, generând adevărate transformări, prefaceri ale societății și industriei. Suntem în faza în care societatea pare că deleagă tehnologiei din ce în ce mai multe aspecte ale gândirii, iar paradoxal, cu cât capacitatea digitală a unei societăți este mai mare, cu atât aceasta devine mai vulnerabilă. Să nu uităm, totuși, că IA nu este înzestrată cu emoție umană, gândire critică sau moralitate, oricât de mare ar fi tendința de a se reproduce comportamentul uman. Tocmai de aceea, este nevoie de o reglementare a eticii în IA, reper cheie al cercetării noastre, în vederea atingerii unei zone de siguranță și încredere.

Toate aceste crize interconectate generate de o globalizare aflată și ea într-o criză existențială, precum dereglarea climatică, conflictele comerciale între China și SUA, pandemie, războiul din Ucraina, urmate de criza socio-economică „șlefuită” de efectele celor dintâi, au reprezentat „o fereastră rară și îngustă” de oportunitate asupra evoluției fulminante a inteligenței artificiale, atingând-se zona critică de reflecție în conștiința globală asupra resetării lumii noastre. De altfel, în momentele cele mai tensionante se creează un spațiu de agregare a tuturor gândurilor, ideilor și emoțiilor generate de umanitate, IA devenind „motorul” umanității în era globalizării și a interconectării.

În acest context, ne întrebăm, care va fi noua normalitate? Omenirea va fi mai puternică sau mai vulnerabilă? Poate deveni IA o amenințare pentru supraviețuirea speciei umane? Cum ancorăm un domeniu „păianjen” precum IA, un domeniu inter și trans disciplinar, în realitățile uneori sensibile ale vieții, într-un cadru etic, juridic, cultural și instituțional conturat și structurat în așa fel încât să susțină valorile sociale și drepturile individuale fundamentale? Cum ne asigurăm că tehnologia servește societății și indivizilor și cum protejăm drepturile omului în era IA? Desigur că urmează întrebarea-răspuns: De ce trebuie să reglementăm utilizarea tehnologiei IA? Suntem oare pregătiți pentru o asemenea tranziție?

Există numeroase reacții juridice în diverse domenii față de provocările IA și se încearcă o coagulare a reglementărilor în această zonă, care cu greu prinde contur datorită complexității domeniului, profesori cercetători francezi ai Universității Paris sau Sorbona anticipând cristalizarea unui „drept al inteligenței artificiale”, un drept de sine stătător, construit în virtutea propriilor principii și instituții de funcționare.

Astfel, în contextul în care IA se află într-un stadiu de dezvoltare atât de avansat încât își revendică nevoia de reglementare, efervescența intelectuală juridică franceză a pătruns pe acest nou tărâm deschis reflecției, iar academicieni de renume și-au unit gândurile pentru a contribui la o prezentare completă a problemelor ridicate de dezvoltarea inteligenței artificiale în volumul „Droit de l’intelligence artificielle”^[4], fiind atinse zone precum etica, dreptul persoanelor, dreptul răspunderii și asigurărilor, vehicule autonome, justiția, dreptul penal, proprietatea intelectuală, datele personale, dreptul muncii, dreptul sănătății, dreptul militar, luarea deciziilor administrative și securitatea cibernetică, blockchain, drone civile și chiar drept internațional.

Vorbim de mașini inteligente care operează cu procese cognitive la nivel înalt, cum ar fi învățarea și chiar gândirea, rezolvarea problemelor, capacitatea de a lua decizii și a filtra informații, IA oferind oportunități de complementaritate a inteligenței umane și de schimbare a modului de viață. Astfel de mașini nu doar că au transformat și continuă să transforme sarcinile de zi cu zi ale oamenilor, dar au generat multiple întrebări profunde pentru indivizi, economie, guvernanță și societate în general. Ne putem pune întrebarea dacă acești algoritmi vor putea depista și oferi indicii cu privire la opiniile, emoțiile, sentimentele, personalitatea unor persoane care pur și simplu urmăresc un post de televiziune, un ecran al calculatorului etc. Astfel de situații nu fac altceva decât să legitimeze un sistem de supraveghere absolut al indivizilor, ceea ce ar duce la afectarea gravă a libertății și drepturilor oamenilor. Ne confruntăm cu riscul enorm ca orice gest sau comportament uman să fie supravegheat și chiar anticipat, lumea putând să se transforme ușor într-o „distopie”, astfel cum prevestea în urmă cu aproape un secol autorul Aldous Huxley în cartea sa „Minunata lume nouă”^[5]; o lume în care sub aparențele democrației, oamenii trăiesc într-o reală dezumanizare prin simplul fapt că orice dorință, gând, aspirație umană poate fi anihilată și ținută sub control.

Avem nevoie de consolidarea unei perspective globale puternice, prin dezvoltarea și implementarea unor instrumente legislative și standarde care să se fundamenteze și se dezvolte în jurul „nucleului dur” al drepturilor omului, prin care s-a câștigat demnitatea umană, s-au consolidat justiția, dezvoltarea socială și economică, bunăstarea fizică și psihică, diversitatea umană, interconectarea, educația, dreptul la muncă, elemente esențiale care pot ghida evoluția IA într-o direcție responsabilă.

Vorbim deja de o economie digitală, drepturi digitale și chiar despre „un viitor digital”, de curând fiind adoptată, sub egida OCDE, „Declarația privind un viitor digital fiabil, durabil și favorabil incluziunii”^[6], care trasează o viziune pentru o transformare digitală centrată pe factorul uman și orientată spre drepturi, aducând în discuție temele „Declarației privind drepturile și principiile digitale europene”^[7], propusă de Comisia Europeană și semnată de Parlamentul European și de Consiliul European. Prin această Declarație, liderii UE afirmă că doresc să asigure valorile europene prin: „plasarea oamenilor în centrul transformării digitale, sprijinirea solidarității și a incluziunii prin conectivitate, educație, formare și competențe digitale, condiții de muncă echitabile și corecte și acces la servicii publice digitale, libertatea de alegere, un mediu digital echitabil, încurajarea participării în spațiul public digital, creșterea siguranței, a securității și a responsabilizării în mediul digital, în special pentru tineri, promovarea sustenabilității”.

De altfel, Comisia Europeană a creionat și un mecanism pentru atingerea obiectivelor comune în vederea transformării digitale a Europei până în 2030^[8], program de politică ce va orienta transformarea digitală, în sensul în care își propune ca tehnologiile digitale să protejeze drepturile cetățenilor, să sprijine democrația și să garanteze că toți actorii digitali acționează în mod responsabil și în condiții de siguranță, UE promovând aceste valori în întreaga lume. Totodată, prin acest program liderii europeni doresc să asigure că mediul digital este sigur și securizat, că cetățenii se pot implica în procesul democratic la toate nivelurile și dețin controlul asupra propriilor date, dar și că dispozitivele digitale sprijină durabilitatea și tranziția verde.

Acestea reprezintă doar câteva repere pozitive ale digitalizării care consolidează „temelia” dreptului inteligenței artificiale, existând voci care susțin că IA va ajuta umanitatea să depășească cele mai profunde și complexe provocări. Dacă rămânem în această zonă optimistă, a oportunităților „promise” de susținătorii IA, în sensul în care IA poate amplifica inteligența umană, atunci am putea afirma că urmează o epocă de aur a umanității, cu posibilitatea eliminării bolilor și a sărăciei. Cu toate acestea, IA ne poate schimba viața într-un mod pozitiv sau negativ, în funcție de modul în care alegem să utilizăm datele și tehnologiile conectate.

În acest sens, Parlamentul European a înființat încă din anul 2020 o comisie^[9] care a avut rolul de a evalua impactul tehnologiei și de a identifica și descrie oportunitățile și pericolele acestui domeniu „omniprezent” al viitorului, fiind propusă o Foaie de parcurs pentru IA în UE. Astfel, s-au identificat avantajele IA în privința economiei, care tinde inevitabil spre o economie digitală, bazată pe infrastructură digitală, revoluționarea pieței produselor și serviciilor și facilitarea accesului la informații, educație și formare. O economie digitală reflectă economia datelor și aplicațiile ei, economia verde și circulară, optimizarea vânzărilor, creșterea volumului și a calității producției, îmbunătățirea serviciilor pentru clienți și economisirea energiei, pentru că IA nu înseamnă doar roboți care vor „fura” comportamentul uman.

Totodată, s-au identificat beneficii și oportunități și în zona de interes public, cum ar fi consolidarea democrației, prin asigurarea accesului la informații sigure și evitarea atacurilor cibernetice sau prin facilitarea utilizării datelor analitice în zona sectorului serviciilor publice, dar și în domenii precum transportul public, educația, dezvoltarea durabilă, gestionarea energiei sau a deșeurilor. Să nu uităm de posibilitatea utilizării IA în justiție, în special în materia prevenirii criminalității, infracțiunile sau chiar atacurile teroriste putând fi anticipate și prevenite. De altfel, există deja platforme online care utilizează IA în vederea detectării și combaterii comportamentului online ilegal. Și domeniul militar este unul de interes major, având în vedere posibilitatea utilizării IA în strategii de apărare și atac în hacking și phishing, în sisteme vitale implicate în războiul cibernetic, astfel încât vătămarea fizică să fie redusă. Totodată, există posibilitatea de a trasa misiuni de interes public dronelor, drone care sunt capabile să evalueze evenimente riscante pentru populație și să anunțe autoritățile. Spre exemplu, izbucnirea unui incendiu pe un stadion, dronele având capacitatea de a identifica flăcări, de a evalua stabilitatea lor și dacă se extind sau nu.

În orice caz, în viziunea actorilor strategiilor Uniunii Europene, IA reprezintă un pilon esențial al strategiei privind piață unică digitală, invocându-se potențialul fabulos al acesteia de a contribui la îmbunătățirea vieților oamenilor, prin servicii de sănătate mai bune, o administrație mai eficientă, poate un transport mai sigur, o agricultură durabilă, un mediu verde, o utilizare mai eficientă a resurselor și o industrie mult mai competitivă. Să nu uităm și de beneficiile utilizării roboților în chirurgie sau în cazul unor operațiuni de salvare, în caz de cutremur sau în caz de accident nuclear. De altfel, Bill Gates anticipează că IA va fi integrată în viitor în toate sistemele de sănătate din toată lumea, roboții fiind cei care se vor ocupa de aspectele birocratice.

În antiteză cu aceste beneficii, aducem însă în discuție riscurile IA asupra omului, asupra drepturilor și libertăților sale, putând genera și multiplica prejudecăți existente la nivelul societății. Într-o viziune mai sumbră, au existat voci care au afirmat că IA reprezintă sfârșitul controlului asupra umanității. S-a declanșat o serie de tensiuni și riscuri care necesită o analiză atentă din perspectiva siguranței umane, a sănătății și securității, a libertății, a vieții private și demnității, a nediscriminării, protecției datelor personale sau a autodeterminării. Sistemele de inteligență artificială pot deveni manipulatorii, discriminatorii sau pot produce prejudicii fizice, psihice, sociale și economice. Exemplificând astfel de aspecte, ne putem gândi la faptul că aceste sisteme IA pot perpetua prejudecăți sociale, pot manipula online comportamente ale copiilor, persoanelor în vârstă sau ale altor categorii de consumatori, prin exploatarea vulnerabilităților percepute în baza unor date și algoritmi avansați, forțându-se în masă deciziile comerciale, electorale etc.^[10]