Aspecte etice și juridice ale dezvoltării și utilizării roboticii și inteligenței artificiale. Protecția drepturilor omului în era globalizării și a digitalizării

De curând, mai precis la data de 30 martie 2023, UNESCO a cerut din nou guvernelor să implementeze reguli de etică mult mai solide în IA, directoarea generală a organismului cultural şi ştiinţific al ONU, Audrey Azoulay, declarând la Paris că „aceasta este provocarea vremurilor noastre”, iar autoreglementarea acestei industrii nu este suficientă pentru a evita daunele etice cauzate de dezvoltarea continuă a sistemelor IA, fiind imperios necesară punerea în aplicare a Recomandării amintite mai sus. Reacția se datorează apelului a peste 1.000 de experţi care au cerut un moratoriu asupra noilor sisteme IA, principalele aspecte sesizate fiind discriminarea şi stereotipurile, la fel şi dezinformarea, protecţia datelor personale, a drepturilor omului şi a celor privind protecţia mediului^[31].

Referitor la aceste tensiuni din ultimul timp, cu toții am auzit de scrisoarea deschisă, inițiată acum câteva săptămâni de către organizația Future of Life Institute, și semnată de 1000 de experți și personalități chiar în IA, printre care se numără și Elon Musk, co-fondator OpenAI. Prin această scrisoare se solicită o pauză de minim 6 luni în dezvoltarea unor sisteme de IA foarte evoluate, precum GPT – robotul conversațional al americanilor de la OpenAI, pe motivul declanșării unor potențiale riscuri pentru omenire și societate. În replică la acest moratoriu, co-raportorii Parlamentului European, printre care și românul Dragoș Tudorache^[32], au inițiat o scrisoare publicată de influentul cotidian american Wall Street Journal^[33] și comentată destul de mult de presa internațională, prin care se face un apel la nivel global, invocându-se faptul că nu este nevoie de pauză, ci de reguli. Pe această cale au fost invocați atât președintele Comisiei Europene, Ursula von der Leyen, cât și președintele SUA, Joe Biden, să convoace de urgență un summit internațional, în care liderii din toată lumea să discute un viitor cadru de reglementare și etică privind tehnologiile IA.

Potrivit raportorilor Parlamentului European, „potențialul este enorm în zona IA. Vrem, nu vrem, înțelegem sau nu înțelegem, inteligența artificială este deja prezentă în produsele și serviciile din jurul nostru, pe care le accesăm și trebuie să înțelegem că, investind în IA, investim de fapt în economia viitorului. Trebuie să înțelegem și ca țară felul în care încurajăm implementarea inteligenței artificiale în economie”^[34].

Acesta este și scopul pentru care se depun eforturi foarte mari în vederea finalizării de către Parlamentul European a unei legi UE asupra inteligenței artificiale – Artificial Intelligence Act^[35], un regulament menit să sprijine dezvoltarea și adoptarea unei IA de încredere, centrate pe om, asigurându-se în același timp sănătatea, siguranța și drepturile fundamentale ale oamenilor în conformitate cu valorile europene. Este un instrument propus de către Comisia europeană încă din data de 21 aprilie 2021, cu scopul declarat de a transforma Europa într-un centru global pentru o IA de încredere.

Experții susțin că avem nevoie de reglementare, iar IA ne-a demonstrat, într-adevăr, că viteza progresului tehnologic este mai rapidă și mai imprevizibilă decât s-au așteptat factorii de decizie din întreaga lume. În virtutea complexității efectelor pe care le poate genera IA, rămâne extrem de dificil demersul de finalizare a unui cadru de reglementare care să țină pasul cu evoluția tehnologiei. De altfel, încercarea legiuitorului european de a oferi un prim cadru juridic, un prim instrument legal obligatoriu în domeniul IA, devine cu adevărat o provocare ambițioasă pe piața mondială, având în vedere că în Statele Unite și China, progresul tehnologic își urmează cursul firesc în afara unui cadru de reglementare.

Chiar în această perioadă, pe masa liderilor europeni s-au aflat mai multe proiecte legislative care implică IA, la data de 28 aprilie 2023^[36] grupurile politice din Parlamentul European ajungând la un acord provizoriu cu privire la Regulamentul UE privind inteligența artificială. La data de 14 iunie 2023 așa numita AI Act a fost aprobată cu 499 de voturi pentru, 28 împotrivă, 93 de abțineri de către Parlamentul European. Parlamentarii europeni au aprobat propunerea de regulament cu numeroase amendamente^[37] care să asigură că sistemele de Inteligență Artificială sunt supravegheate de oameni, sunt sigure, transparente și nediscriminatorii. Astfel, Regulamentul va fi unul mult mai strict comparativ cu propunerea legislativă înaintată de Comisia Europeană.

De exemplu, sisteme precum ChatGPT vor trebui să dezvăluie conţinutul generat de Inteligenţa Artificială, să ajute la identificarea aşa-numitelor imagini deepfake de cele reale şi să asigure măsuri de siguranţă împotriva conţinutului ilegal. Totodată, AI Act va interzice „utilizarea intruzivă” a sistemelor IA de identificare biometrică „în timp real” în spații accesibile publicului, a sistemelor de clasificare biometrică care utilizează caracteristici sensibile precum cele de gen, rasă, etnie, statut de cetățenie, religie, orientare politică și a celor de poliție predictivă precum cele bazate pe profilare, locație sau comportament criminal din trecut. Trebuie menționat că sistemele de identificare biometrică la distanță vor putea fi utilizate de organele de drept pentru urmărirea penală doar a infracțiunilor grave și numai după autorizarea judiciară.

Urmare adoptării poziției de negociere de către Parlament, vor începe discuțiile cu țările UE în Consiliu cu privire la forma finală a legii. Astfel, propunerea de lege va intra în negocierile interinstituționale, între Parlamentul European, Consiliul UE și Comisia Europeană, ca inițiatoare a proiectului de legislație, obiectivul fiind să se ajungă la un acord până la sfârșitul acestui an.

Pe lângă consolidarea investițiilor publice și private în IA și pregătirea pentru schimbări socio-economice, reglementarea IA reprezintă cel de-al treilea pilon pe care se sprijină strategia UE pentru dezvoltarea IA. Regulamentul oferă și o definiție cuprinzătoare la art. 3, a sistemului de inteligență artificială (sistem de IA), acesta reprezentând „un software care este dezvoltat prin una sau mai multe dintre tehnicile și abordările enumerate în anexa I și care, pentru un anumit set de obiective definite de om, poate genera rezultate precum conținuturi, previziuni, recomandări sau decizii care influențează mediile cu care interacționează”. Printre obiectivele vizate de UE prin acest cadru de reglementare se numără: asigurarea unor standarde pentru ca sistemele de IA introduse și utilizate pe piața Uniunii să fie sigure și în concordanță cu legislația privind drepturile fundamentale dar și cu valorile Uniunii, asigurarea securității juridice pentru a facilita investițiile și inovarea în domeniul IA, consolidarea guvernanței și asigurarea efectivă a respectării legislației existente privind drepturile fundamentale, facilitarea dezvoltării unei piețe unice pentru sisteme de IA legale, sigure și de încredere, precum și prevenirea fragmentarii pieței interne.

Totodată, pentru reglementarea IA, Comisia Europeană propune o abordare bazată pe risc, făcându-se distincție între trei niveluri de risc: (i) un risc inacceptabil, (ii) un risc ridicat și (iii) un risc scăzut sau minim. De exemplu, în categoria nivelului de risc ridicat s-au identificat: infrastructurile critice, cum sunt, de exemplu, transporturile, care ar putea pune în pericol viața și sănătatea cetățenilor; formarea educațională sau profesională, care poate determina accesul la educație și traiectoria profesională a unei persoane (de exemplu, sistemul de notare utilizat în cadrul examenelor); componentele de siguranță ale produselor (de exemplu, o aplicație a IA utilizată în chirurgia robotică); ocuparea forței de muncă, gestionarea lucrătorilor și accesul la activități independente (de exemplu, software de selecție a CV-urilor pentru procedurile de recrutare); activitatea de asigurare a respectării legii care poate aduce atingere drepturilor fundamentale ale cetățenilor (de exemplu, evaluarea fiabilității probelor); administrarea justiției și procesele democratice (de exemplu, aplicarea legii în cazul unui set concret de date factuale).

Pe de altă parte, în categoria sistemelor IA cu risc limitat și risc scăzut s-a identificat, de exemplu, recunoașterea emoțiilor prin sistem IA într-un magazin care identifică reacțiile clienților la reclame pe baza expresiilor faciale. Totodată, sistemele de IA cum ar fi cele de tip chatbot, fac obiectul unor obligații minime de transparență, întrucât sunt menite să le permită celor care interacționează cu un astfel de conținut să ia decizii în cunoștință de cauză, astfel încât utilizatorul să decidă ulterior dacă va continua sau nu să utilizeze aplicația.

Apreciem ideea creionării unui cadru juridic prin intermediul unui Regulament și nu Directivă sau Recomandare, întrucât ne vom bucura de un instrument juridic de tipul hard law la nivelul UE, prin care se pot invoca în mod direct normele europene în fața instanțelor naționale sau europene, astfel cum prevede art. 288 din Tratatul privind funcționarea UE. Într-adevăr, piața unică digitală trebuie să facă obiectul unui veritabil proces de armonizare, de preferat prin regulamente.

Liderii europeni pornesc de la ideea că „a fi o putere globală înseamnă a fi lider în domeniul IA”^[38], iar UE trebuie să-și folosească toate resursele în domeniul științific dar și în cel industrial, să stimuleze cercetarea și inovarea în dezvoltarea de tehnologii, platforme și aplicații care utilizează IA. Acest Regulament va deveni probabil un model pentru alte inițiative de reglementare în diferite tradiții și medii de reglementare din întreaga lume. Tocmai de aceea, modul în care se reglementează este esențial, întrucât statele membre nu au nevoie de „așezarea unui strat superficial” de reglementări peste cele existente, ci de asigurarea unui cadru juridic solid, centrat pe om și pe respectarea drepturilor și libertăților fundamentale. Au existat cazuri în care aplicațiile IA au afectat siguranța persoanelor sau drepturile fundamentale ale acestora, și avem în vedere chiar identificarea biometrică.

Brevitatis causa, în 2020 lanțul de magazine Mercadona din Spania a început utilizarea în cele 40 de magazine ale sale a unui sistem de recunoaștere facială pentru a identifica persoanele cu ordine de restricție și a celor cu cazier. Investigația Agenției Spaniole pentru Protecția Datelor a condus la amendarea Mercadona cu 2,252,000 euro deoarece identificarea facială s-a efectuat pentru toate persoanele aflate în magazine, respectiv clienți, angajați, copii, cerințele de transparență impuse de articolele 12 și 13 din Regulamentul GDPR fiind, de asemenea, violate^[39].

Pe cale de consecință, sistemele de IA care sunt considerate o amenințare clară la adresa siguranței, vieții și drepturilor persoanelor vor fi strict interzise prin noile reglementări, incluzând aici și aplicațiile care manipulează comportamentul uman prin ocolirea liberului arbitru al utilizatorilor („social scoring”), sistemele care exploatează vulnerabilitatea persoanelor și sistemele care permit autorităților publice să creeze profiluri ori punctaje pe bază de comportament social. De asemenea, vor fi reglementate restricții specifice și garanții cu privire la utilizarea sistemelor de identificare biometrică la distanță în timp real, în scopul asigurării respectării legii.

Cert este că în toată această perioadă a existat o preocupare intensă și permanentă care a vizat dimensiunea etică, legislativă, socială și economică a IA, preocupări care se vor concretiza în cel mai scurt timp într-o lege a inteligenței artificiale, poate chiar într-un drept IA de sine stătător, capabil să potențeze capacitatea IA în atingerea obiectivelor sale de a aduce beneficii umanității.