Aspecte etice și juridice ale dezvoltării și utilizării roboticii și inteligenței artificiale. Protecția drepturilor omului în era globalizării și a digitalizării

STRATEGIA ROMÂNIEI ÎN DOMENIUL INTELIGENȚEI ARTIFICIALE (IA). PILONII CADRULUI DE REGLEMENTARE

Considerăm că bazele strategiei naționale în domeniul IA au început să prindă contur încet, încet, o astfel de strategie fiind promisă încă din anul 2017, de atunci și până în prezent fiind înființate și reformate diverse grupuri de lucru cu această misiune.

Mai mult decât atât, România s-a declarat încă de la început deschisă acestei viziuni promovate la nivel internațional și unional, în 2019 România fiind singura țară europeană non-membră OCDE (Organizația pentru Cooperare și Dezvoltare Economică) care a aderat la Recomandările Organizației privind Inteligența Artificială. De asemenea, România a salutat și a luat act de recomandările UNESCO pentru etica în IA, recomandări expuse în secțiunea anterioară^[40].

Pentru că ne aflăm în punctul culminant al concretizării unui instrument legislativ de tipul hard law, mai precis Regulamentul UE privind inteligența artificială, considerăm că devine o prioritate pentru România să investească și să se implice în acest proces de negociere la nivel european, întrucât vorbim de reguli care vor reforma și vor declanșa armonizarea legislației tuturor statelor membre în viziunea și direcția conturată în aceste luni. Pe de altă parte, România va trebui să își finalizeze strategia națională în domeniul inteligenței artificiale sub „umbrela” acestor reglementări europene, o diversitate în abordare putând genera ulterior mari dificultăți în uniformizare și „îmbrățișare” a acquis-ului comunitar, acestea fiind și sfaturile liderilor europeni.

Potrivit direcțiilor trasate etapizat de instituțiile UE, strategia națională s-a orientat încă din anul 2021 spre necesitatea înființării unei Autorități de reglementare pentru IA până în anul 2023, cu scopul monitorizării și reglementării la nivel intern a IA etice. Potrivit strategiei, în centrul misiunii unei astfel de autorități se află, desigur, protejarea drepturilor fundamentale ale cetățenilor, dezvoltarea inteligenței artificiale în România, armonizarea legislației interne cu reglementările UE cu privire la IA, garantarea respectării de către dezvoltatorii de soluții IA a obligațiilor ce le revin în ceea ce privește transparența, confidențialitatea, robustețea sistemelor dezvoltate, informarea dezvoltatorilor și a utilizatorilor de soluții IA cu privire la potențialele riscuri sau drepturi care ar putea fi încălcate, și, totodată, furnizarea de expertiză tehnică pentru reglementarea sistemelor bazate pe IA, astfel încât reglementările introduse să contribuie la accelerarea inovației în IA în România și asigurarea încrederii publicului în sistemele bazate pe IA. Desigur că un prim pilon pentru sprijinirea dezvoltării IA la nivel național îl reprezintă crearea spațiului de date la nivel național^[41].

Instituții similare regăsim în Germania (German Observatory for Artificial Intelligence Institut), acesta asigurând, pe de-o parte, dialogul între Guvern, mediul științific, mediul de afaceri și cetățeni, iar pe de altă parte, atenționarea actorilor, dezvoltatori sau utilizatori de aplicații IA cu privire la constrângerile etice și legale ale IA.

O lege internă în domeniul IA „își va găsi locul” cu siguranță în legislația României, însă este un proces greu, cu mize uriașe și eforturi pe măsură, iar acest lucru se datorează complexității, caracterului interdisciplinar al domeniului, precum și „ecourilor” pe care le implică în reglementările conexe existente, precum protecția drepturilor omului, protecția consumatorului, siguranța produselor, legea nediscriminării, GDPR etc.

Arhitectura instituțională pentru o reglementare IA pare că începe totuși să prindă contur și în România, înființarea unor organisme specializate în domeniu depășind stadiul de obiectiv al strategiei. De curând, mai precis la data de 4 mai 2023, a fost înființat Comitetul Român pentru Inteligență Artificială în baza Ordinului nr. 20.484/2023 privind înfiinţarea, organizarea şi funcţionarea Comitetului Român pentru Inteligenţă Artificială, a cărei misiune declarată este de „a sprijini Ministerul Cercetării, Inovării şi Digitalizării în exercitarea atribuţiilor sale de autoritate de stat în domeniul cercetării-dezvoltării, inovării şi digitalizării, prin propuneri privind reglementarea, coordonarea, monitorizarea şi evaluarea activităţilor privind inteligenţa artificială (IA), precum şi dezvoltarea acesteia în România”.

Totodată, potrivit reglementărilor în vigoare, obiectivul principal al Comitetului este „crearea unui ecosistem de inteligenţă artificială bazat pe excelenţă, încredere şi respectarea principiilor etice, coerent, performant şi sustenabil, care să genereze valoare adăugată în plan social şi economic, prin utilizarea tehnologiilor de inteligenţă artificială, să promoveze şi să susţină cercetarea-dezvoltarea-inovarea şi educaţia/formarea în acest domeniu, să crească numărul de specialişti locali şi să fructifice aportul mediului privat şi al cetăţenilor români din străinătate, urmărind stimularea adoptării pe scară largă a domeniului inteligenţei artificiale în România”.

Acest Comitet ce „reunește marile minți ale României din țară și din diasporă” va reuși să consolideze pilonii strategiei naționale în domeniul IA și să închidă cercul eforturilor de cristalizare a unui cadru juridic coerent și sustenabil. De altfel, în cadrul acestui Comitet vor funcționa mai multe structuri, consilii și grupuri de lucru, precum: Consiliul Științific și de Etică a Inteligenței Artificiale care va oferi Guvernului României consiliere științifică în materie de utilizare responsabilă și etică a inteligenței artificiale, Consiliul de Educație în Inteligența Artificială, care va oferi Guvernului României consiliere cu privire la adaptarea domeniului educațional național care să răspundă la specificul și nevoile generate de evoluția domeniului IA și Coaliția pentru Dezvoltarea Inteligenței Artificiale, o inițiativă consultativă deschisă care include reprezentanți ai companiilor, organizațiilor neguvernamentale și ai altor entități juridice interesate de domeniul IA, din partea mediului de afaceri, investițional și de start-up-uri din România, cu rol consultativ pentru sprijinirea activității Comitetului, excluzând orice formă de reprezentare a intereselor comerciale sau de influență a pieței libere^[42]. Toate acestea vor prinde viață prin colaborarea cu Hubul Român pentru Inteligență Artificială^[43], precum și cu Comisia interinstituțională pentru elaborarea Strategiei României în domeniul IA, organisme ce urmează să ia ființă în viitorul apropiat.

De punctat și faptul că NVIDIA, lider mondial în procesarea bazată pe inteligență artificială, și Ministerul Cercetării, Inovării și Digitalizării au semnat de curând un acord pentru consolidarea capacității românești în inteligență artificială, prin care „partenerii de la NVIDIA ne vor sprijini în elaborarea unei strategii naționale de IA pentru România, în cadrul Comitetului Român pentru Inteligență Artificială (CRIA), al Consiliului Științific și Etic pentru IA sau al hub-ului de IA. În plus, vom putea utiliza platformele de calcul accelerate ale NVIDIA pentru a promova progresul României în domeniul digitalizării serviciilor publice, precum și în valorificarea soluțiilor bazate pe inteligență artificială”^[44].

Să nu uităm nici de rolul cheie pe care îl deține Autoritatea pentru Digitalizarea României (ADR)^[45], instituție creată încă din anul 2020 cu scopul transformării digitale a societății românești prin „trecerea la o nouă paradigmă tehnologică, informațională și socială”, începând cu instituțiile publice, urmate de mediul privat, mediul asociativ, comunitățile locale și întreaga societate care, în aceeași măsură, reprezintă părți esențiale ale acestui proces.

ÎN LOC DE CONCLUZII – REFLECȚIE: „SĂ CONSTRUIM” ÎMPREUNĂ ÎNCREDEREA ÎN IA PRINTR-UN CADRU JURIDIC TRANSPARENT ȘI SOLID

Faptul că la nivel global traversăm o perioadă plină de provocări și incertitudini datorită „adopţiei” accelerate a tehnologiei în toate aspectele activităţii umane, „adâncește” și mai mult nevoia de siguranță într-o lume „captivă” în labirintul promisiunilor oferite de IA, o sursă de fascinație a zilelor noastre.

Sub impactul acestor presiuni dar și promisiuni de creştere a calităţii vieţii, considerăm că trebuie să reacționăm totuși proactiv şi responsabil, prin înțelegerea în profunzime a efectelor generate, prin evaluarea beneficiilor, astfel încât legiuitorul să aibă datele necesare pentru determinarea profilului pe care tehnologiile îl vor avea în emergența noilor modele sociale şi economice pe termen mediu şi lung, generând o reglementare echilibrată, transparentă, sigură şi proporţională, abordată din perspectiva protecției datelor, valorilor și principiilor, competitivității, siguranței fizice, proprietății intelectuale etc^[46].

Desigur că IA va atrage o schimbare culturală, schimbare pe care va trebui să o asimilăm treptat, întrucât încrederea în inteligența artificială va deveni o necesitate, și nu o opțiune. Noile viziuni vor redimensiona abordarea legislației primare și vor accelera evoluția culturii legale naționale, cristalizată sub auspiciile Uniunii Europene dar și a culturii internaționale, prin tendința de uniformizare, iar aici trebuie să avem în vedere cele două sensuri ce decurg din nucleul culturii legale. Pe de-o parte, aceasta desemnează modul în care individul înțelege să se raporteze la o normă de drept și să o interiorizeze, vorbim iată de dimensiunea subiectivă de concepție a culturii legale, iar, pe de altă parte, cultura legală desemnează modul în care individul își stabilește comportamentul în societate prin raportare la norma de drept, și aici avem în vedere dimensiunea inter-subiectivă, de modelare propriu-zisă a acțiunilor și interacțiunilor sociale, impulsul dat de norma de drept atingându-și scopul prin modelarea comportamentului uman însuși. Cea din urmă componentă a culturii legale este esențială în asimilarea și acceptarea „noului” de către umanitate, pentru ca legislația „să pulseze” la unison cu societatea.

Proiectul de Regulament aflat pe masa liderilor europeni reprezintă oarecum „vârful de lance” al dezvoltării de norme globale în domeniul IA, prin stabilirea standardelor deschizându-se calea către o tehnologie etică la nivel mondial, favorabilă viitorului și inovării. Acest „construct juridic” european reprezintă primul act legislativ la nivel mondial dedicat IA și, totodată, calea spre dobândirea încrederii și îmbrățișarea inteligenței artificiale de către umanitate, fiind promovată doar acea tranziție digitală care respectă pe deplin drepturile fundamentale și care se află în slujba umanității. Totodată, prin cadrul de reglementare propus, UE dorește să devină liderul în dezvoltarea unei IA responsabile, care pune accent pe aspectele etice precum transparența algoritmilor, reducerea discriminării, principiile etice reprezentând fundamentul în jurul căruia s-au contopit reglementările privind utilizarea IA. Pe lângă aceste principii, Regulamentul enumeră un set de ghiduri cu privire la IA etică, IA responsabilă sau IA de încredere, acestea fiind puncte de pornire în implementarea procedurilor pentru auditarea și certificarea aplicațiilor IA (de exemplu pentru Google, DeepMing, Microsoft sau Amazon). Esențial este că se dorește inclusiv stimularea dreptului cetățenilor de a depune plângeri cu privire la sistemele IA și de a primi explicații cu privire la deciziile ce implică IA cu grad de risc ridicat și cu impact semnificativ asupra drepturilor omului. În acest sens a fost reformat și Biroul UE pentru IA, care urmează să fie însărcinat cu monitorizarea implementării manualului de reguli IA.

Pentru a exploata oportunitățile și pentru a preveni amenințările, este extrem de importantă sporirea încrederii în IA dar și monitorizarea dezvoltării acesteia, fiind necesare ghiduri etice. Astfel, mai multe state, cum este de exemplu și Franța, au publicat coduri și principii etice, modelul fiind urmat și de sectorul privat, de exemplu, Google, IBM, dar și de institutele de cercetare, cum este Future of Life Institute.

Un plus de încredere în ameliorarea cadrului de reglementare vine și din faptul că legiuitorul european a abordat ca strategie în domeniul IA emiterea unor acte legislative sub formă de regulament, ceea ce limitează posibilitatea statelor de a creiona reglementări nesigure sau care să ocolească normele europene. Este un start bun pentru ca piața digitală să facă obiectul unui veritabil proces de armonizare, printr-o coordonare perfectă și o legislație „suplă”, neutră din punct de vedere tehnologic, proporționată și adaptată la exigențele viitorului, dar mai ales centrată pe om și ghidată de principii etice.

Încă de la data de 8 aprilie 2019, un Grup de experți la nivel înalt privind inteligența artificială constituit la nivelul UE (High-Level Expert Group on AI – AI-HLEG) a prezentat Ghidul de etică pentru o IA de încredere^[47], ghid care a avut la bază un alt proiect publicat în decembrie 2018 la care au fost formulate peste 500 de observații. Conform acestui ghid, IA de încredere ar trebui să fie: legală – cu respectarea tuturor legilor și reglementarilor aplicabile; etică – cu respectarea principiilor și valorilor etice; robustă – atât din punct de vedere tehnic, cât și ținând cont de mediul social în care se desfășoară, fiind necesar ca toate cele trei componente să funcționeze în armonie și să se suprapună în funcționare. Totodată, etica trebuie să graviteze în jurul drepturilor fundamentale, fiind identificate de către AI-HLEG principiile etice și valorile corelate ale acestora care trebuie respectate, respectiv: dezvoltarea, implementarea și utilizarea sistemelor IA într-un mod care să adere la principiile etice: respectarea autonomiei umane, prevenirea efectelor periculoase, echitatea și explicabilitatea; acordarea unei atenții deosebite situațiilor care implică categorii vulnerabile specifice, cum ar fi copiii, persoanele cu dizabilități, dar și alte persoane care au fost dezavantajate în trecut sau sunt expuse riscului de excluziune, precum și situațiilor care se caracterizează prin asimetrii în capacitatea de informare, cum ar fi între angajatori și angajați sau între întreprinderi și consumatori; recunoașterea faptului că, deși, aduc beneficii substanțiale persoanelor și societății, sistemele de IA prezintă, de asemenea, anumite riscuri, putând genera un impact negativ, precum și efecte care pot fi dificil de anticipat, de identificat sau de măsurat, cum ar fi democrația, statul de drept, justiția sau, mai grav, mintea umană, de unde rezultă imperativul unor reglementări solide, proporționale cu amploarea riscului^[48].

Relevante pentru construcția juridică în domeniul IA rămân, desigur, Declarația Universală a Drepturilor Omului, Carta drepturilor fundamentale a UE, Convenția europeană a drepturilor, precum și acquis-ul comunitar în materie de protecția datelor și nediscriminare. De altfel, Carta drepturilor fundamentale a UE, devenită obligatorie din punct de vedere juridic în decembrie 2009, cu valoare juridică egală cu cea a tratatelor UE, impune instituțiilor, organelor, oficiilor și agențiilor Uniunii să respecte toate drepturile consacrate atunci când pun în aplicare dreptul Uniunii, acest lucru fiind valabil atât pentru IA, cât și pentru orice alt domeniu. Pe cale de consecință, orice politică nouă, orice act legislativ implementat de legiuitorul European și de statele membre trebuie să asigure respectarea întregului spectru de drepturi fundamentale și să fie însoțite de garanții în acest sens, în concordanță cu principiul necesității și principiul proporționalității, cu atât mai mult cu cât implementarea sistemelor IA implică o paletă largă de drepturi ale omului.

Faptul că la nivelul UE există organisme independente, cu rolul de a proteja și de a promova drepturile fundamentale, precum autoritățile pentru protecția datelor, organismele de promovare a egalității, instituțiile naționale pentru apărarea drepturilor omului etc, ne oferă, de asemenea, încredere și siguranță în acceptarea evoluției IA într-un sens bun, asigurându-se: respectarea autonomiei oamenilor, prevenirea daunelor, echitatea, nediscriminarea, solidaritatea și justiția. Să nu uităm că potrivit Cartei, ființa umană beneficiază de un statut moral unic și inalienabil.

În logica reconfigurării invocate mai sus, responsabilitatea unei IA echitabile nu revine doar companiilor de IA care creează instrumentele, ci și companiilor care utilizează tehnologia, o cercetare a IBM arătând că 74% dintre companiile intervievate au declarat că încă nu dispun de toate capacitățile necesare pentru a se asigura că datele utilizate pentru a antrena sistemele de IA nu sunt părtinitoare și nici de instrumentele care să le permită transparența totală cu privire la modul în care funcționează algoritmii. Organizațiile internaționale, guvernele, sectorul privat, societatea civilă, comunitățile tehnice, institutele de cercetare sau mediul academic, cu toții trebuie responsabilizați în respectarea instrumentelor și cadrelor privind drepturile omului în toate intervențiile și procesele care gravitează și înconjoară tot ciclul de viață al sistemelor IA. Toți actorii implicați în crearea sau gestionarea IA au un rol participativ și de stimulare pentru a asigura o societate pașnică, justă și interconectată în valori și principii etice, IA contribuind la rândul ei la bunăstarea umanității. Vorbim iată de responsabilitatea noastră, a tuturor, și de asumare a acestor inovații în toate sectoarele vieții.

Continuând să explorăm avantajele IA și „să construim” împreună încrederea în IA, ne putem raporta și la rezolvarea unor probleme de ordin global. IA deține potențialul de a juca un rol esențial în lupta împotriva schimbărilor climatice, putând ajuta companiile să ia decizii privind durabilitatea și reducerea emisiilor de carbon mult mai ușor. IA poate transforma afacerile, domeniul bancar și al împrumuturilor și poate ajuta medicii să pună un diagnostic într-un mod rapid, având capacitatea de a grupa datele pentru a calcula simptomele. De exemplu, Credit Mutuel din Franța a adoptat IA pentru a-i ajuta pe consilierii săi să ofere răspunsuri mai bune și mai rapide clienților, în timp ce NatWest din Regatul Unit își ajută clienții să ia decizii mai bine informate în ceea ce privește creditele ipotecare.

Ne întrebăm cum ar putea evolua IA în 2024, dacă anul 2022 a reprezentat un an impactat de așa numiții Chatbots. Astfel, la începutul anului 2022, OpenAI a lansat DALL-E 2, o tehnologie de învățare profundă care produce imagini din instrucțiuni testate, ulterior Google și Meta lansând IA care poate produce conținut video din instrucțiuni de text. Anul 2023 a fost marcat de lansarea ChatGPT-3, care are capacitatea de a produce texte elocvente și bine documentate la comanda unei scurte descrieri textuale. Viitorul ne rezervă cu siguranță un upgrade, respectiv un GPT-4, care, la fel ca predecesorul său, va putea traduce în alte limbi, va putea rezuma și genera texte și răspunde la întrebări mai precis și mai rapid, întrucât conform previziunilor, acesta va beneficia de un trilion de parametri.

De altfel, conducerea Google a emis un „cod roșu” la momentul lansării ChatGPT-3, motivată de îngrijorările privind impactul pe care l-ar avea asupra motorului de căutare al Google, concurența fiind iată un punct sensibil care va lua amploare în anii următori în domeniul IA^[49]. Interesant este că poți purta o conversație cu un astfel de chatGPT, care îți oferă într-o variantă foarte reală și matură inclusiv răspunsul la întrebarea: „Poate inteligența artificială să cucerească lumea?”^[50]. Potrivit ChatGPT „e puțin probabil ca un sistem de IA să «cucerească lumea» în sensul clasic al cuvântului. Chiar dacă sistemele avansate de inteligență artificială pot să îndeplinească sarcini considerate anterior exclusiv umane, cum ar fi luarea de decizii și rezolvarea de probleme, ele nu au capacitatea fizică de a prelua controlul asupra lumii. În plus, dezvoltarea și implementarea sistemelor de IA este reglementată și monitorizată serios, pentru a preveni posibilele daune. Totuși, un sistem de IA ar putea produce prejudicii semnificative dacă obiectivele sau scopurile sale nu sunt aliniate cu valorile umane sau dacă sistemul nu e controlat cum trebuie”. Pe cale de consecință, trebuie să fim conștienți de rolul nostru, al tuturor, să cântărim între potențialele riscuri și beneficii ale IA și s-o dezvoltăm doar în acord cu principiile etice și într-un cadru juridic sigur și transparent.

Să nu uităm că IA ne-a schimbat viața și ne-a adus foarte multe beneficii în toate ariile vieții, de la industria auto, sau funcția de facial recognition de pe telefonul nostru, sistemele de transport (și Uber folosește sistemul IA pentru navigație astfel încât să analizeze traficul și să optimizeze traseul), chiar și sistemul de spam din e-mail fiind tot o IA, (Gmail având, de exemplu, capacitatea de filtrare a spam-urilor de 99,9%), până la utilizarea IA în bursă, criptomonede sau sistemul medical (pornind de la identificarea mai rapidă a celulelor canceroase).

De altfel, Bill Gates anticipează că IA va fi integrată în curând în sistemele de sănătate din întreaga lume. Totodată, IA poate elimina sarcinile redundante din viața noastră profesională și prelua tot ce poate fi robotizat, poate chiar demara o acțiune de cercetare prin capacitatea de a analiza seturi enorme de date și de a le interconecta, generând un produs finit spre analiză ulterioară de către om. Practic, noi vom fi scutiți de toată munca de colectare a informațiilor și vom fi pregătiți doar de analiză și act creator, pornind dintr-un punct mult mai avansat, ceea ce va schimba enorm metoda științifică de cercetare și o va accelera. Sistemul educațional va fi forțat să se concentreze pe analizarea informațiilor și mai ales pe gândirea critică, lăsând în urmă imperativul asimilării informațiilor. IA va deveni coautor în articolele științifice; de ce nu? Avem deja Google și un acces la 99% din informația umanității, important este însă cum o filtrăm și cum o interpretăm.

Reglementările care vor schimba viziunea noastră sunt foarte aproape, iar în curând vom realiza că tehnologia nu are empatie, ea doar își urmează cursul firesc prin filtrul minții umane, impactând de aproape 30 de ani majoritatea aspectelor vieții noastre fără nici măcar să ne mai dăm seama (cardul bancar, sateliți, cip-uri, cod de bare etc). Poate că acesta momentul cel mai potrivit pentru o reglementare strictă a IA la nivel național (de exemplu, Statele Unite au doar coduri voluntare de sectoare), întrucât suntem martorii impactului profund pe care aceasta îl are, iar autoreglementarea din partea companiilor nu va fi suficientă pentru a proteja cetățenii și societățile, dar mai ales drepturile și libertățile care nu trebuie doar respectate, ci și protejate și consolidate. Ideea este că tehnologia nu respectă granițele și în curând va fi nevoie, cu siguranță, de un acord global privind IA bazat pe modele fundamentale puternice.

Așadar, să încercăm să ne detașăm de asocierea IA cu pierderea locurilor de muncă, cu distrugerea umanității sau lezarea drepturilor fundamentale și să ne bucurăm de „călătorie”, descoperind împreună viitorul cu IA!