Provocări legislative referitoare la responsabilitatea juridică în era inteligenței artificiale

Introducere

Evoluția galopantă a inteligenței artificiale (IA)[1] generează provocări semnificative privitoare la cadrul legislativ privind răspunderea juridică. Acest domeniu complex ridică dileme etice și legale în diverse domenii, inclusiv în sfera justiției, a protecției datelor și a proprietății intelectuale. În acest context, devine esențial să analizăm modalitățile prin care inteligența artificială poate fi integrată în sistemele legale contemporane.

Cadrul legislativ actual este adesea considerat inadecvat pentru a aborda în mod specific provocările ridicate de IA. De exemplu, utilizarea algoritmilor și a aplicațiilor bazate pe IA în procesele judiciare necesită reguli clare pentru a asigura corectitudinea și transparența acestora. De exemplu, în sistemul de justiției penale se utilizează la momentul actual sisteme de IA (inițiativa Smart Courts[2], auto-profilarea, programe de recunoaștere facială etc.), dar riscul de apariție a bias-ului și ineficiența aplicării acestora pentru a răspunde tuturor situațiilor practice posibile[3], evidențiază necesitatea unei revizuiri legislative care să răspundă provocărilor emergente.

Totodată, intersecția dintre protecția datelor și IA ridică o serie de noi preocupări în domeniul legislativ. Reglementările actuale privind protecția datelor nu acoperă în totalitate particularitățile proceselor derulate de sistemele de IA, ceea ce poate duce la încălcări grave ale drepturilor individuale[4]. Este crucial ca legislația să fie adaptată astfel încât să mențină un echilibru între inovație și protecția drepturilor fundamentale.

Un alt domeniu juridic, afectat de dezvoltarea rapidă a tehnologiilor de IA, este cel al proprietății intelectuale. Reglementările actuale sunt depășite și nu oferă soluții adecvate pentru protejarea drepturilor asupra creațiilor generate de IA[5]. De exemplu, în cazul programului ChatGPT, există dificultățile de clasificare a creațiilor acestuia, în raport cu legislația actuală privind drepturile de autor[6].

Astfel, ne întrebăm dacă la momentul actual există un cadru juridic aplicabil și funcțional care să reglementeze integrarea inteligenței artificiale în toate domeniile? Ce fel de răspundere juridică poate fi atrasă în cazul unor prejudicii cauzate de utilizarea sistemelor de IA? Care sunt viitoarele provocări din domeniu și cum putem răspunde la acestea? Acestea sunt unele dintre întrebările la care îmi propun să răspund în continuare.

Cadrul legislativ aplicabil

La momentul actual putem afirma cu certitudine că statele lumii nu acordă o prioritate creării unui cadru juridic legal de protecție a cetățenilor în fața dezvoltării accelerate a tehnologiilor de IA. Cu toate acestea, legiuitorul european este singurul care prezintă o astfel de preocupare, în UE existând un cadrul normativ ce are ca obiectiv principal asigurarea protecției persoanelor afectate de erorile ce pot fi generate de utilizarea acestei tehnologii.

Raportându-ne strict la responsabilitatea juridică în cazul erorilor sistemelor de IA, actualmente cadrul legal european este reglementat printr-o combinație de norme existente și noi inițiative legislative, dintre care cele mai relevante sunt:

1. Regulamentul General privind Protecția Datelor (GDPR), ce pune accent pe protecția drepturilor fundamentale ale indivizilor în ceea ce privește prelucrarea datelor personale, stabilind principii clare pe care operatorii de date trebuie să le respecte. Corelat cu protecția datelor din perspectiva dezvoltării IA, regulamentul folosește conceptul de răspundere prealabilă a operatorilor de date și pentru situațiile ce vizează utilizarea IA atunci când vorbim de date utilizate sau prelucrate de către aceasta[7].

Toate aceste provocări izvorăsc și din necesitatea de a asigura confidențialitatea datelor cu caracter personal în procesul de prelucrare de către programele de IA, fiind deosebit de dificil de realizat în cazul algoritmilor de IA. În plus, prelucrarea datelor sensibile, cum ar fi cele referitoare la sănătate sau la condiția socială a indivizilor, necesită un control riguros și evaluări de impact detaliate.

Revenind la responsabilitățile operatorilor de date ce vizează protejarea drepturilor persoanelor vizate, regulamentul acordă indivizilor drepturi extinse, precum dreptul de a fi uitat și dreptul de acces la propriile date personale, ceea ce impune operatorilor obligația de a implementa soluții tehnice și organizaționale adecvate pentru a facilita exercitarea acestor drepturi. În contextul utilizării inteligenței artificiale, conformarea cu aceste cerințe poate necesita modificări substanțiale, inclusiv creșterea transparenței prin asigurarea explicabilității algoritmilor. Astfel, transparența nu mai este doar o obligație juridică, ci devine o necesitate etică fundamentală, esențială pentru a răspunde exigențelor tot mai mari privind protecția datelor în era digitală.

Impactul GDPR asupra responsabilității operatorilor de date în contextul inteligenței artificiale este unul complex și multidimensional. Deși reglementările impun provocări semnificative, ele oferă, totodată, oportunități pentru inovare și dezvoltarea responsabilă a tehnologiilor emergente. Adaptarea la cerințele normative nu reprezintă doar o obligație legală, ci și o șansă de a construi un viitor al tehnologiilor mai etic și mai responsabil. Prin urmare, operatorii de date nu ar trebui să vadă GDPR ca pe un obstacol, ci mai degrabă ca pe un catalizator pentru progres și inovație într-un peisaj digital aflat într-o continuă schimbare.

2. Directiva privind răspunderea pentru produsele defectuoase (85/374/CEE). Inițial concepută pentru a soluționa problemele de răspundere juridică legate de produsele defectuoase, această directivă întâmpină provocări complexe atunci când este aplicată în contextul dinamic al software-ului.

Directiva stabilește un cadru legal prin care producătorii sunt responsabili pentru daunele cauzate de produsele defectuoase. Această directivă a fost supusă unei analize detaliate în ceea ce privește adecvarea sa la particularitățile tehnologiilor ce utilizează IA. Pe măsură ce sistemele de IA devin tot mai autonome, conceptul de „defect” devine mai nuanțat, comportamentele imprevizibile ale IA punând sub semnul întrebării evaluările tradiționale privind responsabilitatea[8]. În acest context, criteriile directivei pentru stabilirea defectelor (așteptările privind siguranța, erorile de proiectare, defectele de fabricație și instrucțiunile insuficiente) trebuie adaptate pentru a lua în considerare imprevizibilitatea inerentă a IA[9].

Aplicarea acestor norme de responsabilitate întâmpină din ce în ce mai multe dificultăți. Natura descentralizată a tehnologiei IA, determinată de fluxurile de date transfrontaliere și colaborarea internațională, duc la nașterea de problemele jurisdicționale complexe. Stabilirea normelor juridice aplicabile pentru daunele cauzate de software-ul de IA depinde adesea de criteriile de localizare a datelor sau a designului, complicând și mai mult aplicarea prevederilor directivei[10]. Într-un peisaj juridic care încearcă să se alinieze la dinamica pieței digitale, UE se confruntă nu doar cu dificultatea armonizării standardelor de responsabilitate, ci și cu asigurarea protecției adecvate a consumatorilor[11].

3. Regulamentul (UE) 2024/1689 al Parlamentului European și al Consiliului din 13 iunie 2024 de stabilire a unor norme armonizate privind inteligența artificială.

Adoptarea Regulamentului (UE) 2024/1689, cunoscut și sub denumirea de Legea privind Inteligența Artificială a Uniunii Europene, marchează un punct de cotitură semnificativ în peisajul juridic privind dezvoltarea inteligenței artificiale în spațiul european. Acest regulament își propune să stabilească un cadru coerent pentru gestionarea complexității tehnologiei IA, garantând în același timp protecția drepturilor și promovarea inovației.

Responsabilitățile juridice impuse de regulament sunt extinse și multidimensionale. Se pune accent pe o abordare bazată pe riscuri, clasificând sistemele de IA în funcție de riscurile potențiale pe care le prezintă pentru drepturile fundamentale și securitate. Această clasificare impune controale și obligații mai stricte pentru sistemele de IA cu risc ridicat și, în consecință, modelează cadrul juridic în care operează IA[12].

Capitolul 10 al Regulamentului (UE) 2024/1689 stabilește cadrul juridic complex destinat reglementării sancțiunilor, abordând aspectele legale, impactul acestora asupra entităților vizate și implicațiile asupra unui sistem economic responsabil. Regulamentul prevede un sistem flexibil, adaptabil circumstanțelor fiecărui caz în conformitate cu prevederile articolelor 99-101. Noul regulament promovează o abordare mai consolidată, în care responsabilitatea nu mai este limitată doar la erorile operaționale, ci se extinde și la riscurile inerente ale tehnologiilor de IA. Aceasta impune companiilor o mai mare responsabilitate în ceea ce privește evaluarea riscurilor și implementarea măsurilor necesare pentru a asigura utilizarea în siguranță a IA[13].

Pentru consumatori, în conformitate cu articolul 99 din Regulamentul UE 2024/1689, se oferă un nivel mai ridicat de protecție împotriva posibilelor prejudicii cauzate de utilizarea IA. Consumatorii vor putea solicita despăgubiri pentru pierderile sau daunele cauzate direct de sistemele de IA, consolidând astfel drepturile acestora într-o eră în care tehnologia este din ce în ce mai prezentă în viața cotidiană. Acest cadru de reglementare poziționează consumatorii ca părți interesate active în relația lor cu tehnologia, asigurându-se că drepturile lor sunt protejate și că au acces la remedii legale adecvate. În acest context, companiile care integrează IA în produsele destinate consumatorilor vor fi supuse unei supravegheri mai stricte, conform articolului 72 din regulament[14].

Tipuri de responsabilitate juridică

Pornind de la subiectul tratat, se nasc două ipoteze. Prima vizează atragerea răspunderii juridice a dezvoltatorilor de IA, iar cea de-a doua, a utilizatorilor de IA. Dar poate cea mai importantă întrebare pe care ar trebui să o punem este dacă se poate atrage răspunderea juridică a IA?

Directiva 85/374/EEC privind răspunderea pentru prejudiciul cauzat de inteligența artificială este singurul act normativ care indirect poate fi interpretat ca cuprinzând prevederi referitoare la răspunderea în cazul prejudiciilor cauzate de utilizarea tehnologiilor de IA.

Directiva stabilește două reglementări esențiale materiei răspunderii juridice: 1. Prezumția de cauzalitate, care va elibera victimele de obligația de a detalia modul în care au fost prejudiciate de sistemele de IA și 2. Dreptul de acces la dovezile deținute de companii sau furnizori, în cazul unui sistem de IA cu risc ridicat. Iar pentru atragerea răspunderii trebuie îndeplinite trei condiții fundamentale: 1. Apariția unei defecțiuni sau a unei disfuncționalități a robotului ori a sistemului de inteligență artificială; 2. Producerea unui prejudiciu ca urmare a acestei defecțiuni; 3. Existența unei legături de cauzalitate directă între defecțiunea robotului și prejudiciul suferit.

În funcție de natura prejudiciului cauzat de erorile sistemului de IA, se pot distinge mai multe tipuri de răspundere juridică:

Răspunderea civilă

Conceptul de răspundere legală în acest domeniu presupune o evaluare detaliată a responsabilității civile, în special în ceea ce privește distribuirea obligațiilor între diferiții actori implicați. Răspunderea civilă vizează obligația de reparare a prejudiciilor cauzate altora, iar în cazul inteligenței artificiale, provocările sunt amplificate de natura autonomă și imprevizibilă a acestor tehnologii. Se ridică astfel întrebarea esențială: cine poate fi considerat responsabil pentru un prejudiciu cauzat de un sistem de IA?

Această răspundere poate fi atribuită diverselor entități implicate în dezvoltarea și utilizarea IA, inclusiv producătorilor de software, utilizatorilor finali și altor părți care contribuie la comportamentul și deciziile luate de sistem. Totuși, actualul cadru legislativ, nu oferă o soluție clară și cuprinzătoare pentru aceste probleme de răspundere[15]. În mod tradițional, reglementările juridice au fost concepute pentru produse fizice, iar aplicarea principiilor existente în domeniul IA se dovedește a fi problematică.