Era digitală și justiția (I). Obiective, metode de proiectare a algoritmilor și consecințe ale folosirii IA în justiție
Andreea Ciurea - ianuarie 7, 20223. Obiectivele folosirii IA în justiție
În justiție sunt numeroși actori (judecători, procurori, avocați și consilieri juridici, grefieri, executor judecătorești, experți, justițiabili, Ministerul Justiției) care solicită – mai mult sau mai puțin intens – introducerea și dezvoltarea IA în mediul judiciar; însă aceștia speră la rezultate foarte variate și nu întotdeauna convergente. Prin urmare, ar fi util să decidem care așteptări merită să aibă prioritate, pentru a cunoaște ce instrumente trebuie dezvoltate pentru a servi în mod optim obiectivele.
Astfel, doi autori francezi (un jurist și un matematician) au identificat câteva axe principale ale așteptărilor legate de introducerea IA în justiție[19], corelate cu sarcinile care ar putea fi încredințate IA pentru munca juridică:
a) securitatea juridică și previziunea răspunsului judiciar, adică speranța unei mai bune uniformizări a hotărârilor judecătorești, ceea ce ar determina o mai bună securitate juridică.
Hotărârile judecătorești sunt supuse unor variații, care provin din necesitatea ca judecătorul să se adapteze la fiecare situație, dar și din motive mai puțin conștiente sau intenționate, legate de persoana judecătorului (temperamentul, educația sa, credințele sale). Astfel, se naște așa-numitul risc judiciar al pronunțării unor hotărâri diferite, în situații asemănătoare sau aproape identice. Pentru diminuarea acestuia, există mai multe garanții: completuri colegiale în faza controlului judiciar, instrumentele procesuale de asigurare a unei jurisprudențe unitare etc.
În această privință, însă, IA ar putea face posibilă rafinarea funcției unificatoare, mulțumindu-i pe cei care consideră că este esențial să ai o justiție care să garanteze identitatea soluției, într-un design de fiabilitate bazat pe egalitate și certitudine: orice situație A va da naștere la răspunsul B[20].
De asemenea, des exprimată este dorința de face hotărârile judecătorești mai previzibile, dorința de a putea prezice, în funcție de diferitele circumstanțe, ce răspuns ar trebui dat unei situații particulare: „încercarea de a prezice, cu cea mai puțină incertitudine posibilă, care va fi răspunsul jurisdicției X atunci când se confruntă cu cazul Y”[21]. Previzibilitatea ar permite justițiabilului să facă alegeri mai informate, să măsoare mai bine conținutul angajamentelor și concesiunilor sale într-o negociere, de exemplu.
Mai ales în litigiile patrimoniale, poate fi folosită IA pentru a prezice cuantumul unor despăgubiri, fondat pe o bază de date a hotărârilor pronunțate de instanțe în litigii cu același obiect. Se pune întrebarea: Magistratul poate păstra controlul asupra acestei operațiuni definind el însuși criteriile pe care le consideră relevante pentru a extrage situații similare? Sau „formula de predicție” ar fi opacă pentru utilizator, presupunându-se că a respectat toate hotărârile judecătorești folosite pentru a o determina?
b) suport în procesul de deliberare
Judecătorul nu caută același răspuns pentru toți, ci dimpotrivă un răspuns care să țină cont de particularitățile speței. De altfel, judecătorilor le este interzis să stabilească dispoziții general obligatorii prin hotărârile pe care le pronunță, acestea producând efecte doar pentru părți și succesorii lor (art. 5, art. 435 NCPC). Dificultatea muncii judecătorului constă în a stabili corect starea de fapt, în a determina cadrul legal aplicabil și a stabili consecințele specifice pentru fiecare speță dedusă judecății.
În acest context, IA poate tinde să ajute la pronunțarea unei soluții adaptate fiecărui caz, considerat unic, fără a lua decizia în locul utilizatorului. IA furnizează judecătorului baze de date cuprinzătoare pentru o cercetare diversă și eficientă, pe măsura complexității misiunii pe care o are acesta.
Folosind baze de date jurisprudențiale și instrumente informatice interactive, judecătorul poate să extragă un set de cazuri similare cu cel care îl interesează. Această extracție poate fi lăsată în întregime la inițiativa utilizatorului, pentru a determina criteriile care caracterizează cel mai bine cazul său (texte aplicate, circumstanțe, cuvinte cheie etc.); sau operațiunea ar putea fi încredințată unui algoritm derivat din IA al cărui obiectiv ar fi să definească o tipologie a cazurilor înregistrate în baza de date, furnizând „automat” judecătorului un set de spețe apropiate de cea care îl preocupă, fără a fi necesar să specifice judecătorul criteriile de asemănare.
Se pune, evident, aceeași întrebare: Magistratul poate păstra controlul asupra acestei operațiuni definind el însuși criteriile relevante pentru a extrage situațiile similare? Dacă algoritmul este astfel proiectat încât să lase utilizatorul liber să evalueze rezultatele pe care le consideră cele mai relevante, se creează condițiile pentru un dialog om-mașină, ceea ce conduce la o creștere a încrederii în tehnologiile algoritmice și în răspunsurile pe care le oferă.
c) îmbunătățirea procesării cantitative a dosarelor
Încrederea în justiție se bazează pe respectarea procedurilor, care sunt adesea greoaie și cronofage, dar acceptăm deja că o anumită lentoare este inerentă justiției.
Însă, durata mare procedurilor este greu suportabilă pentru cei a căror viață este suspendată în așteptarea unei hotărâri judecătorești (pentru un divorț sau un conflict de vecinătate). Altfel, durata proceselor rămâne o preocupare majoră, în multe state democratice. În acest în cadru, utilizarea IA accelerează activitatea judiciară; aceasta implică fluidizarea procedurilor în amonte și soluționări accelerate în cazurile considerate „de masă” (neplata creditelor de nevoi personale sau încălcarea codului rutier). Este un scop urmărit mai ales de către persoanele responsabile de conducerea instanțelor.
d) analiza a posteriori a hotărârilor judecătorești
Aceasta este o operațiune importantă pentru a asigura coerența jurisprudenței și pentru îmbunătățirea concepțiilor judiciare, prin eliminarea prejudecăților pe care le conțin uneori. Analizele se pot baza pe experiența operatorului uman sau pot fi făcute „automat”, prin folosirea IA. Mai concret, omul poate păstra inițiativa pentru a face o anumită comparație mai degrabă decât alta, criteriile de analiză rămânând explicite, sau analiza poate fi încredințată unui algoritm având sarcina de a constitui o tipologie de decizii, instanțe, judecători.
Ca și în cazul predicției, există pericolul ca regula pentru clasificarea datelor să rămână opacă, nefiind proiectată de utilizatorul-jurist.
4. Alegerea metodelor de proiectare a algoritmilor folosiți în justiție
Știm că orice prelucrare automată necesită introducerea prealabilă de date disponibile într-o bază computerizată. Această organizare a datelor într-o formă exploatabilă nu este neutră, deoarece necesită o codificare a informațiilor, de exemplu prin intermediul cuvintelor cheie, astfel încât acestea să poată fi apoi compilate, analizate.
Este important să determinăm modul în care pot fi proiectați astfel de algoritmi, deoarece caracterul aparent automat al funcționării acestor sisteme se bazează, de fapt, pe o serie de decizii perfect umane, pe care este important să le stăpânim.
De exemplu, stabilirea unei liste de cazuri de divorț similare sau evaluarea unei indemnizații de concediere reprezintă sarcini care pot fi delegate, cel puțin parțial, algoritmilor. Prin urmare, IA va avea ca scop să ajungă la un rezultat comparabil cu cel pe care l-ar produce un om.
Există de obicei două modalități de abordare a unei astfel de probleme, pe care ni le ne explică L. Pécaut-Rivolier (jurist) și S. Robin (matematician), în studiul lor[22]:
– metoda mecanicistă: constă în codificarea (sau modelarea) procesului intelectual al omului care ar fi trebui să îndeplinească sarcina.
– metoda empirică: propune să producă rezultate asemănătoare cu cele oferite de un om fără a căuta să-i reconstituie abordarea.
În ultimii ani, algoritmii IA folosesc mai ales metoda empirică: nu se modelează raționamentul (legal) al unui om, ci se imită deciziile sale. Cu alte cuvinte, acești algoritmi se bazează pe procesul de învățare prin care mașina își determină propriile reguli de decizie bazate pe multe exemple, care țin loc de experiență și pe care ea va încerca să le imite cât mai bine.
Această pre-judecată este pragmatică deoarece pune accent pe rezultat. Dacă este vorba de a produce rezultate apropiate de ceea ce ar produce un om, mai degrabă decât de a încerca reconstruirea raționamentului uman, se poate încerca determinarea unei formule matematice care să reducă la minimum diferențele dintre rezultatele produse inițial de oameni (și stocate într-o bază de date) și cele furnizate de aparat. Problema învățării se transformă astfel într-o problemă de optimizare: dat fiind un criteriu care măsoară fidelitatea predicțiilor față de observații, algoritmul de învățare vizează direct optimizarea acestui criteriu.
Autorii mai sus menționați atrag atenția că IA tinde în mod natural să-și impună criteriile matematice (în acest caz, apropierea maximă de deciziile deja luate) în detrimentul altora, mai puțin matematizabile, cum ar fi nevoia de a justifica o decizie.
Apoi, cu privire la sarcinile care pot fi încredințate algoritmilor, autorii[23] observă o distincție între învățarea „nesupravegheată” și cea „supravegheată”, prima având un obiectiv descriptiv, iar cealaltă un scop predictiv:
– Învățarea nesupravegheată: desemnează problemele pentru care, în faza de învățare, algoritmul nu are informații exogene care să îi permită să evalueze calitatea rezultatelor pe care le produce. Algoritmul determină o tipologie de caz, pornind de la o mare bază de date, care reunește, de exemplu, litigiile privind creditele de consum similare cu un caz dat; tipologia expusă de algoritm este bazată exclusiv pe contemplarea datelor, fără nici o grilă specială de analiză. Rezultatul obținut se bazează pe o reprezentare „matematică” a datelor (texte) și pe un criteriu matematic măsurând asemănarea dintre două texte. Deși inițial părea greu de imaginat că putem matematiza comparația a două texte, acest lucru este posibil: reprezentăm un text ca un simplu „sac de cuvinte”, uitând de orice structură sintactică și măsurând asemănarea dintre doi „saci” prin compararea frecvenței de utilizare a diferitelor cuvinte. Apelăm apoi la un algoritm care are ca scop definirea unei categorii „optime” a textelor, adică determinarea unor grupuri de texte asemănătoare.
– Învățare supravegheată: problemele supravegheate sunt cele pentru care este disponibilă o validare a predicțiilor din timpul fazei de învățare. Acesta este cazul evaluării indemnizației de concediere pentru care am avea o bază de date cuprinzând atât descrierea cazurilor, cât și suma alocată la finalizarea procedurii judiciare. Este vorba de o funcție de predicție care va asocia o sumă cu un caz, care funcție ar trebui să imite, cât mai bine, deciziile înregistrate în baza de date. IA poate aduce în joc zeci de mii de coeficienți a căror combinație asigură predicția; astfel, învățarea supravegheată poate face o predicție nu doar ca valoare punctuală (o sumă), ci și sub forma unei distribuții de valori (interval) sau chiar a unei distribuții de probabilități. Însă, în contrapartidă cu performanțele acestor metode, este caracterul opac al formulelor de predicție rezultate, pe care nu le putem înțelege intuitiv, în general.
5. Consecințele folosirii IA în diverse domenii socio-umane
Cum este cazul oricărei tehnici, realizările în domeniul IA pot avea consecințe pozitive sau negative în funcție de obiectivele atribuite acestora. Astfel, există domenii de activitate în care IA a avut cert un impact pozitiv: îmbunătățirea accesului la cunoștințe, ajustarea reciprocă a mișcărilor în spațiu, precizie în diagnosticare.
IA permite clasificarea dinamică datelor și accesul la aceste date indiferent de loc, timp și limbă. Astfel, asistența la traducere a înregistrat mari progrese, dar rămâne imperfectă, reprezentând un ajutor și nu o înlocuire a competenței umane, deoarece construcția site-urilor bilingve în cauză este rezultatul competenței și al muncii umane. Munca umană este esențială pentru a stabili corespondența corectă între fraze dintr-o limbă în alta, iar utilizatorul uman judecă relevanța în contextul de traducere care îi este propriu. În mod similar, s-a dezvoltat și asistența în domeniul juridic: constituirea unor baze de date vaste care enumeră nu numai legile, ci și hotărârile judecătorești grupate după diferite criterii, asistență la redactarea contractelor multilingve deja formatate parțial, proiecția rezultatelor posibile ale unei dispute în termeni financiari etc.
În Drept, putem observa un dublu efect benefic al folosirii IA: stimulativ și de constrângere. Efectul stimulativ se manifestă fie prin îndeplinirea voluntară a unei obligații contractuale, fie prin decizia de a încheia o tranzacție, ca urmare a acceptării estimării pe care o face un algoritm pentru cheltuielile de judecată, de exemplu. Debitorul își îndeplinește în mod deliberat obligațiile datorită efectului descurajant al amenințării de a suporta sancțiunea prezisă. De asemenea, contractul inteligent („smart contract”) dă speranța unei eficiențe mai mari și tranzacția părților într-un litigiu este, la rândul ei, stimulată de sentimentul de obiectivitate și imparțialitate atașat metodelor statistice sau probabiliste folosite de IA.
Efectul de constrângere al IA este exprimat printr-o execuție forțată ex ante sau ex post. Executarea forțată ex ante constă în aplicarea regulii de drept, când – de exemplu – viteza vehiculului se ajustează automat la limitele prescrise de panourile indicatoare. Executarea forțată ex post are loc prin implementarea automată a sancțiunii (blocarea temporară a unui cont de client, perceperea unei penalități asupra fondurilor depuse ca garanție etc.) după o acțiune sau o abținere contrară legii, ceea ce l-ar obliga pe debitorul recalcitrant să se conformeze.
Apoi, IA oferă un suport imens în domeniul mișcării în spațiu. Pentru traficul auto, utilizarea telefoanelor mobile a permis ajustarea mișcărilor în timp real, în special prin GPS. Însă interesul pentru utilizarea GPS-ului depășește o simplă ajustare, deoarece permite și automatizarea mișcării în spațiu (în cazul vehiculelor autonome) sau efectuarea unor cercetări, cu ajutorul dronelor, de exemplu (de la monitorizarea recoltelor până la descoperirea siturilor arheologice).
Apoi, ajutorul în diagnostic, în special în medicină: recunoașterea automată a modelului face posibilă revizuirea unor mase mari de imagini fără intervenția prealabilă a unui om digitale (raze X, RMN, scanări etc.).
Însă, tot ce a fost descris ca având „consecințe pozitive” poate fi catalogat și la „consecințe negative”. Aceleași instrumente permit supravegherea pe scară largă a indivizilor, organizarea câmpurilor de luptă sau influențarea formării opiniilor, cauzând – în timp – pierderea relației de implicare corporală și pierderea construcției sensului uman, care poate fi realizată de om doar în relația sa cu o comunitate vorbitoare.
Astfel, sunt identificate deja numeroase probleme generate de utilizarea IA: problema protecției datelor personale; manipularea opiniilor prin profiluri psihologice la scară largă (afacerea Cambridge Analytica sau abuzurile pe Facebook); tendința de a vedea individul doar ca un exemplu statistic de tip general; pierderea controlului piețelor financiare ale căror comenzi de cumpărare și vânzare sunt executate de mașini într-un interval de timp mult prea rapid pentru a fi urmărit sau contestat de oameni.
În Drept, specialiștii în IT și juriștii au identificat anumite riscuri, obstacole și limite inerente folosirii IA în justiție[24], generate de alegerea bazei de învățare, de evoluția algoritmilor, de particularitățile și complexitatea activității judiciare. Printre altele, s-a constatat că lipsa transparenței codurilor algoritmice subminează garanțiile procedurale care protejează prezumția de nevinovăție și dreptul la un proces echitabil. De asemenea, se pun probleme precum: măsura și modul de implicare a Statului (prin politicile sale publice), răspunderea în cazul unor daune provocate de o digitalizare prost gândită (căci acceptarea socială a utilizării algoritmilor este strâns legată de atribuirea responsabilității în caz de daune), etica IA, exercitarea ilegală a profesiilor juridice de către algoritmi etc.
Vom detalia analiza asupra acestor probleme pe parcursul unor articole viitoare.
6. Prime concluzii
Suntem în permanență balansați între bine și rău atunci când enumerăm obiectivele și efectele Inteligenței Artificiale, în domeniile socio-umane. În acest context, domeniul juridic este zguduit de apariția noilor tehnologii, iar juriștii sunt îngrijorați de viitorul profesiilor lor. Cei mai sceptici susțin că asistăm la confuzia progresivă a legii persoanelor și a legii bunurilor, ceea ce este fatal pentru umanitate, anunțând dispariția progresivă a statului de drept și instaurarea „post-umanismului”[25] sau a „transumanismului”.
Și în România, autorii trag semnale de alarmă asupra consecințelor – unele imprevizibile și ireversibile – ale interacțiunii tot mai complexe dintre om și mașină, asupra tensiunii existente între doi hegemoni: avem, pe de o parte, sistemele robotice care pun în discuție valori fundamentale și standarde tradiționale în materia drepturilor omului, creând pericolul unor forme superioare de inegalitate, iar pe cealaltă parte, „valorile demnității, egalității și solidarității umane, urmărind adaptarea lor la cerințele noilor tehnologii”[26]. Este cel puțin tulburător acest tablou al omului „augmentat” sau ameliorat prin biotehnologie, „eliberat” de vulnerabilități și de umilitatea creștină, dar și lipsit de „iubire, empatie, râs și plâns”[27]…
Cert este că dezvoltarea algoritmilor și a inteligenței artificiale ne invită să luăm în considerare modul nostru de a gândi despre Drept, Dreptate și despre Scopul studiului științelor juridice.
Însă, cercetătorul J. Lassègue ne îndeamnă să punem în valoare atuul pe care îl avem: spre deosebire de multe alte profesii, juriștii sunt obișnuiți cu raționamentul formal și, fără îndoială, vor ști, mai bine decât mulți alții, cum să adopte noile tehnologii pentru a continua să producă sentimentul comun al dreptății[28].
[19] L. Pécaut-Rivolier, S. Robin, Justice et intelligence artificielle, préparer demain – ep. I, publicat pe Dalloz Actualité, la 14.04.2020.
[20] L. Pécaut-Rivolier, S. Robin, idem, Dalloz Actualité, la 14.04.2020.
[21] B. Dondero, La justice prédictive, pe blogul profesorului Bruno Dondero: www.brunodondero.com.
[22] L. Pécaut-Rivolier, S. Robin, idem, Dalloz Actualité, 14.04.2020.
[23] L. Pécaut-Rivolier, S. Robin, idem, Dalloz Actualité, 14.04.2020.
[24] L. Pécaut-Rivolier, S. Robin, Justice et intelligence artificielle, préparer demain – ep. II, publicat pe Dalloz Actualité, la 15.04.2020.
[25] J. X. Labbée, La fin du monde, la fin du droit ou la transition juridique?, Recueil Dalloz 2019, p. 78.
[26] N. Voiculescu, M.B. Berna, Eu, Robotul! Actualitatea unei dihotomii: drepturile omului vs. drepturile roboților, pe www.universuljuridic.ro (18.09.2020).
[27] A. Ciucă, Robinsonada omului augmentat, pe www.universuljuridic.ro (02.03.2021).
[28] J. Lassègue, idem, Les cahiers de la justice 2019, p. 205.
Arhive
- martie 2024
- februarie 2024
- ianuarie 2024
- decembrie 2023
- noiembrie 2023
- octombrie 2023
- septembrie 2023
- august 2023
- iulie 2023
- iunie 2023
- mai 2023
- aprilie 2023
- martie 2023
- februarie 2023
- ianuarie 2023
- decembrie 2022
- noiembrie 2022
- octombrie 2022
- septembrie 2022
- august 2022
- iulie 2022
- iunie 2022
- mai 2022
- aprilie 2022
- martie 2022
- februarie 2022
- ianuarie 2022
- decembrie 2021
- noiembrie 2021
- octombrie 2021
- septembrie 2021
- august 2021
- iulie 2021
- iunie 2021
- mai 2021
- aprilie 2021
- martie 2021
- februarie 2021
- ianuarie 2021
- decembrie 2020
- noiembrie 2020
- octombrie 2020
- septembrie 2020
- august 2020
- iulie 2020
- iunie 2020
- mai 2020
- aprilie 2020
- martie 2020
- februarie 2020
- ianuarie 2020
- decembrie 2019
- noiembrie 2019
- octombrie 2019
- septembrie 2019
- august 2019
- iulie 2019
- iunie 2019
- mai 2019
- aprilie 2019
- martie 2019
- februarie 2019
- ianuarie 2019
- decembrie 2018
- noiembrie 2018
- octombrie 2018
- septembrie 2018
- august 2018
- iulie 2018
- iunie 2018
- mai 2018
- aprilie 2018
- martie 2018
- februarie 2018
- ianuarie 2018
- decembrie 2017
- noiembrie 2017
- octombrie 2017
- septembrie 2017
- august 2017
- iulie 2017
- iunie 2017
- mai 2017
- aprilie 2017
- martie 2017
- februarie 2017
- ianuarie 2017
- decembrie 2016
- noiembrie 2016
- octombrie 2016
- septembrie 2016
- august 2016
- iulie 2016
- iunie 2016
- mai 2016
- aprilie 2016
- martie 2016
- februarie 2016
- ianuarie 2016
- decembrie 2015
- noiembrie 2015
- octombrie 2015
- septembrie 2015
- august 2015
- iulie 2015
- iunie 2015
- mai 2015
- aprilie 2015
- martie 2015
- februarie 2015
- ianuarie 2015
Calendar
L | Ma | Mi | J | V | S | D |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | 7 |
8 | 9 | 10 | 11 | 12 | 13 | 14 |
15 | 16 | 17 | 18 | 19 | 20 | 21 |
22 | 23 | 24 | 25 | 26 | 27 | 28 |
29 | 30 |
Lasă un răspuns
Trebuie să fii autentificat pentru a publica un comentariu.