Scurte considerente în legătură cu influența noilor reglementări legislative privind inteligența artificială în administrația publică

Secțiunea a III-a – Despre apariția unor principii digitale în lumea inteligenței artificiale

Legiuitorul european propune șapte principii de etică: implicarea și supravegherea umană; robustețea tehnică și siguranța; respectarea vieții private și guvernanța datelor; transparența; diversitatea, nediscriminarea și echitatea; bunăstarea socială și de mediu și asumarea răspunderii^[7].

Potrivit interpretării legale, implicarea și supravegherea umană înseamnă că sistemele de inteligență artificială sunt dezvoltate și utilizate ca un instrument ce servește oamenilor, respectă demnitatea umană și autonomia personală și funcționează într-un mod care poate fi controlat și supravegheat în mod corespunzător de către oameni. Robustețea tehnică și siguranța înseamnă că sistemele de inteligență artificială sunt dezvoltate și utilizate într-un mod care asigură rezistența în caz de probleme și reziliența la încercările de a modifica utilizarea sau performanța sistemului în vederea permiterii utilizării ilegale de către terți și care reduce la minimum prejudiciile neintenționate. Respectarea vieții private și guvernanța datelor înseamnă că sistemele de inteligență artificială sunt dezvoltate și utilizate în conformitate cu legislația privind protecția vieții private și a datelor și că, în același timp, se prelucrează date care respectă standarde ridicate de calitate și de integritate. Transparența înseamnă că sistemele de inteligență artificială sunt dezvoltate și utilizate într-un mod care permite trasabilitatea și explicabilitatea adecvate, aducând totodată la cunoștința utilizatorilor faptul că interacționează sau comunică cu un asemenea sistem și informează în mod corespunzător cu privire la capabilitățile și limitele respectivului sistem cu privire la drepturile lor. Diversitatea, nediscriminarea și echitatea înseamnă că sistemele de inteligență artificială sunt dezvoltate și utilizate într-un mod care presupune implicarea a diverși factori promovând accesul egal, egalitatea de gen și diversitatea culturală, evitând efectele discriminatorii și prejudecățile inechitabile interzise prin dreptul Uniunii Europene sau dreptul național al statului membru. Bunăstarea socială și de mediu înseamnă că sistemele de inteligență artificială sunt dezvoltate, utilizate într-un mod durabil, care respectă mediul și care aduce beneficii tuturor ființelor umane, monitorizându-se și evaluându-se totodată efectele pe termen lung asupra persoanelor, a societății și a democrației.

Administrația publică se va confrunta cu noi provocări, întrucât utilizarea pe scară largă a unor sisteme de inteligență artificială conferă noi mijloace de manipulare socială, exploatare și mai ales control social. Asemenea practici interzise trebuie monitorizate cu atenție, tot așa cum societatea civilă trebuie să fie activă în modul de implementare administrativă a unor asemenea sisteme de inteligență artificială. Sistemele de inteligență artificială care se bazează pe datele biometrice ale persoanelor fizice pot atribui punctaje sociale, pot face presupuneri sau deducții cu privire la opiniile politice, convingerile religioase sau filosofice, rasa, viața sexuală sau orientarea sexuală, apartenența la anumite organisme civice și prin urmare sunt interzise.

Sistemele de inteligență artificială pot să conducă indivizii la manifestarea unor comportamente nedorite sau antisociale, împingându-i să ia decizii într-un mod care le subminează și le afectează autonomia, gândirea critică, capacitatea decizională și libera alegere. Asemenea sisteme de inteligență artificială produc efecte negative importante asupra sănătății fizice , psihologice, a intereselor financiare publice, sunt deosebit de periculoase și, prin urmare, sunt interzise. Sisteme de inteligență artificială ce implementează componente subliminale, cum ar fi stimuli audio, sub formă de imagini sau video, pe care indivizii nu le pot percepe deoarece stimulii respectivi depășesc percepția umană, sau alte tehnici manipulatoare sau înșelătoare sunt de asemenea în afara legii.

Legiuitorul european a consacrat o reglementare amplă în cazul identificărilor administrative în timp real de către sistemele de inteligență artificială bazate pe date biometrice întrucât sunt considerate ca fiind deosebit de intruzive în viața personală inspiră permanent un sentiment de supraveghere constantă și descurajează exercitarea libertății de întrunire, a altor drepturi fundamentale garantate. Le revine statelor membre obligația de a reglementa la nivel național organisme de control în vederea utilizării raționale, proporționale, în vederea reducerii la minimum a utilizării sistemelor de inteligență artificială bazate pe identificarea biometrică în timp real, strict pentru ceea ce este necesar.

Se instituie obligativitatea obținerii unei autorizații înainte de începerea utilizării sistemului de inteligență artificială bazat pe identificarea biometrică în timp real. Utilizarea unor asemenea sisteme presupune obiectul unor garanții și condiții adecvate pentru a se evita încălcarea sistematică a drepturilor și libertăților fundamentale. În orice caz, nicio decizie care produce un efect juridic negativ asupra unei persoane nu trebuie luată exclusiv pe baza unui produs al sistemului de identificare biometrică la distanță.

Reglementarea sistemelor de inteligență la nivel european întărește principiul prezumpției de nevinovăție prin aceea că statuează la nivel de principiu pentru toate statele membre aceea că nicio persoană nu poate fi judecată decât pentru comportamentul său real. Persoanele fizice nu pot fi niciodată judecate în funcție de comportamentul preconizat de sistemele de inteligență artificială, exclusiv pe baza creării profilurilor lor, a trăsăturilor lor de personalitate sau a unor caracteristici precum cetățenia, locul nașterii, locul de reședință, numărul de copii, nivelul datoriilor sau tipul de autoturism, dacă nu există o suspiciune rezonabilă, bazată pe fapte obiective verificabile, că persoana respectivă este implicată într-o activitate infracțională și dacă nu se face o evaluare în acest sens de către un om^[8]. Regulamentul privind inteligența artificială interzice evaluările riscurilor efectuate în legătură cu persoane fizice pentru a evalua probabilitatea ca acestea să comită infracțiuni sau pentru a anticipa producerea unei infracțiuni reale sau potențiale exclusiv pe baza creării profilurilor acestor persoane sau a evaluării trăsăturilor lor de personalitate și a caracteristicilor lor.

Sunt de asemenea interzise sistemele de inteligență artificială utilizate pentru a detecta starea emoțională a persoanelor în situații legate de locul de muncă și de educație.

În vederea diminuării riscurilor prin reglementarea legislativă a sistemelor de inteligență artificială, s-a instituit un un proces iterativ continuu care este derulat pe parcursul întregului ciclu de viață al unui asemenea sistem. Acest proces are drept scop identificarea și atenuarea riscurilor relevante reprezentate de sistemele de inteligență artificială pentru sănătate, siguranță și drepturile fundamentale. Sistemul de gestionare a riscurilor este evaluat și actualizat periodic pentru a se stabili eficacitatea sa continuă, precum și justificarea și documentarea oricăror decizii și acțiuni semnificative.

Datorită importanței domeniului inteligenței artificiale, Regulamentul european instituie la nivel unional un Consiliu pentru inteligența artificială în vederea aplicării armonioase, efective și armonizate a noilor reglementări legislative. În mod firesc noua reglementare legislativă permite persoanelor fizice și juridice ale căror drepturi și libertăți sunt afectate în mod negativ de utilizarea unor asemenea sisteme dreptul fundamental de a se adresa cu plângeri, dreptul de a obține explicații , alte căi de atac efective.

Secțiunea a IV-a – Concluzii

Promovarea pe scară largă a sistemelor de inteligență artificială nu este lipsită de riscuri ca reprezentând combinația dintre probabilitatea producerii unui prejudiciu și gravitatea acestuia^[9], însă în actualul stadiu de dezvoltare socio-economică în cadrul cooperării dintre industria globală big tech și state s-a constatat că aceste sisteme pot avea valoare adăugată contribuind la creșterea economică și prosperitatea indivizilor.

În esență, legiuitorul a definit sistemele de inteligență artificială ca reprezentând sisteme bazate pe o mașină care sunt concepute să funcționeze cu diferite niveluri de autonomie și care pot prezenta adaptabilitate după implementare, și care, urmărind obiective explicite sau implicite, deduc, din datele de intrare pe care le primesc, modul de generare a unor rezultate precum previziuni, conținut, recomandări sau decizii ce pot influența mediile fizice sau virtuale^[10] .

Rămâne de văzut în viitor modul de implementare în viața reală a noilor reglementări legislative europene, transformările aduse de utilizarea pe scară largă a tehnologiilor de inteligență artificială atât la nivelul societății, dar mai ales în cadrul administrației publice. Administrațiile publice indiferent de nivel, instituțiile, întreprinderile publice cu atribuții de interes general vor suferi transformări radicale în modul de relaționare cu societatea în general, tot așa cum trebuie să ne pregătim cu toții pentru alfabetizarea cu asemenea interfețe, interacțiunea om-mașină nemaifiind de domeniul științifico-fantastic, ci realitatea zilnică în care ne vom derula activitățile.

Este puțin probabil că societatea umană să rămână indiferentă la asemenea schimbări, dependența de tehnologii informatice inovatoare se va accentua ajungând la nivele critice, tot așa cum este de datoria fiecăruia dintre noi, devine obligația administrației publice de a asigura un mediu informatic sigur, prietenos, facil în raporturile cu indivizii întrucât vor exista pe termen lung situații noi, neprevăzute în reglementările legislative actuale ce vor constitui baza actualizărilor viitoare ale actelor normative. Nu trebuie omisă nici analiza eficientă a riscurilor, supravegherea continuă, efectivă de către oameni a acestor sisteme în vederea diminuării, eliminării eventualelor daune ce pot fi aduse vieții, sănătății, drepturilor și libertăților fundamentale.

Nu în ultimul rând, reglementarea normativă a inteligenței artificiale instituie obligativitatea administrației publice de a permite studiile de specialitate, inovarea în domeniu ca bază a progresului științific în vederea dezvoltării unor noi tehnologii ce să permită creșterea economică, coeziunea socială, respectarea drepturilor și libertăților fundamentale ale omului, protecția mediului.