Reglementarea inteligentei artificiale: un pas inainte

Avand in vedere utilizarea pe scara din ce in ce mai larga a inteligenței artificiale (IA/AI), Uniunea Europeana isi consolideaza eforturile pentru a pune bazele unei reglementari cuprinzatoare care sa asigure utilizarea acestei tehnologii intr-un mod etic si responsabil.

Iata cateva aspecte relevante in acest sens.

Instituirea Oficiului European pentru Inteligența Artificiala

In conformitate cu Decizia Comisiei Europene din 24 ianuarie 2024, se instituie Oficiul European pentru Inteligenta Artificiala. Acesta va funcționa ca parte a structurii administrative a Directiei Generale Retele de Comunicare, Continut si Tehnologie si isi propune sa coordoneze progresele inregistrate in domeniul modelelor de inteligenta artificiala, avand un rol de baza in realizarea investigatiilor, testare si asigurarea respectarii legislatiei.

Oficiul are misiunea de a contribui la punerea in aplicare si respectarea viitorului regulament de stabilire a normelor armonizate privind IA si va fi implicat in dezvoltarea expertizei si a capacitatilor la nivelul Uniunii pentru a sprijini utilizarea sigura a tehnologiilor IA.

Este important de mentionat ca instituirea acestui oficiu nu va afecta prerogativele autoritatilor nationale competente si ale altor organe ale Uniunii in supravegherea sistemelor de IA, conform prevederilor viitorului regulament.

Stadiul actual al dezbaterilor privind Legea Inteligentei Artificiale in Uniunea Europeana

Legea privind Inteligenta Artificiala (AI Act) inca se afla in discutii la nivelul Uniunii Europene. Acest fapt este evidentiat de recentul acord provizoriu intre Parlamentul European si Consiliul Uniunii Europene, incheiat in urma negocierilor intense din 8 decembrie 2023.

Proiectul de regulament are drept obiectiv principal garantarea sigurantei si respectarii drepturilor fundamentale in implementarea sistemelor de IA pe piata europeana. Prin adoptarea unei abordari bazate pe riscuri, regulile propuse in AI Act vor deveni mai stricte pe masura ce riscul asociat cu un anumit sistem de IA creste. Propunerea reprezinta o initiativa emblematica la nivel global, avand potentialul de a stabili standarde in ceea ce priveste reglementarea inteligentei artificiale, similar cu impactul GDPR in domeniul protectiei datelor.

Elemente cheie ale acordului provizoriu:

• se propune crearea unui sistem de guvernanta revizuit, cu competente de punere in aplicare la nivelul Uniunii Europene;

• acordul extinde lista de interdictii, inclusiv utilizarea identificarii biometrice la distanta in spatiile publice, sub rezerva unor reglementari specifice;

• cei care implementeaza sisteme IA cu risc ridicat vor fi obligati sa efectueze o evaluare a impactului asupra drepturilor fundamentale inainte de a pune in functiune un sistem AI.

Cu toate acestea, exista aspecte care inca sunt in discutie, inclusiv penalitatile pentru incalcarile AI Act si detalii tehnice care urmeaza sa fie finalizate in saptamanile urmatoare.

Acordul prevede amenzi considerabile pentru incalcarile AI Act, stabilind penalitati in procente din cifra de afaceri anuala globala sau sume fixe, in functie de care dintre acestea este mai mare. Aceste sanctiuni vizeaza aplicatii IA interzise, incalcari ale obligatiilor stabilite prin AI Act si furnizarea de informatii incorecte.

Practici interzise conform noii propuneri legislative

Un exemplu de practica interzisa conform AI Act consta in introducerea pe piata, punerea in functiune sau utilizarea unui sistem de IA care utilizeaza tehnici subliminale fara ca persoanele sa fie constiente de acest lucru, pentru a denatura in mod semnificativ comportamentul unei persoane intr-un mod care aduce sau poate aduce prejudicii fizice sau psihologice persoanei respective sau altei persoane.

Spre exemplu, nu este permisa manipularea cognitiv-comportamentala, stocarea imaginilor faciale obtinute aleatoriu si recunoasterea emotiilor la locul de munca si in institutiile de invatamant. Aceste interdictii au fost instituite pentru a preveni riscurile inacceptabile asociate unor practici.

Exemplul nr. 1:

Sa luam in considerare un sistem de AI folosit in mediul corporativ pentru analiza performantei angajatilor. Acest sistem utilizeaza tehnici subliminale prin intermediul instrumentelor de recunoastere a emotiilor. In timpul interviurilor sau in activitatile zilnice la locul de munca, sistemul colecteaza informatii despre expresiile faciale, tonul vocii si alte semnale non-verbale ale angajatilor, fara ca acestia sa fie constienti de acest proces.

Practicile subliminale pot implica manipularea acestor date pentru a influenta deciziile manageriale sau pentru a crea un mediu de lucru tensionat. De exemplu, sistemul poate evalua in mod eronat starea emotionala a angajatilor si poate sugera actiuni sau feedback care sa afecteze negativ bunastarea psihologica a acestora, conducand la stres, anxietate sau alte prejudicii psihologice. Aceasta utilizare neetica a tehnologiei ar incalca prevederile legale menționate in articolul 5(1)(a) din propunerea de lege privind inteligenta artificiala.

Exemplul nr. 2:

Sa ne imaginam un alt scenariu in care o companie utilizeaza un sistem de inteligenta artificiala in procesul de recrutare a personalului. Acest sistem se bazeaza pe algoritmi avansati de analiza a comportamentului in interviuri, inclusiv recunoasterea emotiilor si interpretarea expresiilor faciale ale candidatilor. In timpul interviurilor video sau in interactiunile online, sistemul colecteaza si analizeaza datele non-verbale ale candidatilor pentru a evalua compatibilitatea lor culturala si potentialul de performanta in echipa.

Totusi, aceasta practica ridica preocupari etice si juridice semnificative. Folosirea extinsa a tehnologiei de recunoastere a emotiilor in procesul de recrutare poate duce la discriminare sau evaluari incorecte, iar interpretarea eronata a expresiilor faciale poate afecta echitatea si obiectivitatea procesului de angajare. In conformitate cu propunerile legislative in vigoare, aceasta utilizare neadecvata a inteligentei artificiale in contextul angajarii ar incalca prevederile legale mentionate, punand in pericol drepturile fundamentale ale candidatilor si integritatea procesului de recrutare.

Exemplul nr. 3:

Sa presupunem ca exista un sistem de IA utilizat in sectorul educational pentru evaluarea elevilor. Acest sistem se bazeaza pe tehnici avansate de recunoastere faciala si vocala pentru a analiza reactiile elevilor in timpul cursurilor sau examenelor, inregistrand automat expresiile faciale, tonul vocii si alte caracteristici non-verbale. Practicile interzise conform noii propuneri legislative ar include utilizarea acestui sistem intr-un mod care sa influenteze comportamentul sau performanta elevilor, ceea ce ar putea aduce prejudicii fizice sau psihologice.

De asemenea, utilizarea sistemelor de inteligenta artificiala pentru identificarea biometrica in timp real a persoanelor fizice in spatiile accesibile publicului in scopul asigurarii respectarii legii este interzisa, deoarece este considerata deosebit de intruziva pentru drepturile si libertatile persoanelor vizate. Aceasta practica poate afecta viata privata a unei parti semnificative a populatiei, creand un sentiment de supraveghere constanta si descurajand indirect exercitarea libera a drepturilor fundamentale, cum ar fi libertatea de intrunire si alte drepturi civile.

Exemplul nr. 4:

Sa presupunem ca un oras utilizeaza sisteme de AI pentru identificarea biometrica in timp real a persoanelor in spatiile publice. Aceste sisteme monitorizeaza constant fata si alte caracteristici biometrice ale cetatenilor in parcuri, pe strazi si in piete. Scopul declarat este asigurarea respectarii legii si identificarea rapida a persoanelor cautate pentru infracțiuni.

Aceasta practica ar putea afecta grav drepturile si libertatile individuale, deoarece cetatenii sunt supusi unei supravegheri constante, fara consimtamantul lor explicit, iar informatiile biometrice sunt colectate in timp real. Aceasta contravine interdictiei legislative mentionate si poate crea un mediu in care cetatenii se simt nelinistiti din cauza restrangerilor la viata lor privata si pot fi descurajati sa-si exercite in mod liber drepturile civile in spatiile publice.

In lumina reglementarilor tot mai stricte privind inteligenta artificiala in Uniunea Europeana, este esential sa te asiguri ca afacerea ta respecta noile norme, respectiv sa actionezi daca consideri ca ti-au fost incalcate drepturile. Programeaza o sedinta de consultanta in dreptul tehnologiei si al protectiei datelor personale printr-un click aici.