Parlamentul European a stabilit primele reguli pentru o Inteligenţă Artificială sigură

Parlamentul European şi-a adoptat poziţia de negociere cu privire la Legea Inteligenţei Artificiale (IA) cu 499 de voturi pentru, 28 împotrivă şi 93 abţineri, iar acum este gata să înceapă negocierile cu statele UE asupra textului definitiv, transmite Rador.

Regulile propuse de Parlamentu UE urmăresc să asigure că Inteligența Artificială dezvoltată şi utilizată în Europa respectă drepturile şi valorile UE, de exemplu în ceea ce priveşte supravegherea umană, securitatea, confidenţialitatea, transparenţa, nediscriminarea şi bunăstarea socială şi a mediului.

Astfel, Parlamentul European este pentru interzicerea totală a utilizării tehnologiilor de recunoaştere biometrică a inteligenţei artificiale în timp real în locurile publice. Amendamentul PPE prin care se solicita includerea în Actul AI al textului care conţine noile reguli UE pentru inteligenţa artificială, a unor excepţii care să permită utilizarea camerelor de recunoaştere facială pe străzi şi la frontiera UE din motive naţionale de securitate, sau în cazurile minorilor dispăruţi, a fost respins.

Regulile urmează o abordare bazată pe risc şi stabilesc obligaţii pentru furnizorii şi operatorii de sisteme AI în funcţie de nivelul de risc pe care îl pot genera. Prin urmare, sistemele AI care prezintă un nivel inacceptabil de risc pentru siguranţa oamenilor, cum ar fi cele utilizate pentru scoring social (clasificarea oamenilor în funcţie de comportamentul lor social sau de caracteristicile lor personale), vor fi interzise.

Parlamentul European a extins lista de interdicții

În comparaţie cu textul iniţial, deputaţii europeni au extins lista de interdicţii privind utilizările intruzive şi discriminatorii ale IA, cum ar fi:

- utilizarea sistemelor de identificare biometrică la distanţă în timp real în spaţii accesibile publicului; utilizarea de sisteme de clasificare biometrică bazate pe caracteristici sensibile (de exemplu, gen, rasă, etnie, cetăţenie, religie, orientare politică);

- utilizarea sistemelor AI predictive folosite de poliţie (bazate pe profiluri, locaţie sau pe un comportament criminal anterior);

- utilizarea de către forţele de ordine a sistemelor de recunoaştere a emoţiilor în managementul frontierelor, la locul de muncă şi în instituţiile de învăţământ;

- extragerea neţintită a datelor biometrice de pe Internet, sau de pe înregistrări CCTV pentru a crea baze de date de recunoaştere facială (cu încălcarea drepturilor omului şi a dreptului la viaţă privată).

Textul aprobat de Parlamentul European prevede că în clasificarea aplicaţiilor cu risc ridicat sunt incluse şi sistemele AI care produc daune semnificative sănătăţii, siguranţei, drepturilor fundamentale ale oamenilor sau mediului.

Alte reguli stabilite de PE

Sistemele de inteligenţă artificială folosite pentru a influenţa alegătorii şi rezultatul alegerilor, precum şi sistemele de recomandare utilizate de platformele de social media (cu peste 45 de milioane de utilizatori) au fost adăugate şi ele pe lista celor care prezintă un risc ridicat.

Conform textului, sistemele AI generative bazate pe astfel de modele, cum ar fi ChatGPT, ar trebui să respecte criteriile de transparenţă (declarând că conţinutul a fost generat de AI), contribuind, de asemenea, la distingerea aşa-numitelor imagini deep-fake de cele reale, şi să ofere garanţii pentru a preveni generarea de conţinut ilegal.

Votul dă startul negocierilor interinstituţionale cu reprezentanţii Consiliului UE (care şi-a adoptat poziţia în decembrie 2022) pentru întocmirea versiunii finale al textului, obiectivul fiind cel de a se ajunge la un acord până la sfârşitul acestui an.

  Fiți la curent cu ultimele noutăți. Urmăriți DCNews și pe Google News