Comisia Europeană anunță interzicerea în Uniunea Europeanã a opt utilizări ale inteligenței artificiale

Comisia Europeană (CE) anunţă interzicerea în Uniunea Europeană (UE) a opt dintre sistemele inteligenţei artificiale (AI), pe care le consideră prea periculoase, în cadrul legislaţiei europene de pionierat adoptate anul trecut (AI Act), relatează AFP, citat de News.ro.

Articol editat de Valentina Adam, 5 februarie 2025, 16:27

1. IDENTIFICAREA ÎN TIMP REAL A PERSOANELOR, CU CAMERE ÎN LOCURI PUBLICE

UE interzice folosirea camerelor echipate cu tehnologii de recunoaştere facială în timp real, pe o stradă comercială, în vederea identificării unor persoane căutate.

Noţiunea de ”timp real” este crucială în această interdicţie.

UE vrea să evite o intervenţie imediată împotriva unei persoane, fără o verificare prealabilă a altor informaţii provenind din lumea reală.

Derogări sunt însă prevăzute în anumite misiuni ale forţelor de ordine, de exemmplu în lupta împotriva terorismului.

2. CLASIFICAREA SOCIALĂ ÎN BAZA DATELOR PERSONALE, FĂRĂ LEGĂTURĂ CU RISCUL EVALUAT

Un organism nu poate să recurgă la o aplicaţie AI cu scopul de a clasifica persoane în funcţie de probabilitatea de a comite o fraudă a ajutoarelor sociale, folosind date personale care nu au nimic de a face cu contextul – de exemplu originea, culoarea pielii sau comportamentul pe reţele de socializare.

Astfel, în vederea evaluării riscului nerambursării unui împrumut bancar, numai datele financiare pot fi luate în calcul.

3. EVALUAREA RISCULUI INFRACŢIONAL AL UNEI PERSOANE, PE BAZA DATELOR BIOMETRICE

Poliţia nu poate folosi o AI pentru a prezice riscul comportamentului infracţional al unei persoane, de exemplu probabilitatea de a participa la revolte sau de a comite un atentat, sau numai pe caracteristici persoanle, cum ar fi trăsăturile feţei, fără să ia în calcul fapte obiective şi verificabile în mod direct legate de acţiunile acesteia.

4. CREAREA DE BAZE DE DATE CU FEŢE ALE UNOR SISTEME DE RECUNOAŞTERE FACIALĂ, LUÂND IMAGINI DE PE INTERNET

Sunt interzise instrumentele de ”periere” a Internetului şi extragerea unor fotografii ale feţelor, fără discernământ, cu scopul constituirii unor baze de date la scară mare, de miliarde de imagini.

Acest lucru ar însemna o supraveghere de stat.

5. RECUNOAŞTEREA EMOŢIILOR LA LOCUL DE MUNCĂ SAU INSTITUŢII DE ÎNVĂŢĂMÂNT

O organizaţie nu poate folosi webcam sau sisteme de recunoaştere vocală cu scopul de a detecta emoţiile angajaţilor săi.

6. MANIPULAREA COMPORTAMENTULUI PERSOANELOR CU AJUTORUL AI

Este interzisă integrarea în designul unei interfeţe a unor sisteme AI înşelătoare sau subliminale, cu scopul de a-i împinge pe utilizatori să facă cumpărături.

7. EXPLOARAREA VULNERABILITĂŢILOR LEGATE DE VÂRSTĂ SAU DIZABILITĂŢI

O jucărie care încorporează AI şi care este concepută pentru ca să interacţioneze cu copiii este interzisă, dacă este concepută cu scopul de a le păstra atenţia şi de a-i încuraja la provocări riscante, care i-ar putea răni.

8. DEDUCEREA OPINIILOR POLITICE SAU ORIENTĂRII SEXUALE, ÎN FUNCŢIE DE DATE BIOMETRICE

Un sistem care pretinde că poate ghici opiniile politice sau orientarea sexuală a persoanelor pe baza analizei feţei acestora, nu va fi autorizat în UE.