Legea europeană privind inteligența artificială a introdus modificări majore la 2 februarie 2025, interzicând anumite practici de inteligență artificială în întreaga UE. Întreprinderile olandeze trebuie acum să respecte reguli stricte privind sistemele de inteligență artificială pe care le pot utiliza.
Companiile care nu elimină instrumentele de inteligență artificială interzise se confruntă cu amenzi mari și potențiale acțiuni în justiție din partea oricărei persoane care suferă prejudicii.
Începând cu februarie 2025, sistemele de inteligență artificială care manipulează oamenii, utilizează scoruri sociale, clasifică indivizii pe baza datelor biometrice sau utilizează recunoașterea facială în timp real în spațiile publice sunt acum interzise în Olanda. Aceste interdicții acoperă și tehnologia de recunoaștere a emoțiilor la locul de muncă și în școli, precum și colectarea nețintită a imaginilor faciale de pe internet pentru a construi baze de date de recunoaștere.
Regulile se aplică imediat, fără a oferi companiilor nicio perioadă de grație pentru a elimina treptat aceste sisteme. Înțelegerea practicilor de inteligență artificială interzise și a măsurilor pe care trebuie să le ia organizația dumneavoastră este esențială pentru a evita sancțiunile.
Acest ghid explică interdicțiile specifice, prezintă obligațiile dumneavoastră de conformitate în calitate de companie olandeză și acoperă cerințele de instruire necesare pentru a vă menține operațiunile legale în conformitate cu noua lege.
Ce acoperă interdicțiile
Regulamentul (UE) 2024/1689, cunoscut sub numele de Legea UE privind inteligența artificială , a introdus interdicții specifice privind anumite practici de inteligență artificială, care au devenit aplicabile la 2 februarie 2025. Aceste reguli se aplică afacerii dumneavoastră olandeze dacă dezvoltați, implementați sau utilizați sisteme de inteligență artificială în Țările de Jos sau în Uniunea Europeană în sens larg.
Domeniul de aplicare al practicilor de inteligență artificială interzise
Legea privind IA interzice anumite practici legate de IA care prezintă riscuri inacceptabile pentru drepturile fundamentale și valorile europene. Articolul 5 din Regulamentul (UE) 2024/1689 identifică aceste practici interzise pe baza potențialelor lor efecte negative, mai degrabă decât pe baza tehnologiei în sine.
Principalele categorii interzise includ:
- Sisteme de inteligență artificială manipulatoare care exploatează vulnerabilitățile anumitor grupuri
- Sisteme de notare socială, indiferent dacă este operată de o autoritate publică sau de o întreprindere privată
- Identificare biometrică de la distanță în timp real în spații accesibile publicului pentru aplicarea legii (cu excepții limitate)
- Sisteme de clasificare biometrică care deduc atribute sensibile
- Scraping nețintit imagini faciale de pe internet sau înregistrări de pe camerele de supraveghere
Afacerea dumneavoastră se încadrează în aceste interdicții, indiferent dacă operați ca furnizor, implementator sau distribuitor de inteligență artificială în Olanda. Autoritatea olandeză pentru protecția datelor colaborează cu alte organisme de aplicare a legii din Uniunea Europeană pentru a asigura conformitatea.
Nerespectarea interdicțiilor se pedepsește cu amenzi de până la treizeci și cinci de milioane de euro sau șapte procente din cifra de afaceri anuală mondială, oricare dintre acestea este mai mare.
Datele de intrare în vigoare și perioadele de tranziție
Interdicțiile prevăzute la articolul 5 au devenit aplicabile la 2 februarie 2025. Aceasta înseamnă că întreprinderea dumneavoastră trebuie să respecte aceste reguli imediat dacă utilizați sau dezvoltați sisteme de inteligență artificială relevante.
Cadrul de aplicare urmează un calendar eșalonat. Sancțiunile complete, structurile de guvernanță și prevederile privind confidențialitatea intră în vigoare începând cu 2 august 2025.
Aceasta oferă organizației dumneavoastră o fereastră de șase luni în care regulile se aplică, dar mecanismele complete de aplicare a legii sunt încă în curs de stabilire. Comisia Europeană a publicat orientări oficiale la 4 februarie 2025 pentru a clarifica modul în care aceste interdicții funcționează în practică.
Aplicarea legii este organizată prin intermediul autorităților naționale de supraveghere a pieței, pe care fiecare stat membru trebuie să le desemneze. Țările de Jos nu au finalizat încă actul de punere în aplicare care le desemnează oficial; în faza pregătitoare, Autoritatea olandeză pentru protecția datelor și Autoritatea olandeză pentru infrastructura digitală acționează ca organisme de coordonare, iar autoritățile de reglementare din sector supraveghează inteligența artificială în propriile domenii. Interdicția în sine se aplică indiferent de acest lucru: faptul că structura de aplicare a legii este încă în curs de finalizare nu face ca o practică interzisă să fie legală, iar un sistem care încalcă articolul 5 încalcă, de asemenea, GDPR în majoritatea cazurilor, lucru pe care Autoritatea olandeză pentru protecția datelor îl poate aplica astăzi.
Definiții cheie: Sisteme și practici de inteligență artificială
Articolul 3 din Regulament definește un sistem de IA ca fiind un sistem bazat pe mașini, conceput să funcționeze cu diferite niveluri de autonomie, care poate demonstra adaptivitate după implementare și care, pe baza informațiilor primite, deduce cum să genereze rezultate precum predicții, conținut, recomandări sau decizii care pot influența mediile fizice sau virtuale. Elementul care face treaba în această definiție este inferența: un sistem care aplică doar reguli scrise integral de o persoană nu este un sistem de IA, în timp ce un model care își derivă propria regulă de decizie din date este.
O practică interzisă în domeniul inteligenței artificiale se referă la modalități specifice de implementare sau utilizare a inteligenței artificiale pe care Uniunea Europeană le-a considerat inacceptabile. Interdicția se aplică practicii în sine, nu tehnologiei subiacente.
Asta înseamnă că ai putea folosi același sistem de inteligență artificială în scopuri permise, fiind în același timp interzis accesul la anumite aplicații. Compania ta trebuie să facă distincția între sistemul de inteligență artificială (tehnologia) și practica sa (modul în care o utilizezi).
Un sistem de inteligență artificială pentru recunoaștere facială ar putea fi legal pentru controlul accesului în clădiri, dar interzis pentru supravegherea în timp real în spațiile publice. Contextul și aplicarea determină legalitatea în temeiul Regulamentului (UE) 2024/1689.
Listă detaliată a practicilor de inteligență artificială interzise
Legea UE privind inteligența artificială interzice anumite aplicații de inteligență artificială care prezintă riscuri inacceptabile pentru drepturile fundamentale și siguranță. Aceste practici interzise se împart în trei categorii principale: sisteme care manipulează comportamentul uman, cele care exploatează grupurile vulnerabile și mecanismele care permit supravegherea în masă prin intermediul scorurilor sociale.
Sisteme manipulatoare și înșelătoare
Legea IA interzice orice sistem de IA care folosește tehnici subliminale pentru a distorsiona semnificativ comportamentul uman în moduri care cauzează daune. Acestea sunt metode care funcționează dincolo de conștientizarea ta pentru a influența deciziile sau acțiunile tale.
Practicile manipulative interzise includ:
- Sisteme de inteligență artificială care implementează componente subliminale pe care nu le poți detecta
- Sisteme concepute pentru a exploata vulnerabilitățile copiilor legate de vârstă
- Tehnologii care manipulează comportamentul pentru a provoca daune fizice sau psihologice
Nu poți folosi inteligența artificială pentru a înșela în mod deliberat oamenii în moduri care duc la daune semnificative . Aceasta înseamnă că afacerea ta nu poate implementa chatbot-uri sau asistenți virtuali care să inducă în eroare utilizatorii cu privire la natura lor bazată pe inteligență artificială, atunci când această înșelăciune ar putea duce la daune.
Interdicția se extinde și la sistemele de inteligență artificială care utilizează modele întunecate sau manipulări psihologice pentru a împinge utilizatorii spre alegeri dăunătoare. Legea protejează indivizii de practicile de inteligență artificială care ocolesc luarea deciziilor raționale.
Dacă sistemul dumneavoastră de inteligență artificială influențează comportamentul prin manipulare ascunsă, mai degrabă decât prin informații transparente, acesta încalcă Legea.
Exploatarea persoanelor vulnerabile
Sistemele de inteligență artificială care exploatează vulnerabilitățile legate de vârstă, dizabilitate sau circumstanțe sociale sau economice sunt strict interzise. Nu puteți utiliza inteligența artificială pentru a profita de persoanele care nu au capacitatea de a înțelege sau de a rezista manipulării.
Această interdicție acoperă inteligența artificială care vizează lipsa de experiență a copiilor sau declinul cognitiv al persoanelor în vârstă. Compania dumneavoastră nu poate implementa sisteme care exploatează dizabilitățile fizice sau mentale pentru a manipula comportamentul.
IA care profită de disperarea economică sau de izolarea socială intră, de asemenea, sub incidența acestei interdicții.
Grupurile vulnerabile protejate includ:
- Copii și minori
- Persoanele în vârstă cu deficiențe cognitive
- Persoanele cu dizabilități fizice sau mentale
- Persoane care se confruntă cu dificultăți economice
Interdicția se aplică atunci când sistemul dumneavoastră de IA provoacă sau este susceptibil să provoace daune semnificative prin exploatare. Trebuie să evaluați dacă aplicațiile dumneavoastră de IA ar putea viza în mod nedrept populațiile vulnerabile.
Scorarea socială și profilarea comportamentală
Legea privind inteligența artificială interzice sistemele de inteligență artificială care evaluează sau clasifică persoanele pe baza comportamentului lor social sau a caracteristicilor personale. Nu puteți utiliza mecanisme de notare socială care duc la un tratament nedrept sau la vătămări corporale.
Scorarea socială implică evaluarea indivizilor pe baza conduitei, relațiilor sau comportamentului lor previzibil. Aceasta creează profiluri care determină accesul la servicii, oportunități sau drepturi.
Activitățile de scorare socială interzise includ:
- Evaluarea cetățenilor în funcție de comportamentul social sau profesional
- Crearea de scoruri de încredere din date personale
- Prezicerea comportamentului infracțional pe baza profilării
- Refuzarea serviciilor pe baza evaluărilor comportamentale
Nu puteți implementa sisteme de inteligență artificială care atribuie scoruri pentru a determina dacă o persoană primește servicii de asistență medicală, educație, angajare sau servicii financiare. Interdicția se aplică indiferent dacă operați aceste sisteme ca autoritate publică sau ca afacere privată.
Identificarea biometrică de la distanță în timp real în spațiile publice intră, de asemenea, sub incidența unor interdicții stricte, cu excepții limitate pentru autoritățile de aplicare a legii.
Interdicții privind biometria, recunoașterea facială și inteligența artificială emoțională
Legea UE privind inteligența artificială interzice mai multe tipuri de sisteme biometrice și de recunoaștere facială care prezintă riscuri pentru drepturile fundamentale . Aceste interdicții afectează modul în care întreprinderile olandeze pot utiliza datele biometrice , bazele de date de recunoaștere facială, instrumentele de recunoaștere a emoțiilor și sistemele de identificare în timp real în spațiile publice.
Clasificare biometrică
Nu puteți utiliza sisteme de inteligență artificială care clasifică persoanele pe baza datelor lor biometrice pentru a deduce rasa, opiniile politice, apartenența sindicală, convingerile religioase sau orientarea sexuală a acestora. Această interdicție se aplică atunci când introduceți aceste sisteme pe piață, le puneți în funcțiune sau le utilizați în acest scop specific.
Interdicția vizează sistemele care fac deducții sensibile despre persoane prin analiza biometrică. Afacerea dumneavoastră riscă amenzi de până la 7% din cifra de afaceri anuală la nivel mondial pentru nerespectare.
Există o excepție de la această regulă. Puteți eticheta sau filtra seturile de date biometrice dobândite legal, cum ar fi imaginile, pe baza datelor biometrice în contexte de aplicare a legii.
În afara aplicării legii, aceste practici de clasificare rămân complet interzise.
Restricții privind tehnologiile de recunoaștere facială
Nu puteți crea sau extinde baze de date de recunoaștere facială prin extragerea nețintită a imaginilor faciale de pe internet sau de pe înregistrările CCTV. Această interdicție a devenit aplicabilă pe 2 februarie 2025.
Pentru ca această interdicție să se aplice, trebuie îndeplinite patru condiții:
- Practica implică plasarea, întreținerea sau utilizarea unui sistem de inteligență artificială
- Scopul este de a crea sau extinde baze de date de recunoaștere facială
- Metoda folosește extragerea nețintită a imaginilor faciale
- Sursele de date sunt internetul sau imaginile de pe camerele de supraveghere.
Cuvântul cheie este „nețintit”. Nu puteți colecta imagini faciale într-un mod larg și fără discernământ.
Asta înseamnă că nu poți instala camere în supermarketuri sau zone publice care extrag automat fețe pentru a construi baze de date de recunoaștere fără criterii specifice de direcționare.
Recunoașterea emoțiilor în ocuparea forței de muncă și educație
Nu puteți utiliza sistemele de inteligență artificială pentru a deduce emoțiile oamenilor la locurile de muncă și în instituțiile de învățământ. Această interdicție afectează direct departamentele de resurse umane, școlile și centrele de formare care ar putea lua în considerare instrumente de detectare a emoțiilor.
Interdicția acoperă orice sistem de inteligență artificială conceput pentru a citi sau interpreta stările emoționale în aceste contexte specifice. Indiferent dacă utilizați analiza facială, recunoașterea tiparelor vocale sau alți indicatori biometrici, acest lucru nu contează.
Există o singură excepție, îngustă. Puteți utiliza inteligența artificială pentru recunoașterea emoțiilor dacă aceasta servește unor scopuri medicale sau de siguranță.
De exemplu, monitorizarea vigilenței șoferului din motive de siguranță sau detectarea stresului pacientului în unitățile medicale se poate încadra în această excepție.
Limitări privind identificarea biometrică la distanță
Nu puteți utiliza sisteme de identificare biometrică la distanță în timp real în spații accesibile publicului în scopuri de aplicare a legii, cu excepția unor circumstanțe strict definite. Aceste excepții includ căutarea victimelor răpirii sau traficului de persoane, prevenirea amenințărilor iminente la adresa vieții sau a atacurilor teroriste și localizarea suspecților de infracțiuni grave pedepsite cu cel puțin patru ani de închisoare.
Fiecare utilizare necesită o autorizație prealabilă din partea unei autorități judiciare sau a unui organism administrativ independent. În situații urgente, puteți începe utilizarea fără autorizație, dar trebuie să solicitați aprobarea în termen de 24 de ore.
Dacă autoritățile resping autorizația, trebuie să încetați imediat utilizarea sistemului și să ștergeți toate datele. Țările de Jos își pot stabili propriile reguli detaliate pentru aceste excepții în cadrul legislației naționale.
Întreprinderea dumneavoastră trebuie să notifice autoritatea relevantă de supraveghere a pieței și autoritatea națională pentru protecția datelor cu privire la fiecare utilizare. Statele membre transmit Comisiei Europene rapoarte anuale privind utilizarea identificării biometrice la distanță în timp real.
Obligații de conformitate pentru întreprinderile olandeze
Companiile olandeze trebuie să ia măsuri concrete pentru a se conforma cu inteligența artificială prin identificarea sistemelor interzise, eliminarea lor din operațiuni și menținerea unei documentații corespunzătoare. Autoritatea pentru Protecția Datelor din Olanda și Autoritatea Olandeză pentru Infrastructură Digitală vor aplica aceste cerințe, cu sancțiuni semnificative pentru încălcări.
Identificarea IA interzisă în cadrul operațiunilor
Trebuie să efectuați evaluări amănunțite ale riscurilor în cadrul organizației dumneavoastră pentru a identifica sistemele de inteligență artificială care ar putea încălca noile reguli. Aceasta înseamnă examinarea oricărei tehnologii care utilizează tehnici de manipulare, exploatează vulnerabilități, implementează scoruri sociale sau efectuează identificări biometrice în timp real în spații publice.
Începeți prin a crea un inventar al tuturor sistemelor de inteligență artificială utilizate în prezent. Documentați ce face fiecare sistem, cum procesează datele și pe cine afectează.
Acordați o atenție deosebită sistemelor care interacționează cu clienții, angajații sau publicul. Evaluările riscurilor ar trebui să analizeze dacă vreun sistem ar putea aduce atingere drepturilor fundamentale.
Aceasta include verificarea dacă sistemele de inteligență artificială iau decizii cu privire la persoane pe baza comportamentului, caracteristicilor personale sau conexiunilor sociale. Sistemele care urmăresc sau profilează persoanele fără transparență necesită o revizuire imediată.
Lucrează cu echipele tale tehnice pentru a înțelege cum funcționează fiecare sistem de inteligență artificială. Nu te poți baza doar pe descrierile furnizorilor.
Autoritatea pentru protecția datelor din Olanda a precizat clar că aveți responsabilitatea de a respecta reglementările, indiferent dacă ați construit sistemul sau l-ați achiziționat de la o terță parte.
Eliminarea treptată sau eliminarea sistemelor de inteligență artificială interzise
Trebuie să încetați imediat utilizarea practicilor de inteligență artificială interzise. Legea nu permite o perioadă de grație pentru sistemele interzise.
Dacă evaluarea riscurilor identifică o practică interzisă, trebuie să o dezactivați imediat. Creați un plan de eliminare care să abordeze atât impactul tehnic, cât și pe cel operațional.
Unele sisteme pot fi integrate în platforme mai mari sau conectate la mai multe procese. Va trebui să vă asigurați că eliminarea elementelor interzise nu perturbă funcțiile esențiale ale afacerii.
Înainte de a opri un sistem, identificați cum veți gestiona sarcinile pe care le-a îndeplinit anterior. Aceasta ar putea însemna revenirea la procese manuale, implementarea unei tehnologii diferite sau reproiectarea completă a fluxurilor de lucru.
Documentați fiecare pas al procesului de eliminare. Înregistrați momentul în care ați descoperit practica interzisă, ce acțiuni ați întreprins și când sistemul a fost complet dezactivat.
Autoritățile de reglementare vor aștepta dovezi clare că ați acționat prompt odată ce ați identificat încălcarea.
Înregistrări și documentație
Trebuie să păstrați documentația tehnică care să dovedească respectarea regulilor de interdicție. Aceasta include înregistrări ale evaluărilor riscurilor, deciziilor privind sistemele de inteligență artificială și orice modificări pe care le-ați făcut pentru a realiza conformitatea.
Documentația dumneavoastră ar trebui să cuprindă:
- Inventarele sistemului cu descrieri ale fiecărei aplicații de inteligență artificială
- Rapoarte de evaluare a riscurilor prezentarea analizei dumneavoastră privind potențialele încălcări
- Înregistrări de eliminare detaliind când și cum ați dezactivat sistemele interzise
- Evaluările impactului asupra drepturilor fundamentale pentru orice cazuri limită
Legea privind inteligența artificială nu prevede o perioadă fixă de păstrare a acestui material pentru respectarea practicilor interzise; perioadele de păstrare a evidențelor pe care le prevede, cum ar fi cei zece ani pentru documentația tehnică a unui sistem cu risc ridicat și perioada minimă pentru jurnalele generate automat, se află în capitolul privind riscul ridicat. Păstrați evaluările atât timp cât acestea pot fi solicitate, ceea ce, în practică, înseamnă termenul de prescripție a oricărei reclamații care ar putea apărea din cauza sistemului și puteți să le prezentați la cerere. Furnizarea unei autorități de informații incorecte, incomplete sau înșelătoare se pedepsește separat în temeiul articolului 99 din Regulament.
Descrierile generice sau materialele de marketing nu îndeplinesc această cerință. Includeți specificațiile tehnice, fluxurile de date și procesele decizionale.
Actualizați-vă documentația de fiecare dată când modificați sisteme de inteligență artificială sau implementați altele noi. Aveți nevoie de procese continue pentru a vă asigura că sistemele viitoare nu introduc practici interzise.
Cerințe de alfabetizare în domeniul inteligenței artificiale și instruirea personalului
Începând cu 2 februarie 2025, companiile olandeze care furnizează sau implementează sisteme de inteligență artificială trebuie să se asigure că personalul lor posedă cunoștințe adecvate despre inteligența artificială. Această obligație se aplică indiferent dacă utilizați sisteme de inteligență artificială cu risc ridicat sau cu risc scăzut.
Programele de instruire documentate trebuie să fie adaptate rolurilor și experiențelor tehnice ale angajaților dumneavoastră.
Obligația de alfabetizare a inteligenței artificiale explicată
Articolul 4 din Legea UE privind IA impune o obligație legală tuturor furnizorilor și implementatorilor de IA de a asigura o alfabetizare suficientă în domeniul IA în rândul personalului lor. Trebuie să luați măsuri pentru a garanta că personalul și contractanții care lucrează cu sisteme de IA înțeleg tehnologia cu care lucrează.
Obligația de competență în domeniul inteligenței artificiale acoperă pe oricine operează, utilizează sau ia decizii cu privire la sistemele de inteligență artificială în numele dumneavoastră. Aceasta include personalul tehnic care construiește sau întreține sistemele de inteligență artificială, precum și angajații fără competențe tehnice care utilizează instrumente de inteligență artificială în munca lor zilnică.
Trebuie să adaptați instruirea în domeniul inteligenței artificiale la rolul, cunoștințele tehnice, experiența, educația și contextul specific în care utilizează sistemele de inteligență artificială ale fiecărei persoane. Un dezvoltator de software care implementează modele de inteligență artificială necesită o instruire diferită față de un reprezentant al serviciului clienți care utilizează chatbot-uri bazate pe inteligență artificială.
Obligația vă cere să depuneți „toate eforturile” pentru a asigura niveluri adecvate de alfabetizare. Nu puteți oferi pur și simplu instruire simbolică și să pretindeți că sunteți conform.
Dezvoltarea unor programe de instruire eficiente
Programul dumneavoastră de alfabetizare în domeniul inteligenței artificiale (IA) ar trebui să abordeze sistemele specifice de IA pe care le utilizează organizația dumneavoastră, în loc să ofere informații generice. Personalul trebuie să înțeleagă cum funcționează instrumentele specifice de IA cu care lucrează, limitele acestora și riscurile potențiale.
Conținutul instruirii ar trebui să acopere:
- Concepte de bază ale inteligenței artificiale relevante pentru sistemele dumneavoastră
- Cum să utilizezi corect instrumentele de inteligență artificială
- Potențiale erori și prejudecăți în rezultatele inteligenței artificiale
- Când este necesară supravegherea umană
- Politicile și procedurile de inteligență artificială ale organizației dumneavoastră
Trebuie să luați în considerare nivelul inițial de cunoștințe al fiecărui angajat. Personalul tehnic poate avea nevoie de instruire avansată privind dezvoltarea și testarea modelelor, în timp ce utilizatorii generali necesită îndrumări practice privind interpretarea rezultatelor inteligenței artificiale și recunoașterea momentelor în care rezultatele par incorecte.
Furnizarea de cursuri de formare poate lua diverse forme, inclusiv ateliere, cursuri online, coaching la locul de muncă sau programe externe. Formatul contează mai puțin decât asigurarea că personalul dobândește efectiv cunoștințele și abilitățile necesare.
Documentarea activităților de alfabetizare în domeniul inteligenței artificiale
Trebuie să păstrați evidența activităților de formare în domeniul alfabetizării în domeniul inteligenței artificiale pentru a demonstra conformitatea cu Legea UE privind inteligența artificială. Această documentație servește drept dovadă că v-ați îndeplinit obligațiile legale.
Înregistrările dumneavoastră ar trebui să includă:
- Conținutul și materialele programului de instruire
- Listele angajaților care au absolvit cursurile de formare
- Datele și durata sesiunilor de instruire
- Rezultatele evaluării (dacă este cazul)
- Cum ați determinat nivelurile de alfabetizare adecvate pentru diferite roluri
Documentați procesul de identificare a nevoilor de alfabetizare în domeniul inteligenței artificiale (IA) în cadrul organizației dumneavoastră. Aceasta include modul în care ați evaluat ce personal necesită instruire și ce cunoștințe specifice au nevoie, pe baza interacțiunii lor cu sistemele de IA.
Păstrați evidențe despre modul în care actualizați instruirea pe măsură ce sistemele dvs. de inteligență artificială se schimbă sau pe măsură ce personal nou se alătură organizației dvs. Competența în domeniul inteligenței artificiale nu este o cerință unică, ci o obligație continuă care trebuie să se adapteze utilizării în continuă evoluție a tehnologiei inteligenței artificiale.
Supraveghere, aplicare și sancțiuni
Legea UE privind inteligența artificială stabilește o structură de aplicare pe mai multe niveluri, cu sancțiuni financiare semnificative pentru nerespectare. Întreprinderile olandeze se confruntă cu supravegherea atât a autorităților naționale, cât și a celor europene, amenzile ajungând până la 7% din cifra de afaceri anuală mondială pentru practicile de inteligență artificială interzise.
Autoritățile de supraveghere olandeze și ale UE
În Țările de Jos, arhitectura de supraveghere este încă în curs de implementare. Autoritatea olandeză pentru protecția datelor are un rol de coordonare și, împreună cu Autoritatea olandeză pentru infrastructură digitală, a pregătit cadrul de supraveghere a pieței, însă statutul care desemnează autoritățile competente și le conferă competențele în temeiul regulamentului nu a fost încă finalizat. Până atunci, autoritățile de reglementare existente aplică legea în limitele propriilor mandate, iar Autoritatea olandeză pentru protecția datelor rămâne autoritatea de luat în considerare oriunde sistemul de inteligență artificială prelucrează date cu caracter personal.
La nivel european, Comisia Europeană supraveghează implementarea Legii privind inteligența artificială în toate statele membre. Oficiul European pentru Inteligența Artificială, înființat în cadrul Comisiei, coordonează activitățile de aplicare a legii și oferă expertiză tehnică.
Consiliul European pentru Inteligență Artificială, compus din reprezentanți ai statelor membre, sprijină aplicarea consecventă a Regulamentului și consiliază Comisia și lucrează alături de autoritățile pentru protecția datelor în cazul în care sistemele de IA prelucrează date cu caracter personal.
Dacă operați sisteme de inteligență artificială în mai multe țări ale UE, este posibil să vă confruntați cu controlul organismelor de supraveghere din fiecare jurisdicție în care sistemele dumneavoastră sunt implementate sau au efect.
Sancțiuni și răspundere civilă
Încălcarea practicilor interzise prevăzute la articolul 5 se soldează cu sancțiuni de până la 35 de milioane de euro sau 7% din cifra de afaceri anuală totală la nivel mondial, oricare dintre acestea este mai mare. Interdicția în sine se aplică de la 2 februarie 2025, dar prevederile privind sancțiunile din regulament se aplică de la 2 august 2025, astfel încât se poate impune o amendă pentru conduită începând cu acea dată. Încălcarea celorlalte obligații are plafoane mai mici: cincisprezece milioane de euro sau trei procente pentru nerespectarea cerințelor privind riscul ridicat și șapte milioane și jumătate de euro sau unu procent pentru furnizarea de informații incorecte sau înșelătoare unei autorități.
Curtea de Justiție a UE (CJUE) deține autoritatea supremă de a interpreta prevederile Legii privind inteligența artificială. Instanțele naționale pot sesiza CJUE cu întrebări atunci când apar litigii cu privire la ce constituie o practică interzisă.
Dincolo de amenzile administrative, o persoană prejudiciată de un sistem interzis poate intenta o acțiune civilă. Nu există un regim european armonizat în acest sens: propunerea de Directivă privind răspunderea pentru inteligența artificială a fost retrasă, astfel încât o acțiune în Țările de Jos este intentată în temeiul legislației olandeze, în mod normal ca act ilegal în temeiul articolului 6:162 din Codul Civil, iar încălcarea articolului 5 servește drept dovadă a încălcării unei obligații legale. Statele membre pot, de asemenea, să prevadă sancțiuni suplimentare în legislația națională.
Îndrumări din partea organismelor europene și naționale
Comisia Europeană a publicat la 4 februarie 2025 orientări privind practicile de inteligență artificială interzise. Aceste documente explică modul în care autoritățile vor interpreta interdicțiile prevăzute la articolul 5 și oferă exemple practice pentru respectarea prevederilor.
Deși aceste orientări nu sunt obligatorii, ele oferă informații valoroase cu privire la prioritățile în materie de aplicare a legii. Doar CJUE poate oferi interpretări juridice autorizate.
Autoritățile de supraveghere olandeze pot emite îndrumări naționale suplimentare adaptate contextelor locale de afaceri. Ar trebui să monitorizați actualizările atât de la organismele europene, cât și de la cele olandeze, pe măsură ce evoluează abordările de aplicare a legii.
Orientările sunt disponibile în toate limbile UE pentru a sprijini înțelegerea transfrontalieră.
Întrebări frecvente
Legea europeană privind inteligența artificială introduce cerințe și restricții specifice care afectează întreprinderile olandeze începând cu februarie 2025. Aceste reglementări interzic anumite practici de inteligență artificială, impun măsuri de conformitate și stabilesc sancțiuni pentru încălcări.
Care sunt noile reglementări privind utilizarea inteligenței artificiale în companiile olandeze începând cu luna februarie?
Legea europeană privind inteligența artificială a intrat în vigoare la 1 august 2024, primul set de interdicții intrând în vigoare la 2 februarie 2025. Aceste reglementări se aplică tuturor întreprinderilor olandeze care dezvoltă, implementează sau utilizează sisteme de inteligență artificială în Uniunea Europeană.
Legea interzice sistemele de inteligență artificială manipulatoare care utilizează tehnici subliminale pentru a influența decizii pe care oamenii nu le-ar lua în mod normal. Sunt, de asemenea, interzise sistemele de inteligență artificială care exploatează vulnerabilitățile bazate pe vârstă, dizabilitate sau statut socioeconomic.
Sistemele de notare socială care judecă indivizii pe baza comportamentului lor social sau a caracteristicilor personale se confruntă cu o interdicție completă. De asemenea, reglementările interzic evaluările de risc bazate pe inteligență artificială care prezic infracțiunile exclusiv prin profilare sau analiză a trăsăturilor de personalitate, mai degrabă decât prin fapte legate de activități criminale.
Sistemele de clasificare biometrică care deduc rasa, opiniile politice, apartenența sindicală, convingerile religioase sau orientarea sexuală din imaginile faciale sau amprente digitale nu sunt permise. Identificarea biometrică de la distanță în timp real în spațiile publice este interzisă, cu excepția situațiilor strict definite, cu autorizație legală specifică.
Cum afectează directivele olandeze privind inteligența artificială din februarie 2025 confidențialitatea datelor și protecția consumatorilor?
Legea privind inteligența artificială funcționează alături de reglementările existente privind protecția datelor, inclusiv GDPR. Autoritatea olandeză pentru protecția datelor oferă îndrumări cu privire la modul în care sistemele de inteligență artificială trebuie să respecte normele de protecție a datelor, în special în ceea ce privește luarea deciziilor automatizate.
Colectarea nețintită a imaginilor faciale de pe internet sau a filmărilor de pe camere pentru a crea sau extinde baze de date de recunoaștere facială este interzisă. Această restricție protejează drepturile la viață privată ale persoanelor și previne colectarea neautorizată de date biometrice.
Sistemele de IA trebuie să respecte drepturile fundamentale pe tot parcursul ciclului lor de viață. Autoritățile publice și entitățile care furnizează servicii publice trebuie să efectueze o evaluare a impactului asupra drepturilor fundamentale atunci când utilizează sisteme de IA cu risc ridicat.
În ce activități bazate pe inteligență artificială nu mai sunt autorizate companiile olandeze să se implice din cauza recentelor modificări legislative?
Compania dumneavoastră nu poate utiliza sisteme de recunoaștere a emoțiilor la locul de muncă sau în mediile educaționale. Aceste sisteme sunt interzise indiferent de beneficiile pretinse sau de cazurile de utilizare.
Nu puteți implementa sisteme de inteligență artificială care manipulează oamenii prin tehnici subliminale sau le exploatează vulnerabilitățile. Aceasta include sisteme care vizează indivizii pe baza dizabilității, statutului social sau vârstei lor pentru a le influența comportamentul.
Sistemele de clasificare biometrică care clasifică persoanele pe baza unor caracteristici sensibile sunt interzise. Nu puteți utiliza inteligența artificială pentru a deduce rasa, opiniile politice, convingerile religioase sau orientarea sexuală a unei persoane din datele sale biometrice.
Sistemele de notare socială sunt complet interzise. Nu poți implementa inteligență artificială care evaluează sau clasifică oamenii pe baza comportamentului lor social sau a caracteristicilor personale.
Identificarea biometrică de la distanță în timp real în spațiile accesibile publicului este interzisă pentru utilizare comercială . Autoritățile de aplicare a legii pot utiliza astfel de sisteme numai în circumstanțe strict definite, cu autorizația legală corespunzătoare.
Ce pași trebuie să ia corporațiile olandeze pentru a-și alinia sistemele de inteligență artificială la standardele de conformitate stabilite în februarie?
Trebuie să identificați toate sistemele de inteligență artificială pe care organizația dumneavoastră le utilizează sau le implementează în prezent. Acest inventar ar trebui să clasifice fiecare sistem în funcție de clasificările de risc definite în Legea privind inteligența artificială.
Verificați-vă sistemele de inteligență artificială în raport cu lista practicilor interzise. Dacă utilizați sisteme interzise, trebuie să le eliminați treptat pentru a evita sancțiunile de reglementare.
Documentați scopurile, sursele de date și procesele decizionale ale sistemelor dvs. de inteligență artificială. Această documentație ajută la demonstrarea conformității și susține orice evaluări de impact necesare.
Sistemele cu risc ridicat au propriul set de obligații, inclusiv înregistrarea în baza de date europeană și, pentru organismele publice și furnizorii de servicii publice, o evaluare a impactului asupra drepturilor fundamentale. Acest regim a fost amânat: pentru sistemele enumerate în anexa III, cum ar fi instrumentele de recrutare, de notare a creditului și de gestionare a ocupării forței de muncă, acesta începe la 2 decembrie 2027, iar pentru sistemele cu risc ridicat care sunt componente de siguranță ale produselor reglementate, începe la 2 august 2028.
Instruiți-vă personalul cu privire la noile cerințe și stabiliți procese interne pentru monitorizarea continuă a conformității. Programul dumneavoastră de conformitate ar trebui să includă revizuiri regulate ale sistemelor de inteligență artificială pentru a vă asigura că acestea rămân în limitele reglementărilor.
Există interdicții specifice sectorului privind inteligența artificială de care firmele olandeze ar trebui să fie conștiente în urma noilor reglementări?
Organizațiile din sectorul educației se confruntă cu restricții specifice. Nu puteți utiliza sisteme de recunoaștere a emoțiilor pentru a monitoriza elevii sau a le evalua stările emoționale, indiferent de beneficiul educațional urmărit.
Mediile de lucru au limitări similare. Angajatorii nu pot implementa inteligența artificială pentru recunoașterea emoțiilor pentru a monitoriza stările emoționale sau reacțiile angajaților în timpul activităților profesionale.
Agențiile de aplicare a legii au excepții limitate pentru sistemele de identificare biometrică. Aceste excepții necesită o autorizare legală strictă și se aplică numai în situații specifice, cum ar fi căutarea victimelor răpirii, prevenirea amenințărilor iminente sau urmărirea suspecților de infracțiuni grave.
Autoritățile publice care furnizează servicii publice se confruntă cu cerințe suplimentare, dincolo de interdicțiile generale. Trebuie să efectuați evaluări ale impactului asupra drepturilor fundamentale pentru toate sistemele de IA cu risc ridicat și să înregistrați aceste sisteme în baza de date europeană.
Care sunt sancțiunile pentru nerespectarea restricțiilor olandeze privind inteligența artificială introduse în februarie 2025?
Autoritățile de reglementare pot impune amenzi substanțiale pentru nerespectarea Legii privind inteligența artificială. Structura sancțiunilor urmează o abordare pe niveluri, bazată pe gravitatea încălcării.
Utilizarea sistemelor de inteligență artificială interzise reprezintă cea mai gravă categorie de încălcare. Organizația dumneavoastră riscă sancțiuni financiare semnificative dacă continuați să operați sisteme interzise după termenul limită din februarie 2025.
Cuantumul exact al penalităților depinde de calificarea organizației dumneavoastră drept întreprindere mică și mijlocie sau companie mai mare. Autoritățile de reglementare iau în considerare factori precum natura încălcării, durata acesteia și orice prejudiciu cauzat.
Dincolo de sancțiunile financiare, nerespectarea regulilor poate afecta reputația organizației dumneavoastră. Persoanele prejudiciate de sistemele de inteligență artificială interzise pot solicita despăgubiri suplimentare prin intermediul procedurilor civile.
Autoritatea olandeză pentru protecția datelor și alte organisme de reglementare au competențe de aplicare a legii. Acestea pot investiga plângeri, pot efectua audituri și pot solicita încetarea imediată a practicilor interzise.
Law & More oferă consultanță companiilor cu privire la Legea IA în practică: verificarea sistemelor deja utilizate în raport cu interdicțiile articolului 5, evaluarea cazurilor în care un caz de utilizare se situează aproape de linia de demarcație dintre o practică permisă și una interzisă, stabilirea măsurilor de alfabetizare în domeniul IA impuse de articolul 4 și pregătirea pentru obligațiile cu risc ridicat care urmează în decembrie 2027. În cazul în care un sistem de IA prelucrează și date cu caracter personal, evaluăm simultan poziția GDPR, deoarece aici este disponibilă aplicarea legislației în prezent.
