Legea europeană privind inteligența artificială a introdus modificări majore la 2 februarie 2025, asigurând Practici AI ilegale în întreaga UE. Afaceri olandeze trebuie acum să respecte reguli stricte privind sistemele de inteligență artificială pe care le pot utiliza.
Companiile care nu elimină instrumentele de inteligență artificială interzise se confruntă cu amenzi mari și potențiale acțiuni în justiție din partea oricărei persoane care suferă prejudicii.
Începând cu februarie 2025, sistemele de inteligență artificială care manipulează oamenii, utilizează scoruri sociale, clasifică indivizii pe baza datelor biometrice sau utilizează recunoașterea facială în timp real în spațiile publice sunt acum interzise în Olanda. Aceste interdicții acoperă și tehnologia de recunoaștere a emoțiilor la locul de muncă și în școli, precum și colectarea nețintită a imaginilor faciale de pe internet pentru a construi baze de date de recunoaștere.
Regulile se aplică imediat, fără a oferi companiilor nicio perioadă de grație pentru a elimina treptat aceste sisteme. Înțelegerea practicilor de inteligență artificială interzise și a măsurilor pe care trebuie să le ia organizația dumneavoastră este esențială pentru a evita sancțiunile.
Acest ghid explică interdicțiile specifice, prezintă obligații de conformitate ca firmă olandeză și acoperă cerințele de formare necesare pentru a vă menține operațiunile legale în conformitate cu noua lege.
Prezentare generală a interdicțiilor din februarie 2025
Regulamentul (UE) 2024/1689, cunoscut sub numele de Actul AI al UEa introdus interdicții specifice privind anumite practici de inteligență artificială, care au devenit aplicabile la 2 februarie 2025. Aceste reguli se aplică afacerii dumneavoastră olandeze dacă dezvoltați, implementați sau utilizați Sistem AIîn Țările de Jos sau în Uniunea Europeană în sens larg.
Domeniul de aplicare al practicilor de inteligență artificială interzise
Legea privind IA interzice anumite practici legate de IA care prezintă riscuri inacceptabile pentru drepturile fundamentale și valorile europene. Articolul 5 din Regulamentul (UE) 2024/1689 identifică aceste practici interzise pe baza potențialelor lor efecte negative, mai degrabă decât pe baza tehnologiei în sine.
Principalele categorii interzise includ:
- Sisteme de inteligență artificială manipulatoare care exploatează vulnerabilitățile anumitor grupuri
- Sisteme de notare socială de către autoritățile publice
- Identificare biometrică de la distanță în timp real în spații accesibile publicului pentru drept aplicarea legii (cu excepții limitate)
- Sisteme de clasificare biometrică care deduc atribute sensibile
- Scraping nețintit imagini faciale de pe internet sau înregistrări de pe camerele de supraveghere
Afacerea dumneavoastră se încadrează în aceste interdicții, indiferent dacă operați ca furnizor, implementator sau distribuitor de inteligență artificială în Olanda. Autoritatea olandeză pentru protecția datelor colaborează cu alte organisme de aplicare a legii din Uniunea Europeană pentru a asigura conformitatea.
Nerespectarea regulilor atrage după sine amenzi de până la 7% din cifra de afaceri anuală la nivel mondial.
Date de intrare în vigoare și perioade de tranziție
Interdicțiile prevăzute la articolul 5 au devenit aplicabile la 2 februarie 2025. Aceasta înseamnă că întreprinderea dumneavoastră trebuie să respecte aceste reguli imediat dacă utilizați sau dezvoltați sisteme de inteligență artificială relevante.
Cadrul de aplicare urmează un calendar eșalonat. Sancțiunile complete, structurile de guvernanță și prevederile privind confidențialitatea intră în vigoare începând cu 2 august 2025.
Aceasta oferă organizației dumneavoastră o fereastră de șase luni în care regulile se aplică, dar mecanismele complete de aplicare a legii sunt încă în curs de stabilire. Comisia Europeană a publicat orientări oficiale la 4 februarie 2025 pentru a clarifica modul în care aceste interdicții funcționează în practică.
Autoritățile de supraveghere a pieței, inclusiv Autoritatea olandeză pentru protecția datelor, au dobândit responsabilitatea monitorizării și aplicării acestor reguli începând cu data de începere a activității, în februarie.
Definiții cheie: Sisteme și practici de inteligență artificială
Conform Legii IA, un Sistem AI înseamnă software care utilizează învățarea automată, abordări bazate pe logică sau metode statistice pentru a genera rezultate precum predicții, recomandări sau decizii. Această definiție este în mod deliberat largă pentru a acoperi tehnologiile actuale și emergente.
A practică interzisă de inteligență artificială se referă la modalități specifice de implementare sau utilizare a inteligenței artificiale pe care Uniunea Europeană le-a considerat inacceptabile. Interdicția se aplică practicii în sine, nu tehnologiei subiacente.
Asta înseamnă că ai putea folosi același sistem de inteligență artificială în scopuri permise, fiind în același timp interzis accesul la anumite aplicații. Compania ta trebuie să facă distincția între sistemul de inteligență artificială (tehnologia) și practica sa (modul în care o utilizezi).
Un sistem de inteligență artificială pentru recunoaștere facială ar putea fi legal pentru controlul accesului în clădiri, dar interzis pentru supravegherea în timp real în spațiile publice. Contextul și aplicarea determină legalitatea în temeiul Regulamentului (UE) 2024/1689.
Listă detaliată a practicilor de inteligență artificială interzise
Legea UE privind IA interzice anumite aplicații de IA care prezintă riscuri inacceptabile pentru drepturile fundamentale și siguranță. Aceste practici interzise se încadrează în trei categorii principale: sisteme care manipulează comportamentul uman, cele care exploatarea grupurilor vulnerabileși mecanisme care permit supravegherea în masă prin scorare socială.
Sisteme manipulative și înșelătoare
Legea IA interzice orice sistem de IA care folosește tehnici subliminale pentru a distorsiona semnificativ comportamentul uman în moduri care cauzează daune. Acestea sunt metode care funcționează dincolo de conștientizarea ta pentru a influența deciziile sau acțiunile tale.
Practicile manipulative interzise includ:
- Sisteme de inteligență artificială care implementează componente subliminale pe care nu le poți detecta
- Sisteme concepute pentru a exploata vulnerabilitățile copiilor legate de vârstă
- Tehnologii care manipulează comportamentul pentru a provoca daune fizice sau psihologice
Nu poți folosi IA în mod deliberat înșela oamenii în moduri care duc la daune semnificativeAceasta înseamnă că afacerea dumneavoastră nu poate implementa chatbot-uri sau asistenți virtuali care să inducă în eroare utilizatorii cu privire la natura lor bazată pe inteligență artificială, atunci când această înșelăciune ar putea duce la daune.
Interdicția se extinde și la sistemele de inteligență artificială care utilizează modele întunecate sau manipulări psihologice pentru a împinge utilizatorii spre alegeri dăunătoare. drept protejează indivizii de practicile de inteligență artificială care ocolesc luarea deciziilor raționale.
Dacă sistemul dumneavoastră de inteligență artificială influențează comportamentul prin manipulare ascunsă, mai degrabă decât prin informații transparente, acesta încalcă Legea.
Exploatarea persoanelor vulnerabile
Sistemele de inteligență artificială care exploatează vulnerabilitățile legate de vârstă, dizabilitate sau circumstanțe sociale sau economice sunt strict interzise. Nu puteți utiliza inteligența artificială pentru a profita de persoanele care nu au capacitatea de a înțelege sau de a rezista manipulării.
Această interdicție acoperă inteligența artificială care vizează lipsa de experiență a copiilor sau declinul cognitiv al persoanelor în vârstă. Compania dumneavoastră nu poate implementa sisteme care exploatează dizabilitățile fizice sau mentale pentru a manipula comportamentul.
IA care profită de disperarea economică sau de izolarea socială intră, de asemenea, sub incidența acestei interdicții.
Grupurile vulnerabile protejate includ:
- Copii și minori
- Persoanele în vârstă cu deficiențe cognitive
- Persoanele cu dizabilități fizice sau mentale
- Persoane care se confruntă cu dificultăți economice
Interdicția se aplică atunci când sistemul dumneavoastră de IA provoacă sau este susceptibil să provoace daune semnificative prin exploatare. Trebuie să evaluați dacă aplicațiile dumneavoastră de IA ar putea viza în mod nedrept populațiile vulnerabile.
Scorarea socială și profilarea comportamentală
Legea privind inteligența artificială interzice sistemele de inteligență artificială care evaluează sau clasifică persoanele pe baza... comportament social sau caracteristici personale. Nu puteți utiliza mecanisme de notare socială care duc la un tratament nedrept sau la vătămări corporale.
Scorarea socială implică evaluarea indivizilor pe baza conduitei, relațiilor sau comportamentului lor previzibil. Aceasta creează profiluri care determină accesul la servicii, oportunități sau drepturi.
Activitățile de scorare socială interzise includ:
- Evaluarea cetățenilor în funcție de comportamentul social sau profesional
- Crearea de scoruri de încredere din date personale
- Prezicerea comportamentului infracțional pe baza profilării
- Refuzarea serviciilor pe baza evaluărilor comportamentale
Nu puteți implementa sisteme de inteligență artificială care atribuie scoruri pentru a determina dacă o persoană primește servicii de asistență medicală, educație, angajare sau servicii financiare. Interdicția se aplică indiferent dacă operați aceste sisteme ca autoritate publică sau ca afacere privată.
Telecomanda în timp real identificarea biometrică în spațiile publice se încadrează, de asemenea, în interdicții stricte, cu excepții limitate pentru aplicarea legii.
Interdicții privind biometria, recunoașterea facială și inteligența artificială emoțională
Legea UE privind inteligența artificială interzice mai multe tipuri de sisteme biometrice și de recunoaștere facială care prezintă riscuri pentru drepturi fundamentaleAceste interdicții afectează modul în care întreprinderile olandeze pot utiliza date biometrice, baze de date de recunoaștere facială, instrumente de recunoaștere a emoțiilor și sisteme de identificare în timp real în spațiile publice.
Clasificarea biometrică și utilizarea datelor
Nu puteți utiliza sisteme de inteligență artificială care clasifică persoanele pe baza datelor lor biometrice pentru a deduce rasa, opiniile politice, apartenența sindicală, convingerile religioase sau orientarea sexuală a acestora. Această interdicție se aplică atunci când introduceți aceste sisteme pe piață, le puneți în funcțiune sau le utilizați în acest scop specific.
Interdicția vizează sistemele care fac inferențe sensibile despre indivizi prin analiză biometrică. Afacerea dumneavoastră riscă amenzi de până la 7% din cifra de afaceri anuală la nivel mondial pentru nerespectare.
Există o excepție de la această regulă. Puteți eticheta sau filtra seturile de date biometrice dobândite legal, cum ar fi imaginile, pe baza datelor biometrice în contexte de aplicare a legii.
În afara aplicării legii, aceste practici de clasificare rămân complet interzise.
Restricții privind tehnologiile de recunoaștere facială
Nu puteți crea sau extinde baze de date de recunoaștere facială prin extragerea nețintită a imaginilor faciale de pe internet sau de pe înregistrările CCTV. Această interdicție a devenit aplicabilă pe 2 februarie 2025.
Pentru ca această interdicție să se aplice, trebuie îndeplinite patru condiții:
- Practica implică plasarea, întreținerea sau utilizarea unui sistem de inteligență artificială
- Scopul este de a crea sau extinde baze de date de recunoaștere facială
- Metoda folosește extragerea nețintită a imaginilor faciale
- Sursele de date sunt internetul sau imaginile de pe camerele de supraveghere.
Cuvântul cheie este „nețintit”. Nu puteți colecta imagini faciale într-un mod larg și fără discernământ.
Asta înseamnă că nu poți instala camere în supermarketuri sau zone publice care extrag automat fețe pentru a construi baze de date de recunoaștere fără criterii specifice de direcționare.
Recunoașterea emoțiilor în ocuparea forței de muncă și educație
Nu puteți utiliza sistemele de inteligență artificială pentru a deduce emoțiile oamenilor la locurile de muncă și în instituțiile de învățământ. Această interdicție afectează direct departamentele de resurse umane, școlile și centrele de formare care ar putea lua în considerare instrumente de detectare a emoțiilor.
Interdicția acoperă orice sistem de inteligență artificială conceput pentru a citi sau interpreta stările emoționale în aceste contexte specifice. Indiferent dacă utilizați analiza facială, recunoașterea tiparelor vocale sau alți indicatori biometrici, acest lucru nu contează.
Există o singură excepție, îngustă. Puteți utiliza inteligența artificială pentru recunoașterea emoțiilor dacă aceasta servește unor scopuri medicale sau de siguranță.
De exemplu, monitorizarea vigilenței șoferului din motive de siguranță sau detectarea stresului pacientului în unitățile medicale se poate încadra în această excepție.
Limitări privind identificarea biometrică la distanță
Nu puteți utiliza sisteme de identificare biometrică la distanță în timp real în spații accesibile publicului în scopuri de aplicare a legii, cu excepția unor circumstanțe strict definite. Aceste excepții includ căutarea victimelor răpirii sau traficului de persoane, prevenirea amenințărilor iminente la adresa vieții sau a atacurilor teroriste și localizarea suspecților de infracțiuni grave pedepsite cu cel puțin patru ani de închisoare.
Fiecare utilizare necesită autorizație prealabilă de la un autoritatea judiciară sau un organism administrativ independent. În situații urgente, puteți începe utilizarea fără autorizație, dar trebuie să solicitați aprobarea în termen de 24 de ore.
Dacă autoritățile resping autorizația, trebuie să încetați imediat utilizarea sistemului și să ștergeți toate datele. Țările de Jos își pot stabili propriile reguli detaliate pentru aceste excepții în cadrul legislației naționale.
Întreprinderea dumneavoastră trebuie să notifice autoritatea relevantă de supraveghere a pieței și autoritatea națională pentru protecția datelor cu privire la fiecare utilizare. Statele membre transmit Comisiei Europene rapoarte anuale privind utilizarea identificării biometrice la distanță în timp real.
Obligații de conformitate pentru companiile olandeze
Companiile olandeze trebuie să ia măsuri concrete pentru a se conforma cu IA prin identificarea sistemelor interzise, eliminarea lor din operațiuni și menținerea unei documentații adecvate. DPA olandez iar Autoritatea Olandeză pentru Infrastructură Digitală va aplica aceste cerințe, impunând sancțiuni semnificative pentru încălcări.
Identificarea IA interzisă în cadrul operațiunilor
Trebuie să efectuați evaluări amănunțite ale riscurilor în cadrul organizației dumneavoastră pentru a identifica sistemele de inteligență artificială care ar putea încălca noile reguli. Aceasta înseamnă examinarea oricărei tehnologii care utilizează tehnici de manipulare, exploatează vulnerabilități, implementează scoruri sociale sau efectuează identificări biometrice în timp real în spații publice.
Începeți prin a crea un inventar al tuturor sistemelor de inteligență artificială utilizate în prezent. Documentați ce face fiecare sistem, cum procesează datele și pe cine afectează.
Acordați o atenție deosebită sistemelor care interacționează cu clienții, angajații sau publicul. Evaluările riscurilor ar trebui să analizeze dacă vreun sistem ar putea aduce atingere drepturilor fundamentale.
Aceasta include verificarea dacă sistemele de inteligență artificială iau decizii cu privire la persoane pe baza comportamentului, caracteristicilor personale sau conexiunilor sociale. Sistemele care urmăresc sau profilează persoanele fără transparență necesită o revizuire imediată.
Lucrează cu echipele tale tehnice pentru a înțelege cum funcționează fiecare sistem de inteligență artificială. Nu te poți baza doar pe descrierile furnizorilor.
Autoritatea pentru protecția datelor din Olanda a precizat clar că aveți responsabilitatea de a respecta reglementările, indiferent dacă ați construit sistemul sau l-ați achiziționat de la o terță parte.
Eliminarea treptată sau eliminarea sistemelor de inteligență artificială interzise
Trebuie să încetați imediat utilizarea practicilor de inteligență artificială interzise. Legea nu permite o perioadă de grație pentru sistemele interzise.
Dacă evaluarea riscurilor identifică o practică interzisă, trebuie să o dezactivați imediat. Creați un plan de eliminare care să abordeze atât impactul tehnic, cât și pe cel operațional.
Unele sisteme pot fi integrate în platforme mai mari sau conectate la mai multe procese. Va trebui să vă asigurați că eliminarea elementelor interzise nu perturbă funcțiile esențiale ale afacerii.
Înainte de a opri un sistem, identificați cum veți gestiona sarcinile pe care le-a îndeplinit anterior. Aceasta ar putea însemna revenirea la procese manuale, implementarea unei tehnologii diferite sau reproiectarea completă a fluxurilor de lucru.
Documentați fiecare pas al procesului de eliminare. Înregistrați momentul în care ați descoperit practica interzisă, ce acțiuni ați întreprins și când sistemul a fost complet dezactivat.
Autoritățile de reglementare vor aștepta dovezi clare că ați acționat prompt odată ce ați identificat încălcarea.
Păstrarea evidenței și documentarea
Trebuie să păstrați documentația tehnică care să dovedească respectarea regulilor de interdicție. Aceasta include înregistrări ale evaluărilor riscurilor, deciziilor privind sistemele de inteligență artificială și orice modificări pe care le-ați făcut pentru a realiza conformitatea.
Documentația dumneavoastră ar trebui să cuprindă:
- Inventarele sistemului cu descrieri ale fiecărei aplicații de inteligență artificială
- Rapoarte de evaluare a riscurilor prezentarea analizei dumneavoastră privind potențialele încălcări
- Înregistrări de eliminare detaliind când și cum ați dezactivat sistemele interzise
- Evaluările impactului asupra drepturilor fundamentale pentru orice cazuri limită
Păstrați aceste înregistrări timp de cel puțin cinci ani. Autoritatea de protecție a datelor din Olanda le poate solicita în timpul inspecțiilor sau investigațiilor.
Documentația lipsă sau incompletă poate duce la amenzi de până la 7,500,000 EUR sau 1% din cifra de afaceri globală anuală. Documentația tehnică trebuie să fie suficient de detaliată pentru ca autoritățile de reglementare să poată înțelege ce fac sistemele dumneavoastră de inteligență artificială și de ce respectă legea.
Descrierile generice sau materialele de marketing nu îndeplinesc această cerință. Includeți specificațiile tehnice, fluxurile de date și procesele decizionale.
Actualizați-vă documentația de fiecare dată când modificați sisteme de inteligență artificială sau implementați altele noi. Aveți nevoie de procese continue pentru a vă asigura că sistemele viitoare nu introduc practici interzise.
Cerințe de alfabetizare în domeniul inteligenței artificiale și instruirea personalului
Începând cu 2 februarie 2025, companiile olandeze care furnizează sau implementează sisteme de inteligență artificială trebuie să se asigure că personalul lor posedă cunoștințe adecvate despre inteligența artificială. Această obligație se aplică indiferent dacă utilizați sisteme de inteligență artificială cu risc ridicat sau cu risc scăzut.
Programele de instruire documentate trebuie să fie adaptate rolurilor și experiențelor tehnice ale angajaților dumneavoastră.
Obligația de alfabetizare a inteligenței artificiale explicată
Articolul 4 din Legea UE privind inteligența artificială impune o cerinta legala toți furnizorii și implementatorii de IA pentru a asigura o alfabetizare suficientă în domeniul IA în rândul personalului lor. Trebuie să luați măsuri pentru a garanta că personalul și contractanții care lucrează cu sisteme de IA înțeleg tehnologia cu care lucrează.
Obligația de competență în domeniul inteligenței artificiale acoperă pe oricine operează, utilizează sau ia decizii cu privire la sistemele de inteligență artificială în numele dumneavoastră. Aceasta include personalul tehnic care construiește sau întreține sistemele de inteligență artificială, precum și angajații fără competențe tehnice care utilizează instrumente de inteligență artificială în munca lor zilnică.
Trebuie să adaptați instruirea în domeniul inteligenței artificiale la rolul, cunoștințele tehnice, experiența, educația și contextul specific în care utilizează sistemele de inteligență artificială ale fiecărei persoane. Un dezvoltator de software care implementează modele de inteligență artificială necesită o instruire diferită față de un reprezentant al serviciului clienți care utilizează chatbot-uri bazate pe inteligență artificială.
Obligația vă cere să depuneți „toate eforturile” pentru a asigura niveluri adecvate de alfabetizare. Nu puteți oferi pur și simplu instruire simbolică și să pretindeți că sunteți conform.
Dezvoltarea unor programe de formare eficiente
Programul dumneavoastră de alfabetizare în domeniul inteligenței artificiale (IA) ar trebui să abordeze sistemele specifice de IA pe care le utilizează organizația dumneavoastră, în loc să ofere informații generice. Personalul trebuie să înțeleagă cum funcționează instrumentele specifice de IA cu care lucrează, limitele acestora și riscurile potențiale.
Conținutul instruirii ar trebui să acopere:
- Concepte de bază ale inteligenței artificiale relevante pentru sistemele dumneavoastră
- Cum să utilizezi corect instrumentele de inteligență artificială
- Potențiale erori și prejudecăți în rezultatele inteligenței artificiale
- Când este necesară supravegherea umană
- Politicile și procedurile de inteligență artificială ale organizației dumneavoastră
Trebuie să luați în considerare nivelul inițial de cunoștințe al fiecărui angajat. Personalul tehnic poate avea nevoie de instruire avansată privind dezvoltarea și testarea modelelor, în timp ce utilizatorii generali necesită îndrumări practice privind interpretarea rezultatelor inteligenței artificiale și recunoașterea momentelor în care rezultatele par incorecte.
Furnizarea de cursuri de formare poate lua diverse forme, inclusiv ateliere, cursuri online, coaching la locul de muncă sau programe externe. Formatul contează mai puțin decât asigurarea că personalul dobândește efectiv cunoștințele și abilitățile necesare.
Documentarea activităților de alfabetizare în domeniul inteligenței artificiale
Trebuie să păstrați evidența activităților de formare în domeniul alfabetizării în domeniul inteligenței artificiale pentru a demonstra conformitatea cu Legea UE privind inteligența artificială. Această documentație servește drept dovadă că v-ați îndeplinit obligațiile. obligatii legale.
Înregistrările dumneavoastră ar trebui să includă:
- Conținutul și materialele programului de instruire
- Listele angajaților care au absolvit cursurile de formare
- Datele și durata sesiunilor de instruire
- Rezultatele evaluării (dacă este cazul)
- Cum ați determinat nivelurile de alfabetizare adecvate pentru diferite roluri
Documentați procesul de identificare a nevoilor de alfabetizare în domeniul inteligenței artificiale (IA) în cadrul organizației dumneavoastră. Aceasta include modul în care ați evaluat ce personal necesită instruire și ce cunoștințe specifice au nevoie, pe baza interacțiunii lor cu sistemele de IA.
Păstrați evidențe despre modul în care actualizați instruirea pe măsură ce sistemele dvs. de inteligență artificială se schimbă sau pe măsură ce personal nou se alătură organizației dvs. Competența în domeniul inteligenței artificiale nu este o cerință unică, ci o obligație continuă care trebuie să se adapteze utilizării în continuă evoluție a tehnologiei inteligenței artificiale.
Supraveghere, aplicare și sancțiuni
Legea UE privind inteligența artificială stabilește o structură de aplicare a legii pe mai multe niveluri, cu implicații semnificative penalități financiare pentru nerespectare. Întreprinderile olandeze se confruntă cu supravegherea atât a autorităților naționale, cât și a celor europene, amenzile ajungând până la 7% din cifra de afaceri anuală mondială pentru practici de inteligență artificială interzise.
Autoritățile de supraveghere olandeze și ale UE
Autoritatea olandeză pentru protecția datelor servește drept principal organism național de supraveghere pentru aplicarea Legii privind inteligența artificială în Olanda. Această autoritate colaborează cu alte organisme olandeze desemnate de supraveghere a pieței pentru a monitoriza respectarea regulamentului.
La nivel european, Comisia Europeană supraveghează implementarea Legii privind inteligența artificială în toate statele membre. Oficiul European pentru Inteligența Artificială, înființat în cadrul Comisiei, coordonează activitățile de aplicare a legii și oferă expertiză tehnică.
Comitetul european pentru protecția datelor susține aplicarea consecventă a legii, în special în cazul în care sistemele de inteligență artificială implică prelucrarea datelor cu caracter personal. Aceste autorități colaborează pentru a asigura o aplicare uniformă în întreaga Uniune Europeană.
Dacă operați sisteme de inteligență artificială în mai multe țări ale UE, este posibil să vă confruntați cu controlul organismelor de supraveghere din fiecare jurisdicție în care sistemele dumneavoastră sunt implementate sau au efect.
Sancțiuni și răspundere civilă
Încălcarea practicilor interzise prevăzute la articolul 5 se sancționează cu amenzi de până la 35 de milioane de euro sau 7% din cifra de afaceri anuală totală la nivel mondial, oricare dintre acestea este mai mare. Aceste amenzi se aplică începând cu 2 februarie 2025.
Curtea de Justiție a UE (CJUE) deține autoritatea supremă de a interpreta prevederile Legii privind inteligența artificială. Instanțele naționale pot sesiza CJUE cu întrebări atunci când apar litigii cu privire la ce constituie o practică interzisă.
Pe lângă amenzile administrative, vă puteți confrunta cu acțiuni în răspundere civilă din partea unor persoane fizice sau organizații prejudiciate de sistemele de inteligență artificială neconforme. Statele membre pot stabili sancțiuni suplimentare în temeiul legislației naționale.
Îndrumări din partea organismelor europene și naționale
Comisia Europeană a publicat linii directoare privind interzisele Practicile IA la 4 februarie 2025. Aceste documente explică modul în care autoritățile vor interpreta interdicțiile prevăzute la articolul 5 și oferă exemple practice de conformitate.
Deși aceste orientări nu sunt obligatorii, ele oferă informații valoroase cu privire la prioritățile în materie de aplicare a legii. Doar CJUE poate oferi interpretări juridice autorizate.
Autoritățile de supraveghere olandeze pot emite îndrumări naționale suplimentare adaptate contextelor locale de afaceri. Ar trebui să monitorizați actualizările atât de la organismele europene, cât și de la cele olandeze, pe măsură ce evoluează abordările de aplicare a legii.
Orientările sunt disponibile în toate limbile UE pentru a sprijini înțelegerea transfrontalieră.
Întrebări frecvente
Legea europeană privind inteligența artificială aduce cerințe și restricții specifice care afectează întreprinderile olandeze începând cu februarie 2025. Aceste reglementări interzic anumite practici de inteligență artificială, impun măsuri de conformitateși să stabilească sancțiuni pentru încălcări.
Care sunt noile reglementări privind utilizarea inteligenței artificiale în companiile olandeze începând cu februarie 2025?
Legea europeană privind inteligența artificială a intrat în vigoare la 1 august 2024, primul set de interdicții intrând în vigoare la 2 februarie 2025. Aceste reglementări se aplică tuturor întreprinderilor olandeze care dezvoltă, implementează sau utilizează sisteme de inteligență artificială în Uniunea Europeană.
Legea interzice sistemele de inteligență artificială manipulatoare care utilizează tehnici subliminale pentru a influența decizii pe care oamenii nu le-ar lua în mod normal. Sunt, de asemenea, interzise sistemele de inteligență artificială care exploatează vulnerabilitățile bazate pe vârstă, dizabilitate sau statut socioeconomic.
Sistemele de notare socială care judecă indivizii pe baza comportamentului lor social sau a caracteristicilor personale se confruntă cu o interdicție completă. De asemenea, reglementările interzic evaluările de risc bazate pe inteligență artificială care prezic infracțiunile exclusiv prin profilare sau analiză a trăsăturilor de personalitate, mai degrabă decât prin fapte legate de activități criminale.
Sistemele de clasificare biometrică care deduc rasa, opiniile politice, apartenența sindicală, convingerile religioase sau orientarea sexuală din imaginile faciale sau amprente digitale nu sunt permise. Identificarea biometrică de la distanță în timp real în spațiile publice este interzisă, cu excepția situațiilor strict definite, cu specificitate... autorizație legală.
Cum afectează directivele olandeze privind inteligența artificială din februarie 2025 confidențialitatea datelor și protecția consumatorilor?
Legea privind inteligența artificială funcționează alături de reglementările existente privind protecția datelor, inclusiv GDPR. Autoritatea olandeză pentru protecția datelor oferă îndrumări cu privire la modul în care sistemele de inteligență artificială trebuie să respecte normele de protecție a datelor, în special în ceea ce privește luarea deciziilor automatizate.
Colectarea nețintită a imaginilor faciale de pe internet sau a filmărilor de pe camere pentru a crea sau extinde baze de date de recunoaștere facială este interzisă. Această restricție protejează drepturile la viață privată ale persoanelor și previne colectarea neautorizată de date biometrice.
Sistemele de IA trebuie să respecte drepturile fundamentale pe tot parcursul ciclului lor de viață. Autoritățile publice și entitățile care furnizează servicii publice trebuie să efectueze o evaluare a impactului asupra drepturilor fundamentale atunci când utilizează sisteme de IA cu risc ridicat.
În ce activități bazate pe inteligență artificială nu mai sunt autorizate companiile olandeze să se implice din cauza recentelor modificări legislative?
Compania dumneavoastră nu poate utiliza sisteme de recunoaștere a emoțiilor la locul de muncă sau în mediile educaționale. Aceste sisteme sunt interzise indiferent de beneficiile pretinse sau de cazurile de utilizare.
Nu puteți implementa sisteme de inteligență artificială care manipulează oamenii prin tehnici subliminale sau le exploatează vulnerabilitățile. Aceasta include sisteme care vizează indivizii pe baza dizabilității, statutului social sau vârstei lor pentru a le influența comportamentul.
Sistemele de clasificare biometrică care clasifică persoanele pe baza unor caracteristici sensibile sunt interzise. Nu puteți utiliza inteligența artificială pentru a deduce rasa, opiniile politice, convingerile religioase sau orientarea sexuală a unei persoane din datele sale biometrice.
Sistemele de notare socială sunt complet interzise. Nu poți implementa inteligență artificială care evaluează sau clasifică oamenii pe baza comportamentului lor social sau a caracteristicilor personale.
Identificarea biometrică de la distanță în timp real în spațiile accesibile publicului este interzisă pentru utilizare comercială. Autoritățile de aplicare a legii pot utiliza astfel de sisteme numai în circumstanțe strict definite, cu autorizația legală corespunzătoare.
Ce pași trebuie să ia corporațiile olandeze pentru a-și alinia sistemele de inteligență artificială la standardele de conformitate stabilite în februarie 2025?
Trebuie să identificați toate sistemele de inteligență artificială pe care organizația dumneavoastră le utilizează sau le implementează în prezent. Acest inventar ar trebui să clasifice fiecare sistem în funcție de clasificările de risc definite în Legea privind inteligența artificială.
Verificați-vă sistemele de inteligență artificială în raport cu lista practicilor interzise. Dacă utilizați sisteme interzise, trebuie să le eliminați treptat pentru a evita sancțiunile de reglementare.
Documentați scopurile, sursele de date și procesele decizionale ale sistemelor dvs. de inteligență artificială. Această documentație ajută la demonstrarea conformității și susține orice evaluări de impact necesare.
Pentru sistemele de inteligență artificială cu risc ridicat, aveți nevoie de măsuri suplimentare de conformitate. Autoritățile publice trebuie să înregistreze sistemele cu risc ridicat în baza de date europeană până la 2 august 2026 și să efectueze evaluări ale impactului asupra drepturilor fundamentale.
Instruiți-vă personalul cu privire la noile cerințe și stabiliți procese interne pentru monitorizarea continuă a conformității. Programul dumneavoastră de conformitate ar trebui să includă revizuiri regulate ale sistemelor de inteligență artificială pentru a vă asigura că acestea rămân în limitele reglementărilor.
Există interdicții specifice sectorului privind inteligența artificială de care firmele olandeze ar trebui să fie conștiente în urma noilor reglementări?
Organizațiile din sectorul educației se confruntă cu restricții specifice. Nu puteți utiliza sisteme de recunoaștere a emoțiilor pentru a monitoriza elevii sau a le evalua stările emoționale, indiferent de beneficiul educațional urmărit.
Mediile de lucru au limitări similare. Angajatorii nu pot implementa inteligența artificială pentru recunoașterea emoțiilor pentru a monitoriza stările emoționale sau reacțiile angajaților în timpul activităților profesionale.
Agențiile de aplicare a legii au excepții limitate pentru sistemele de identificare biometrică. Aceste excepții necesită o autorizare legală strictă și se aplică numai în situații specifice, cum ar fi căutarea victimelor răpirii, prevenirea amenințărilor iminente sau urmărirea suspecților de infracțiuni grave.
Autoritățile publice care furnizează servicii publice se confruntă cu cerințe suplimentare, dincolo de interdicțiile generale. Trebuie să efectuați evaluări ale impactului asupra drepturilor fundamentale pentru toate sistemele de IA cu risc ridicat și să înregistrați aceste sisteme în baza de date europeană.
Care sunt sancțiunile pentru nerespectarea restricțiilor olandeze privind inteligența artificială introduse în februarie 2025?
Autoritățile de reglementare pot impune amenzi substanțiale pentru nerespectarea Legii privind inteligența artificială. Structura sancțiunilor urmează o abordare pe niveluri, bazată pe gravitatea încălcării.
Utilizarea sistemelor de inteligență artificială interzise reprezintă cea mai gravă categorie de încălcare. Organizația dumneavoastră riscă sancțiuni financiare semnificative dacă continuați să operați sisteme interzise după termenul limită din februarie 2025.
Cuantumul exact al penalităților depinde de calificarea organizației dumneavoastră drept întreprindere mică și mijlocie sau companie mai mare. Autoritățile de reglementare iau în considerare factori precum natura încălcării, durata acesteia și orice prejudiciu cauzat.
Dincolo de sancțiunile financiare, nerespectarea regulilor poate afecta reputația organizației dumneavoastră. Persoanele prejudiciate de sistemele de inteligență artificială interzise pot solicita despăgubiri suplimentare prin intermediul procedurilor civile.
Autoritatea olandeză pentru protecția datelor și alte organisme de reglementare au competențe de aplicare a legii. Acestea pot investiga plângeri, pot efectua audituri și pot solicita încetarea imediată a practicilor interzise.
