Răspunderea IA în Olanda: cine este răspunzător atunci când inteligența artificială face o greșeală

Răspunderea pentru IA în Țările de Jos nu este guvernată de o lege separată. Atunci când un sistem de IA provoacă daune, responsabilitatea este repartizată conform normelor ordinare ale dreptului civil olandez: contractul dintre părți, răspunderea pentru o încălcare atribuibilă în temeiul articolului 6:74 din Codul Civil, răspunderea delictuală în temeiul articolului 6:162, răspunderea pentru auxiliare și pentru obiecte necorespunzătoare utilizate în executare și regimul răspunderii pentru produse în temeiul articolelor 6:185-6:193. Legea UE privind IA impune obligații și amenzi de drept public furnizorilor și implementatorilor, dar nu oferă victimei în sine o cerere de despăgubire.

Acesta este punctul de plecare practic și explică de ce majoritatea litigiilor privind răspunderea pentru inteligența artificială în Olanda sunt soluționate pe baza contractului și a obligației de diligență, mai degrabă decât pe baza a ceva specific tehnologiei. Acest ghid stabilește care parte este expusă în ce situație, ce se schimbă odată cu implementarea Directivei revizuite privind răspunderea pentru produse, ce adaugă și ce nu adaugă Legea privind inteligența artificială după amânarea convenită în 2026 și cum abordează o instanță olandeză problema probelor pe care o creează un sistem de auto-învățare.

Temeiurile juridice olandeze care se aplică efectiv

Nu există o lege olandeză privind răspunderea pentru inteligența artificială și nici una europeană. Există un set de reguli generale care au fost scrise pentru alte situații și pe care instanțele le aplică acum în cazul inteligenței artificiale. Cunoașterea regulilor care se potrivesc cazului dumneavoastră determină pe cine puteți da în judecată, ce trebuie să dovediți și cât puteți recupera.

• Încălcarea contractului imputabilă (articolul 6:74 din Codul Civil)Calea obișnuită în care părțile au un acord: furnizorul a promis un sistem cu anumite proprietăți și nu le-a livrat, sau implementatorul l-a folosit în afara parametrilor conveniți.
• Răspunderea personalului auxiliar (articolul 6:76)O parte care folosește o altă persoană pentru a îndeplini o obligație este răspunzătoare pentru acea persoană ca și pentru ea însăși. Acest lucru este important în cazul în care un furnizor de inteligență artificială subcontractează dezvoltarea sau găzduirea de modele.
• Răspunderea pentru obiecte nepotrivite utilizate în executarea obligațiilor (articolul 6:77)Dacă un obiect utilizat pentru îndeplinirea unei obligații este nepotrivit scopului respectiv, neîndeplinirea obligațiilor rezultate este atribuită debitorului, cu excepția cazului în care atribuirea ar fi nerezonabilă în circumstanțele date. Aceasta este prevederea în temeiul căreia un spital sau o firmă de contabilitate poate fi trasă la răspundere pentru un instrument defect pe care l-a utilizat, iar excepția este mai restrânsă decât tind să presupună pârâții.
• Delict (articolul 6:162)Calea de urmat pentru oricine din afara contractului: pacientul vătămat, candidatul respins la un loc de muncă, utilizatorul drumurilor. Reclamantul trebuie să demonstreze existența unui act ilegal, atribuibilitatea, prejudiciul, cauzalitatea și relativitatea.
• Răspunderea angajaților și a contractanților nesubordonați (articolele 6:170 și 6:171)O organizație răspunde pentru greșelile oamenilor care lucrează pentru ea, inclusiv în cazul în care un angajat s-a bazat necritic pe rezultatul unei mașini.
• Răspunderea pentru produse (articolele 6:185 - 6:193)Răspunderea obiectivă a producătorului pentru un produs defect, fără dovedirea culpei. Se contestă dacă un software pur se califică drept produs în temeiul textului actual, ceea ce rezolvă exact directiva europeană revizuită.

În plus, un sistem de inteligență artificială care prelucrează date cu caracter personal este supus RGPD. Articolul 22 restricționează deciziile bazate exclusiv pe prelucrarea automată care produc efecte juridice sau afectează în mod similar în mod semnificativ o persoană, iar articolul 82 oferă un drept separat la despăgubiri pentru daunele materiale și nemateriale cauzate de o încălcare. În practică, un reclamant cu o opinie privind protecția datelor va invoca adesea această acțiune alături de acțiunea delictuală, deoarece operatorul are apoi o sarcină demonstrabilă a responsabilității.

Începeți cu contractul, pentru că acolo este alocat riscul.

Între companii, răspunsul la întrebarea cine este responsabil pentru o eroare de inteligență artificială este de obicei scris în acord cu mult înainte ca ceva să meargă prost. Legislația olandeză lasă părților o largă libertate de a aloca acest risc, iar furnizorii de inteligență artificială o utilizează: termenii standard descriu de obicei rezultatul ca fiind indicativ, declină adecvarea pentru un anumit scop, plafonează răspunderea la taxele plătite pe o perioadă limitată și exclud complet pierderile indirecte.

Aceste clauze sunt valabile mai des decât se așteaptă clienții, dar nu întotdeauna. O clauză de excludere poate fi anulată atunci când invocarea acesteia ar fi inacceptabilă conform standardelor de rezonabilitate și echitate în temeiul articolului 6:248 din Codul Civil, iar instanțele olandeze aplică acest test cel mai ușor în cazul în care prejudiciul a fost cauzat de imprudență deliberată sau de un act echivalent acesteia din partea furnizorului sau a conducerii acestuia. În relațiile guvernate de termeni și condiții generale, o clauză poate fi, de asemenea, anulabilă ca fiind nerezonabil de oneroasă în temeiul articolului 6:233, iar consumatorii beneficiază de protecția suplimentară a listelor legale din articolele 6:236 și 6:237.

Clauzele care decid cazurile reale sunt mai banale decât plafonul de răspundere. Ce garanții a dat furnizorul cu privire la acuratețe, date de antrenament și testarea erorilor? Cine este responsabil pentru validarea rezultatelor înainte de a se acționa asupra acestora? Care parte deține jurnalele și pentru cât timp sunt păstrate? Există o obligație de a notifica degradarea performanței modelului? Se angajează furnizorul să mențină sistemul conform cu Legea IA și cine suportă costul dacă nu o face? Un contract negociat privind IA care răspunde la aceste întrebări valorează mai mult decât orice clauză privind cuantumul daunelor.

În cazul în care furnizorul de servicii este un profesionist care acționează pentru clienți, există un al doilea nivel. O firmă care utilizează un instrument de inteligență artificială în propria furnizare de servicii rămâne răspunzătoare față de clientul său pentru rezultat, iar articolul 6:77 din Codul Civil prevede că inadecvarea instrumentului este, în principiu, atribuită firmei, mai degrabă decât clientului. Transferul acestui risc înapoi în lanț către furnizor depinde în întregime de contractul de furnizare, motiv pentru care cele două seturi de termeni ar trebui interpretate unul în raport cu celălalt.

Obligația de diligență a unei organizații care implementează IA

În afara contractului, răspunderea depinde de dacă organizația a acționat ca un implementator rezonabil de atent. Instanțele olandeze evaluează acest lucru în modul în care evaluează orice obligație de diligență: cât de probabil a fost prejudiciul, cât de grav ar fi acesta, cât de împovărătoare au fost precauțiile și ce permitea stadiul tehnicii. Aplicat IA, a apărut în practică un standard recognoscibil.

• Adecvare pentru utilizarea reală. Un sistem validat pentru o populație, un set de date sau o jurisdicție nu este automat potrivit pentru o alta. Implementarea sa în afara condițiilor în care a fost testat este o încălcare clasică a obligației de diligență.
• Supraveghere umană semnificativă. Persoana care revizuiește rezultatul trebuie să aibă informațiile, timpul și autoritatea necesare pentru a se abate de la acesta. Supravegherea care există doar pe hârtie, unde evaluatorul aprobă sute de rezultate pe oră, nu oferă nicio protecție.
• Monitorizare după implementare. Performanța modelului se modifică pe măsură ce lumea se schimbă. O organizație care nu măsoară niciodată acuratețea după lansare nu poate demonstra că a fost atentă.
• Transparență față de persoana afectată. A le spune oamenilor că s-a folosit IA și cum a fost folosită este atât o obligație prevăzută de Legea IA în anumite cazuri, cât și un factor care determină dacă o instanță consideră comportamentul ilegal.
• Documentație. Jurnale, înregistrări ale versiunilor, rezultate ale testelor și motivele acceptării sau suprascrierii unei ieșiri. Fără acestea, organizația nu poate respinge afirmația, indiferent ce s-a întâmplat de fapt.

Imaginea în oglindă este, de asemenea, valabilă. O organizație care anulează o ieșire corectă a inteligenței artificiale sau care ignoră un avertisment generat de sistem este expusă aceleiași obligații de diligență. Întrebarea nu este niciodată dacă s-a folosit inteligența artificială, ci dacă procesul decizional în jurul acesteia a fost solid.

Răspunderea pentru produse: regulile actuale și regulile din decembrie 2026

Conform regimului olandez actual, prevăzut la articolele 6:185-6:193 din Codul Civil, producătorul unui produs defect este răspunzător pentru deces, vătămări corporale și daune aduse bunurilor destinate uzului privat, fără ca partea vătămată să fie nevoită să dovedească vina. Un produs este defect dacă nu oferă siguranța la care o persoană este îndreptățită să se aștepte, ținând cont de prezentarea sa, de utilizarea sa preconizată în mod rezonabil și de momentul punerii în circulație. Partea vătămată trebuie să dovedească defectul, prejudiciul și legătura cauzală. Reclamațiile sunt supuse unui termen de prescripție de trei ani, care curge de la data cunoașterii prejudiciului, a defectului și a producătorului și se prescriu în orice caz la zece ani de la punerea în circulație a produsului.

Slăbiciunea acestui regim pentru IA este structurală. A fost scris pentru bunuri tangibile, nu este clar dacă software-ul independent se califică drept produs, iar un sistem care își schimbă comportamentul după ce a fost pus în circulație se află într-o situație dificilă, având un defect evaluat în momentul circulației.

Directiva (UE) 2024/2853 privind răspunderea pentru produsele defecte, adoptată la 23 octombrie 2024, înlocuiește directiva din 1985 și răspunde majorității acestor obiecții. Software-ul, inclusiv sistemele de inteligență artificială, este în mod expres un produs. Cercul părților răspunzătoare se extinde dincolo de producător la importatori, reprezentanți autorizați, furnizori de servicii de îndeplinire a comenzilor și, în cazuri definite, o parte care modifică substanțial un produs deja existent pe piață. Defectul poate fi evaluat ținând cont de efectele învățării după implementare și de capacitatea de a furniza actualizări. Pragul pentru daunele materiale dispare, iar daunele recuperabile includ în mod expres distrugerea sau coruperea datelor și prejudiciile psihologice recunoscute din punct de vedere medical. Un aspect esențial pentru inteligența artificială este faptul că o instanță poate dispune divulgarea probelor deținute de un pârât, iar prezumțiile relativi de defecte și de cauzalitate se aplică atunci când complexitatea tehnică sau științifică face ca proba să fie excesiv de dificilă pentru reclamant.

Statele membre trebuie să transpună directiva până la 9 decembrie 2026, iar aceasta se aplică produselor introduse pe piață după această dată. Proiectul de lege olandez de punere în aplicare, care modifică Cărțile 6 și 7 din Codul Civil, a fost prezentat Camerei Reprezentanților (Tweede Kamer) în martie 2026 și nu a fost încă adoptat; intrarea în vigoare va fi stabilită prin decret regal. Până atunci, articolele existente 6:185-6:193 continuă să se aplice, iar produsele aflate deja pe piață la momentul intrării în vigoare a noilor reguli rămân sub vechiul regim. Cu alte cuvinte, timp de mai mulți ani, cele două sisteme vor funcționa în paralel, iar data la care un sistem a fost introdus pe piață va decide care dintre ele i se aplică.

Ce face și ce nu face Legea IA

Legea privind IA, Regulamentul (UE) 2024/1689, este legislație privind siguranța produselor și supravegherea pieței. Aceasta clasifică sistemele în funcție de risc, interzice în mod direct un număr mic de practici, impune furnizorilor de sisteme de IA cu risc ridicat obligații de proiectare, documentație, guvernanță a datelor, supraveghere umană, acuratețe și monitorizare post-comercializare , adaugă obligații de transparență mai ușoare pentru sistemele care interacționează cu oamenii sau generează conținut sintetic și stabilește reguli separate pentru modelele de IA cu scop general. Încălcarea este impusă de autoritățile de supraveghere prin amenzi administrative. Nu creează un drept la despăgubiri, iar o victimă care dorește daune trebuie totuși să depună o acțiune în temeiul Codului Civil.

Acestea fiind spuse, Legea privind inteligența artificială (IA) este foarte importantă pentru răspunderea civilă, deoarece oferă standardul scris în funcție de care o instanță judecătorească evaluează obligația de diligență. O organizație care a ignorat o obligație de documentare, supraveghere sau monitorizare nu a atins, la prima vedere, standardul pe care îl îndeplinește un implementator atent. Dovezile de conformitate funcționează și invers, cu aceeași forță: dosarul tehnic, înregistrările de gestionare a riscurilor și jurnalele de bord sunt exact ceea ce are nevoie un pârât atunci când primește o cerere.

Calendarul s-a modificat în 2026 și merită menționat cu precizie, deoarece planificarea conformității a fost construită pe datele inițiale. Regulamentul a intrat în vigoare la 1 august 2024. Practicile interzise și obligația de alfabetizare în domeniul inteligenței artificiale se aplică de la 2 februarie 2025, iar normele privind modelele de inteligență artificială cu uz general, guvernanța și sancțiunile de la 2 august 2025. Cea mai mare parte a regulamentului a devenit aplicabilă la 2 august 2026. În temeiul pachetului de simplificare pentru care Consiliul a dat aprobarea finală la 29 iunie 2026, obligațiile pentru sistemele independente cu risc ridicat enumerate în anexa III sunt amânate până la 2 decembrie 2027, iar cele pentru sistemele cu risc ridicat încorporate în produse care fac deja obiectul legislației UE privind produsele până la 2 august 2028. Termenul limită pentru spațiile de testare a reglementării a fost mutat până la 2 august 2027, perioada de grație pentru normele privind transparența conținutului a fost scurtată și au fost adăugate noi interdicții privind materialele cu abuzuri sexuale asupra copiilor generate de inteligență artificială și imaginile intime fără consimțământ.

Amânarea nu înseamnă abrogare. Interdicțiile, obligațiile de transparență și regulile model cu scop general se aplică acum, iar obligațiile amânate cu risc ridicat descriu un comportament pe care o instanță îl poate considera deja drept standard de diligență aplicabil. Organizațiile care își întrerup programele până în 2027 vor constata că le-a ajuns din urmă primele.

Supravegherea în Țările de Jos este organizată printr-un act de punere în aplicare separat. Propunerea conferă Autorității Olandeze pentru Protecția Datelor (Autoriteit Persoonsgegevens) și Autorității Olandeze pentru Infrastructură Digitală (Rijksinspectie Digitale Infrastructuur) un rol de coordonare, un set de supraveghetori sectoriali existenți asigurând supravegherea în propriile domenii. Actul respectiv nu intrase încă în vigoare la momentul redactării prezentului document. Deoarece Legea privind inteligența artificială este un regulament, aceasta se aplică direct indiferent de situație; ceea ce lipsește încă este cadrul național de aplicare a legii și de sancționare.

Problema probelor și modul în care procedura olandeză o tratează

Cea mai dificilă parte a unei cereri de despăgubire pentru răspunderea împotriva inteligenței artificiale este aproape niciodată temeiul juridic. Este vorba de demonstrarea faptului că acest sistem, și nu omul care l-a folosit sau o cauză fără legătură, a produs daunele. Un model opac, care a fost reantrenat de la incident și ale cărui jurnaluri au fost păstrate timp de treizeci de zile, prezintă reclamantului un zid de probe.

Răspunsul european urma să fie o inversare a sarcinii probei. Propunerea Comisiei pentru o Directivă privind răspunderea în domeniul inteligenței artificiale, prezentată în septembrie 2022, ar fi introdus o prezumție de cauzalitate și dreptul de a dispune divulgarea probelor privind sistemele cu risc ridicat. Nu s-a ajuns niciodată la un acord, iar Comisia a retras-o oficial, publicând retragerea în Jurnalul Oficial în octombrie 2025. Nimic nu a înlocuit-o și nicio nouă propunere nu a fost adoptată.

Ceea ce rămâne sunt instrumentele procedurale naționale și prezumțiile din Directiva revizuită privind răspunderea pentru produse. Procedura civilă olandeză permite deja unei părți să solicite inspecția documentelor specifice deținute de o altă parte în temeiul articolului 843a din Codul de procedură civilă și să solicite instanței să numească un expert sau să dispună o expertiză preliminară. În practică, o cerere de divulgare timpurie și formulată cu precizie a înregistrărilor, versiunilor de modele, rapoartelor de validare și înregistrărilor incidentelor are un impact mai mare asupra unei creanțe decât orice argument privind sarcina probei. Din partea apărării, același punct de vedere este valabil și în sens invers: o organizație care nu poate prezenta aceste înregistrări va constata că instanța trage concluzii din absența lor.

Politica de păstrare a datelor este, prin urmare, o chestiune de răspundere, nu doar o chestiune IT. În cazul în care se aplică Legea privind inteligența artificială, furnizorii și implementatorii de sisteme cu risc ridicat trebuie să păstreze jurnalele generate automat pentru o perioadă minimă definită. În cazurile în care nu se face acest lucru, termenele de prescripție pentru reclamația subiacentă sunt un ghid mai bun, iar treizeci de zile nu sunt suficiente.

Cum se manifestă acest lucru în sectoarele în care contează cel mai mult

Asistență medicală. Un sistem de asistență pentru diagnostic nu îndepărtează responsabilitatea de la medic. Relația de tratament rămâne cu furnizorul de îngrijire în temeiul acordului de tratament medical din articolele 7:446 și următoarele din Codul Civil, iar standardul este cel al unui profesionist rezonabil de competent. În cazul în care instrumentul în sine este nepotrivit, articolul 6:77 atribuie acest lucru furnizorului de îngrijire, cu excepția cazului în care atribuirea ar fi nerezonabilă, iar jurisprudența privind dispozitivele medicale defecte arată că excepția este aplicată restrictiv. Software-ul care se califică drept dispozitiv medical are propriile obligații în temeiul Regulamentului privind dispozitivele medicale, pe lângă Legea privind inteligența artificială.

Recrutare și resurse umane. Un sistem de selecție care filtrează candidații prezintă un risc ridicat în temeiul Legii privind inteligența artificială și se află în limitele legislației privind egalitatea de tratament. Discriminarea indirectă printr-o variabilă proxy este ilegală chiar și atunci când nimeni nu a intenționat acest lucru, un punct dezvoltat mai departe în articolul nostru despre răspunderea pentru părtinirea algoritmică , iar angajatorul, nu furnizorul, se confruntă cu candidatul. Articolul 22 din GDPR limitează respingerea pur automată, iar consiliul de întreprindere are un cuvânt de spus în introducerea sistemelor utilizate pentru monitorizarea sau evaluarea personalului.

Circulația rutieră. Legislația olandeză conține deja o regulă de răspundere obiectivă care se aplică indiferent de nivelul de automatizare. În temeiul articolului 185 din Legea circulației rutiere din 1994 (Wegenverkeerswet 1994), proprietarul sau deținătorul unui autovehicul este răspunzător pentru daunele cauzate participanților la trafic neprotejați într-o coliziune pe un drum public, cu excepția cazului în care a existat forță majoră, iar jurisprudența stabilește această apărare foarte importantă. Alături de aceasta, șoferul poate fi răspunzător în răspundere civilă delictuală, iar producătorul în temeiul normelor de răspundere pentru produse, în cazul în care sistemul a fost defect. Automatizarea schimbă echilibrul între aceste rute; nu o elimină pe prima.

Servicii financiare. O instituție care utilizează modele pentru scorarea creditului, monitorizarea tranzacțiilor sau consiliere rămâne supusă obligației de diligență prevăzute în Legea privind supravegherea financiară (Wet op het financieel toezicht) și supravegherii de către autoritățile de reglementare. Deficiențele de guvernanță ale modelului sunt tratate ca deficiențe de guvernanță ale instituției, nu ale furnizorului.

Conținut și comunicări. Sistemele generative creează o expunere de un alt tip: încălcarea drepturilor de proprietate intelectuală, rezultate defăimătoare sau înșelătoare și publicarea de date cu caracter personal. Răspunderea în acest caz respectă regulile obișnuite pentru partea care publică, iar faptul că o mașină a produs textul nu constituie o apărare; articolul nostru despre răspunderea pentru conținutul generat de inteligența artificială prezintă această poziție în detaliu.

Reducerea expunerii înainte ca ceva să meargă prost

Cea mai mare parte a măsurilor de protecție a unei organizații trebuie să fie implementate înainte de incident, deoarece acestea constau în documente care nu pot fi create în mod credibil ulterior.

• Hartă unde este efectiv utilizată IA. Majoritatea organizațiilor subestimează acest lucru, deoarece instrumentele ajung încorporate în software-ul pe care compania îl licențiază deja. Clasificați fiecare utilizare în conformitate cu Legea IA și înregistrați raționamentul.
• Rescrieți contractele. Abordați în mod explicit garanțiile de acuratețe, proveniența datelor de instruire, testarea erorilor de percepție, obligațiile de actualizare, conformitatea cu Legea privind inteligența artificială, proprietatea și păstrarea jurnalelor, drepturile de audit, notificarea incidentelor și interacțiunea dintre plafonul furnizorului și propria expunere față de clienți.
• Proiectați supravegherea umană astfel încât să fie reală. Oferiți-i recenzorului informațiile, timpul și mandatul de a-și exprima dezacordul și înregistrați când își exprimă dezacordul.
• Înregistrați în mod deliberat. Decideți ce se păstrează, pentru cât timp și de către cine și aliniați acest lucru cu perioadele de prescripție, mai degrabă decât cu costul de stocare.
• Test pentru bias și drift conform unui programși păstrați rezultatele chiar și atunci când acestea sunt nefavorabile. O problemă documentată care a fost abordată este o poziție mult mai bună decât una nedocumentată care nu a fost abordată.
• Verificați asigurarea. Polițele de asigurare de răspundere civilă profesională și răspundere civilă generală nu au fost redactate având în vedere sistemele autonome. Întrebați în scris asigurătorul dacă o cerere de despăgubire care decurge dintr-o decizie susținută de inteligența artificială este acoperită și păstrați răspunsul.

Întrebări frecvente despre răspunderea pentru inteligența artificială

Sfaturi privind răspunderea pentru inteligența artificială de la Law and More

Poziția juridică privind răspunderea pentru inteligența artificială este mai stabilă decât sugerează dezbaterea. Nu există nicio lacună în legislația olandeză: contractul, obligația de diligență, regulile privind auxiliarele și obiectele nepotrivite, precum și regimul răspunderii pentru produse acoperă deja domeniul, iar Directiva revizuită privind răspunderea pentru produse închide întrebările rămase legate de software începând cu decembrie 2026. Ceea ce se schimbă nu este dacă puteți fi tras la răspundere, ci cât de ușor poate un reclamant să dovedească acest lucru și cât din documentația proprie vă va fi citită înapoi.

Law and More consiliază furnizorii și utilizatorii de sisteme de inteligență artificială exact în aceste puncte. Revizuim și negociem contracte legate de inteligență artificială și software, evaluăm unde se încadrează o implementare în cadrul Legii privind inteligența artificială și ce înseamnă aceasta pentru obligația dumneavoastră de diligență, stabilim guvernanță și înregistrare care vor rezista în proceduri și acționăm în favoarea și împotriva părților în litigiile privind daunele cauzate de deciziile automatizate. Dacă introduceți un sistem de inteligență artificială sau vă confruntați cu o reclamație legată de unul, contactați departamentul nostru. Drept IT echipă și vom parcurge expunerea împreună cu tine.