Regulile privind chatboții în temeiul Legii UE privind inteligența artificială: ce se aplică din august 2026?

Da: începând cu 2 august 2026, se aplică normele de transparență prevăzute la articolul 50 din Legea UE privind inteligența artificială , iar un chatbot trebuie să le precizeze utilizatorilor că are de-a face cu un sistem de inteligență artificială, cel târziu la prima interacțiune. Singura excepție este cazul în care acest lucru este deja evident pentru un utilizator rezonabil de bine informat.

Pentru majoritatea chatbot-urilor de servicii pentru clienți și de pe site-uri web, această dezvăluire este obligația principală și este ușor și ieftin de îndeplinit. Un chatbot care ajută la decizia privind candidații la locuri de muncă, creditul sau accesul la servicii esențiale este o altă problemă: poate fi un sistem cu risc ridicat, cu reguli mult mai stricte care se aplică începând cu 2 decembrie 2027. Mai jos explicăm ce s-a schimbat, cum să clasificați chatbot-ul și ce trebuie să faceți acum, inclusiv suprapunerea cu GDPR.

Ce s-a schimbat pe 2 august 2026?

Obligațiile de transparență prevăzute la articolul 50 din Legea privind inteligența artificială au devenit aplicabile. Pentru chatboții, aceasta înseamnă că utilizatorii trebuie să fie clar informați că interacționează cu un sistem de inteligență artificială, cel târziu în momentul primei interacțiuni sau expuneri [articolul 50 alineatele (1) și (5) din Regulamentul (UE) 2024/1689 ].

Informațiile trebuie să fie clare și ușor de distins și trebuie să îndeplinească cerințele de accesibilitate. O linie în termenii și condițiile, bannerul cookie sau subsolul paginii nu este suficientă. Dacă un utilizator rezonabil ar putea crede că discută cu o ființă umană, chatbot-ul nu respectă cerințele. Nu vă bazați superficial pe excepție pentru situațiile în care natura inteligenței artificiale este evidentă.

Urmează un termen limită conex. Furnizorii de sisteme de inteligență artificială care generează audio, imagini, videoclipuri sau text sintetic trebuie să marcheze rezultatul respectiv într-un format lizibil de mașină, astfel încât acesta să poată fi detectat ca fiind generat artificial (articolul 50 alineatul (2)). Pentru sistemele introduse pe piață înainte de 2 august 2026, IA Omnibus , în vigoare din 27 iulie 2026, permite respectarea termenului până la 2 decembrie 2026. Dacă chatbot-ul dvs. generează conținut care ar putea fi considerat creat de om, acest termen limită este relevant pentru dvs. sau pentru furnizorul dvs.

Fazele anterioare se aplică deja. Practicile de IA interzise la articolul 5 se aplică de la 2 februarie 2025, iar obligațiile pentru modelele de IA cu uz general de la 2 august 2025.

Chatbot-ul tău prezintă risc limitat sau risc ridicat?

Majoritatea chatboților pentru servicii clienți și site-uri web nu prezintă riscuri ridicate; se încadrează doar în regulile de transparență. Important este modul în care utilizați chatbotul, nu cât de avansat este modelul subiacent.

Pentru un robot standard de asistență sau de întrebări frecvente, informarea utilizatorilor că au de-a face cu inteligența artificială poate fi aproape completă în temeiul Legii privind inteligența artificială. Un chatbot devine cu risc ridicat dacă este utilizat pentru a lua sau a sprijini în mod material decizii importante cu privire la persoane dintr-un domeniu enumerat în anexa III, de exemplu:

• decizii de angajare, cum ar fi recrutarea, selecția, promovarea sau concedierea;
• evaluarea bonității sau stabilirea unui scor de credit;
• decizia privind eligibilitatea sau accesul la servicii și beneficii publice sau private esențiale, cum ar fi beneficiile sociale sau anumite asigurări de viață și de sănătate;
• alte utilizări din anexa III care afectează drepturile fundamentale.

Sistemele cu risc ridicat sunt supuse unor cerințe mult mai stricte, inclusiv managementul riscurilor, guvernanța datelor, documentația tehnică, înregistrarea datelor, supravegherea umană și o evaluare a conformității. AI Omnibus a amânat obligațiile prevăzute în anexa III până la 2 decembrie 2027. Dacă cazul dumneavoastră de utilizare se îndreaptă în această direcție, proiectați acum pentru aceste cerințe, deoarece reconstruirea ulterioară a unui sistem este mai costisitoare.

O autoevaluare rapidă

Pune-ți trei întrebări:

• Chatbot-ul doar informează, ghidează sau direcționează, de exemplu, răspunzând la întrebări frecvente, urmărind comenzile sau predând comanda către o persoană? Atunci, foarte probabil, riscul este limitat; concentrați-vă pe transparență.
• Decide, evaluează sau controlează accesul persoanelor, de exemplu, aprobă sau respinge, clasifică candidații sau evaluează riscul? Atunci poate fi un risc ridicat; solicitați consiliere juridică înainte de a-l utiliza.
• Generează text, imagini sau sunet care ar putea părea create de om? Atunci verificați obligația de marcare lizibilă automată și termenul limită de 2 decembrie 2026 pentru sistemele existente.

Cine este responsabil: tu sau furnizorul tău?

Depinde de rolul dumneavoastră. Obligația de divulgare pentru chatboții din articolul 50 alineatul (1) revine furnizorului, părții care dezvoltă sistemul de inteligență artificială sau care îl dezvoltă și îl introduce pe piață sau îl pune în funcțiune sub propriul nume.

O afacere care își construiește propriul chatbot pe baza unui model lingvistic terț și îl oferă sub propriul nume va fi adesea furnizorul chatbot-ului respectiv. O afacere care folosește pur și simplu chatbot-ul predefinit al unui furnizor este de obicei un implementator. În ambele cazuri, chatbot-ul rulează pe site-ul dvs. web, așa că lipsa unei notificări se reflectă în situația dvs. Înțelegeți în scris cu furnizorul dvs. cine face ce și verificați rezultatul chiar în fereastra de chat.

Cum îți faci chatbot-ul compatibil?

Începeți cu o notificare clară privind inteligența artificială în fereastra de chat, apoi puneți în aplicare mecanisme de supraveghere, evidență și furnizori. În Olanda, Autoritatea Olandeză pentru Protecția Datelor (Autoriteit Persoonsgegevens, AP) și Autoritatea Olandeză pentru Infrastructură Digitală (RDI) sunt așteptate să coordoneze supravegherea inteligenței artificiale.

Anunțați utilizatorii la prima interacțiune

Adăugați o notificare lipsită de ambiguitate înainte sau la începutul conversației, chiar în fereastra de chat: în mesajul de deschidere, în antet sau în ambele. Un link către o politică nu este suficient. Exemple de formulare:

• Bună ziua, sunt asistentul de inteligență artificială al [companiei]. Vă pot ajuta cu întrebări frecvente și vă pot pune în legătură cu un coleg, dacă este nevoie.
• Discuți cu un asistent virtual (IA), nu cu un angajat.

Oferă supraveghere umană și o rută către o persoană

Oferiți o rută clară și ușoară către o persoană, cum ar fi un buton pentru a vorbi cu un coleg. Asigurați-vă că personalul poate revizui, corecta și prelua conversațiile, în special în cazul în care botul se ocupă de reclamații, contracte, plăți sau utilizatori vulnerabili.

Păstrați evidențe și monitorizați

Păstrați înregistrări ale conversațiilor și ale comportamentului sistemului, astfel încât să puteți verifica performanța, investiga reclamațiile și detecta erori sau utilizări necorespunzătoare. Monitorizați răspunsurile inventate și rezultatele necorespunzătoare și stabiliți praguri pentru revizuirea umană. Rețineți că jurnalele de chat conțin date cu caracter personal, așadar setați perioade de păstrare.

Verificați furnizorul

Majoritatea companiilor își cumpără chatbot-ul în loc să îl construiască. Solicitați furnizorului să confirme în scris că sistemul respectă regulile de transparență ale Legii privind inteligența artificială și, acolo unde este cazul, marcarea lizibilă automată a conținutului sintetic până la 2 decembrie 2026. Înregistrați în contract cine este furnizorul și cine este implementatorul și alocați responsabilitățile, garanțiile și despăgubirile în consecință.

Sprijiniți alfabetizarea în domeniul inteligenței artificiale în rândul personalului

În conformitate cu articolul 4 din Legea privind inteligența artificială, astfel cum a fost modificată prin IA Omnibus, furnizorii și implementatorii trebuie să ia măsuri pentru a susține un nivel suficient de alfabetizare în domeniul inteligenței artificiale în rândul persoanelor care operează sisteme de inteligență artificială în numele lor. Să instruiască echipele care gestionează, supraveghează sau se bazează pe chatbot, astfel încât acestea să înțeleagă limitele acestuia, regulile de escaladare și modul în care sunt gestionate datele.

Documentează-ți alegerile

Păstrați o scurtă evidență internă: ce face chatbot-ul, clasificarea riscurilor sale, notificarea utilizată, măsurile de supraveghere, furnizorul și datele pe care le procesează. Această evidență este dovada dumneavoastră în cazul în care o autoritate de reglementare sau un client vă pune întrebări.

Se aplică GDPR și chatbot-ului tău?

Da. Un chatbot poate respecta pe deplin Legea privind inteligența artificială și totuși poate încălca Regulamentul general privind protecția datelor (GDPR). Cele două regimuri se aplică concomitent și trebuie să le îndepliniți pe amândouă.

• Temeiul legal: identificați un temei valid în temeiul articolului 6 din RGPD, de obicei interesul legitim sau consimțământul, pentru prelucrarea datelor cu caracter personal pe care utilizatorii le introduc în chat.
• Notificare privind confidențialitatea: declarația dumneavoastră de confidențialitate trebuie să explice faptul că un chatbot prelucrează date cu caracter personal, în ce scopuri, cât timp sunt păstrate și dacă sunt utilizate pentru antrenarea modelelor de inteligență artificială.
• Reducerea la minimum a datelor: nu colectați mai mult decât este necesar și nu invitați utilizatorii să partajeze categorii speciale de date, cum ar fi informațiile despre sănătate.
• Drepturi și transferuri: asigurați-vă că cererile de acces sau de ștergere pot fi gestionate și verificați unde stochează și prelucrează furnizorul dvs. datele, în special în afara Spațiului Economic European.

Notificarea din Legea privind inteligența artificială care indică faptul că utilizatorul comunică cu o inteligență artificială și notificarea GDPR care explică modul în care utilizați datele acestora sunt obligații separate. Aveți nevoie de ambele.

Care sunt penalitățile?

Legea privind inteligența artificială stabilește amenzi maxime ridicate la articolul 99. Pentru companii, se aplică cea mai mare dintre suma fixă ​​și procentul din cifra de afaceri anuală mondială; pentru IMM-uri și startup-uri, cea mai mică dintre cele două.

• până la 35 de milioane EUR sau 7% din cifra de afaceri anuală totală la nivel mondial pentru practici de IA interzise;
• până la 15 milioane EUR sau 3% pentru încălcarea majorității celorlalte obligații, inclusiv a normelor de transparență prevăzute la articolul 50;
• până la 7.5 milioane EUR sau 1% pentru furnizarea de informații incorecte, incomplete sau înșelătoare către autorități.

Pentru un chatbot cu risc limitat, riscul mai imediat este un ordin de respectare și deteriorarea reputației dumneavoastră. O notificare IA lipsă este o deficiență vizibilă pe care un organism de reglementare sau un reclamant o va observa rapid și este ușor de remediat.

Ce ar trebui să verificați ca furnizor?

Dacă construiești chatbot-ul sau îl oferi sub propriul nume, obligațiile prevăzute la Articolul 50 îți revin. Verifică:

• Notificarea AI apare în fereastra de chat la prima interacțiune, nu doar în termenii tăi.
• Textul, fișierele audio sau imaginile generate sunt marcate într-un format care poate fi citit automat [articolul 50 alineatul (2)], pentru sistemele existente, până la 2 decembrie 2026.
• Utilizarea chatbotului nu intră sub incidența anexei III; dacă s-ar putea întâmpla acest lucru, trebuie să se prevadă cerințele privind riscul ridicat care se aplică începând cu 2 decembrie 2027.
• Înregistrările dumneavoastră tehnice arată ce face sistemul și cum este monitorizat.
• Clienții dumneavoastră primesc ceea ce au nevoie pentru a-și informa propriii utilizatori.

Ce ar trebui să verifici ca implementator?

Dacă folosești chatbot-ul unui furnizor, tot răspunzi pentru ceea ce se întâmplă pe site-ul tău web. Verifică:

• Contractul prevede cine este furnizorul și cine este implementatorul, cu garanții privind conformitatea cu Legea privind inteligența artificială.
• Notificarea este vizibilă în fereastra ta de chat.
• Personalul care supraveghează chatbotul a urmat cursuri de alfabetizare în domeniul inteligenței artificiale (articolul 4).
• Utilizatorii pot contacta o persoană, iar întrebările sensibile sunt direcționate către personal.
• Declarația dumneavoastră de confidențialitate acoperă datele de chat, având un temei legal în temeiul articolului 6 din GDPR și o perioadă de păstrare.

Ce putem face pentru tine în ceea ce privește conformitatea cu chatbot-urile?

Avocații noștri IT verifică chatboții în conformitate cu Legea privind inteligența artificială și cu GDPR.

• Clasificăm chatbotul dumneavoastră: risc limitat sau risc ridicat conform Anexei III.
• Redactăm notificarea privind inteligența artificială și declarația de confidențialitate pentru funcția de chat.
• Revizuim și negociem contractul cu furnizorul, inclusiv rolurile, garanțiile și despăgubirile.
• Am înființat evidența internă a alegerilor, supravegherii și perioadelor de păstrare.
• Vă informăm cu privire la obligația de marcare pentru conținutul generat înainte de 2 decembrie 2026.

Rezumat

• Începând cu 2 august 2026, utilizatorilor trebuie să li se spună clar, la prima interacțiune, că au de-a face cu un chatbot bazat pe inteligență artificială.
• Majoritatea chatboților pentru servicii clienți prezintă riscuri limitate; chatboții utilizați pentru decizii privind angajarea, creditul sau serviciile esențiale pot prezenta riscuri ridicate, regulile aplicându-se începând cu 2 decembrie 2027.
• Sistemele existente care generează conținut sintetic trebuie să permită marcarea lizibilă de către mașini până la 2 decembrie 2026.
• Stabiliți în scris rolurile cu furnizorul dvs., susțineți alfabetizarea în domeniul inteligenței artificiale și documentați-vă alegerile.
• GDPR se aplică alături de Legea privind inteligența artificială; aveți nevoie atât de o notificare privind inteligența artificială, cât și de o notificare privind confidențialitatea.

Întrebări frecvente