Management algoritmic: poate un algoritm să vă evalueze performanța?

Managementul algoritmic, utilizarea sistemelor de inteligență artificială pentru monitorizarea, evaluarea și îndrumarea angajaților, este permisă în Olanda, dar numai în limite stricte. Un algoritm poate susține o evaluare a performanței; este posibil să nu fie singura bază pentru o decizie cu un efect semnificativ asupra dumneavoastră, cum ar fi concedierea, retrogradarea sau refuzul unui bonus, deoarece articolul 22 din GDPR rezervă aceste decizii unei ființe umane care le examinează cu adevărat. În plus, Legea UE privind inteligența artificială clasifică sistemele utilizate pentru monitorizarea și evaluarea lucrătorilor ca fiind cu risc ridicat și interzice complet utilizarea inteligenței artificiale pentru a deduce emoțiile angajaților la locul de muncă.

Ce este de fapt managementul algoritmic

Managementul algoritmic este situația în care software-ul, mai degrabă decât un supervizor, se ocupă de observare, măsurare și adesea de evaluare. Apare în depozite și centre de distribuție, în centre de contact cu clienții, în munca pe platforme și, din ce în ce mai mult, în rolurile obișnuite de birou, unde instrumentele de productivitate sunt integrate în sistemele pe care oamenii le folosesc deja. Angajatorul nu trebuie să cumpere un produs numit manager de inteligență artificială pentru ca întrebările juridice să apară; este suficient un tablou de bord care evaluează personalul pe baza datelor colectate automat.

Ceea ce face bine un astfel de sistem este să numere. Înregistrează sarcinile finalizate, timpii de procesare, timpii de răspuns, respectarea unui script, orele înregistrate într-o aplicație. Ceea ce nu poate face este să înțeleagă de ce un număr s-a mutat. Un angajat al cărui randament scade pentru că a petrecut trei săptămâni instruind un nou coleg, pentru că acesta se ocupa de singurul client pe care nimeni altcineva nu-l putea gestiona sau pentru că munca din acea perioadă a fost neobișnuit de complexă, arată la fel în date ca un angajat care pur și simplu a făcut mai puțin. Această discrepanță dintre măsurare și semnificație este sursa aproape tuturor litigiilor legale din acest domeniu.

Ideea nu este că măsurarea performanței este ilegală. Angajatorii au dreptul să știe cum decurge munca, iar monitorizarea rezonabilă este o parte normală a conducerii unei afaceri. Ideea este că legislația olandeză și europeană impune condiții privind modul în care se efectuează măsurarea și, mai presus de toate, privind modul în care sunt utilizate rezultatele acesteia.

Cum aceste sisteme îți evaluează performanța

Înțelegerea mecanismelor este importantă, deoarece drepturile dumneavoastră sunt aferente unor etape specifice ale procesului. În linii mari, se întâmplă trei lucruri: se colectează date, un model transformă acele date într-o judecată, iar cineva sau ceva acționează pe baza lor.

Ce colectează sistemul

Colectarea este de obicei invizibilă și continuă. Într-un mediu de contact cu clienții, sistemul poate înregistra numărul de contacte gestionate, timpul mediu de gestionare, prima rezolvare, timpul de inactivitate dintre apeluri și respectarea scenariului prescris. Poate merge mai departe și poate analiza conținutul: procesarea limbajului natural aplicată transcrierilor e-mailurilor și apelurilor, detectarea cuvintelor cheie și evaluarea sentimentelor din partea clientului în cadrul conversației. În logistică, vor fi ratele de scanare și viteza de preluare; în munca de birou, activitatea în instrumentele de colaborare.

Fiecare dintre aceste date reprezintă date cu caracter personal despre dumneavoastră și fiecare dintre ele trebuie justificată. Conform GDPR, un angajator nu poate colecta tot ceea ce un sistem este capabil să colecteze; prelucrarea trebuie să fie necesară pentru un scop specificat și proporțională cu acesta. Un sistem care înregistrează apăsările de taste sau face capturi de ecran periodice pentru a stabili cine depune eforturi este foarte dificil de justificat ca fiind proporțional, iar Autoriteit Persoonsgegevens (Autoritatea Olandeză pentru Protecția Datelor) a criticat în mod constant acest tip de monitorizare generalizată.

De la reguli la modele și cutia neagră

Cele mai simple sisteme sunt bazate pe reguli. Dacă timpul mediu de gestionare depășește un prag stabilit de mai mult de un număr stabilit de ori pe săptămână, angajatul este semnalizat. Un astfel de sistem este rigid și orb la context, dar are o virtute semnificativă: poți citi regula și vedea exact de ce ai fost semnalat, ceea ce face posibilă argumentarea acesteia.

Modelele de învățare automată funcționează diferit. Acestea sunt antrenate pe baza datelor istorice despre cine a avut performanțe bune și cine nu și deduc tiparele care se corelează cu aceste rezultate. Acest lucru este mai puternic și considerabil mai puțin transparent. Modelul se poate baza pe ceva care nu are nicio relație justificabilă cu performanța și, uneori, nici angajatorul, nici furnizorul nu pot spune exact de ce un anumit scor a ieșit așa.

Această opacitate este ceea ce se numește de obicei problema cutiei negre, iar într-un context juridic este fatală, nu doar incomodă. Un angajator care nu poate explica baza unei evaluări nu își poate îndeplini obligația de a oferi informații semnificative despre logica implicată, nu poate apăra în mod corespunzător evaluarea dacă este contestată și nu poate demonstra că nu are un efect discriminatoriu. În practică, dacă nu o poți explica, nu te poți baza pe ea.

Ce impune GDPR unui sistem de performanță a inteligenței artificiale

GDPR este primul și încă cel mai practic instrument în acest domeniu, deoarece se aplică fiecărui angajator care prelucrează date despre angajați și este aplicat de ani de zile. Patru dintre regulile sale fac cea mai mare parte a lucrării.

Articolul 22: nicio decizie semnificativă nu este luată doar de o mașină

Articolul 22 din RGPD conferă fiecărei persoane dreptul de a nu fi supusă unei decizii bazate exclusiv pe prelucrarea automată, inclusiv crearea de profiluri, care produce efecte juridice care o privesc sau o afectează în mod similar în mod semnificativ. Concedierea, nereînnoirea unui contract, retrogradarea, reținerea unui bonus și refuzul unei promovări se încadrează toate în această descriere.

Două cuvinte au greutatea necesară. Înseamnă exclusiv că o ființă umană care doar confirmă ceea ce propune sistemul nu scoate decizia din articolul 22; autoritățile de supraveghere au precizat de ani de zile că aprobarea neautorizată nu reprezintă o implicare umană. O implicare semnificativă necesită un evaluator cu autoritatea de a ajunge la o concluzie diferită, competența de a evalua cazul și timpul necesar pentru a face acest lucru. Termenul „afectează semnificativ” este interpretat în sens larg și nu necesită o consecință juridică formală: un sistem de notare care stabilește ce ture sau ce sarcini îți sunt oferite te poate afecta suficient de semnificativ pentru a angaja articolul.

În cazul în care se aplică articolul 22, angajatorul trebuie în orice caz să ofere garanțiile prevăzute de acesta: dreptul de a obține intervenție umană, de a-și exprima punctul de vedere și de a contesta decizia.

Transparență, acces și logica implicată

Angajații trebuie să fie informați, în prealabil, despre existența sistemului și despre funcția acestuia. În cazul în care are loc un proces decizional automatizat în sensul articolului 22, angajatorul trebuie să furnizeze, de asemenea, informații semnificative despre logica implicată și despre semnificația și consecințele preconizate ale prelucrării. Aceleași informații pot fi solicitate ulterior printr-o cerere de acces la date, care vă dă dreptul și la o copie a datelor cu caracter personal prelucrate despre dumneavoastră: scorurile, măsurătorile subiacente și categoriile pe care sistemul vi le atribuie.

Ceea ce contează ca fiind semnificativ a fost stabilit în direcția substanței, mai degrabă decât a formalității. Nu este o descriere a tehnologiei; este o explicație a factorilor utilizați și a modului în care aceștia au fost influențați, exprimați în termeni pe care persoana în cauză îi poate înțelege și în funcție de aceștia.

Temeiul juridic, consimțământul și DPIA

Fiecare operațiune de prelucrare are nevoie de un temei legal. În contextul angajării, consimțământul este rareori utilizabil, tocmai din cauza dependenței dintre angajator și angajat: consimțământul care nu poate fi refuzat fără consecințe nu este dat în mod liber. Prin urmare, angajatorii se bazează, în general, pe necesitatea prelucrării pentru executarea contractului de muncă, pe o obligație legală sau pe un interes legitim, iar acesta din urmă necesită o echilibrare documentată a interesului urmărit cu respectarea vieții private a forței de muncă.

Deoarece monitorizarea performanței la această scară implică evaluarea sistematică și extinsă a persoanelor pe baza prelucrării automate, o evaluare a impactului asupra protecției datelor nu este opțională. Este necesară înainte de punerea în funcțiune a sistemului și trebuie să descrie prelucrarea, să justifice necesitatea și proporționalitatea acesteia, să identifice riscurile pentru angajați și să stabilească măsurile care le abordează. Angajatorii care omit evaluarea descoperă de obicei problemele mai târziu, într-un litigiu, când alegerile nu mai pot fi corectate în liniște.

Cât de departe poate merge un angajator în monitorizare?

Scorarea performanței nu poate fi separată de monitorizarea care o alimentează, iar monitorizarea are propriile limite. Un angajat nu renunță la viața privată la ușa biroului: Curtea Europeană a Drepturilor Omului a hotărât în ​​cauza Bărbulescu vs. România că monitorizarea comunicărilor unui angajat angajează dreptul la respectarea vieții private și a corespondenței în temeiul articolului 8 din Convenție și că un angajator trebuie să fi informat în prealabil angajatul cu privire la natura și amploarea monitorizării, trebuie să urmărească un scop legitim și trebuie să aleagă mijloacele cele mai puțin intruzive capabile să îl atingă. Monitorizarea sub acoperire a forței de muncă este excepțională și necesită o suspiciune concretă, o durată limitată și o evaluare documentată pe care nicio măsură mai ușoară nu ar face-o.

Tradus într-un proiect de management algoritmic, asta înseamnă că angajatorul trebuie să poată răspunde la trei întrebări despre fiecare flux de date: de ce sunt necesare aceste date în scopul declarat, de ce o măsurare mai puțin intruzivă nu ar realiza acest lucru și dacă angajații au fost informați în prealabil. Înregistrarea continuă a ecranului, înregistrarea apăsărilor de taste și urmărirea locației în afara orelor de lucru nu răspund acestor întrebări în majoritatea contextelor obișnuite de angajare.

Absență, boală și date din categorii speciale

O categorie merită o atenție deosebită. Datele care dezvăluie starea de sănătate sunt date din categoria specială în temeiul GDPR și, în principiu, nu pot fi prelucrate deloc, sub rezerva unor excepții restrânse. Normele olandeze privind absențele din cauza bolii sunt stricte: un angajator poate înregistra faptul că un angajat este absent și durata acestora, dar natura bolii, diagnosticul și limitele aparțin medicului de companie (bedrijfsarts), nu angajatorului. Un sistem de performanță care deduce o stare de sănătate din tiparele de absență, viteza de tastare, pauzele sau tonul vocii prelucrează date despre sănătate prin inferență, iar faptul că nimeni nu a introdus un diagnostic în acesta nu face nicio diferență.

Aceeași precauție se aplică sistemelor ale căror scoruri sunt afectate de absențe protejate, cum ar fi sarcină, concediu parental sau concediu de îngrijire. Dacă modelul tratează aceste perioade ca fiind subperformanțe, angajatorul nu numai că prelucrează date sensibile, ci transformă un drept legal într-un dezavantaj.

Nivelul superior de aplicare a legii

Încălcările principiilor fundamentale, ale legalității prelucrării și ale drepturilor persoanelor vizate se încadrează în nivelul superior de amendă al articolului 83 din RGPD, cea mai grea categorie prevăzută de regulament. La fel de important pentru practica zilnică, o evaluare care a fost efectuată cu încălcarea acestor reguli este greu de invocat într-un litigiu de muncă: o instanță căreia i se solicită să rezilieze un contract de muncă pe baza performanței insuficiente va dori să vadă cum a fost stabilită performanța insuficientă.

Ce adaugă Legea IA pentru angajatori și lucrători

Legea UE privind inteligența artificială este în vigoare și se aplică în etape, așa că întrebarea nu mai este dacă va fi lansată, ci care dintre obligațiile sale sunt deja aplicabile. Două dintre nivelurile sale contează aici.

Prima este lista practicilor interzise, ​​care se aplică încă din faza incipientă a Legii. Aceasta include o regulă care vizează direct locul de muncă: sistemele de inteligență artificială utilizate pentru a deduce emoțiile unei persoane fizice în domeniile locului de muncă și ale instituțiilor de învățământ sunt interzise, ​​cu excepția cazului în care sistemul este destinat a fi implementat sau pus pe piață din motive medicale sau de siguranță. Prin urmare, software-ul care evaluează starea de spirit, nivelul de stres, implicarea sau sinceritatea angajaților din voce, față sau scris nu reprezintă o problemă de conformitate care trebuie gestionată. Este exclusă, iar excepția restrânsă privind aspectele medicale și de siguranță nu acoperă managementul productivității. Observați cu atenție limita: analiza sentimentelor despre ceea ce spune un client este o chestiune diferită de deducerea emoțiilor angajatului.

Al doilea nivel este regimul cu risc ridicat. Anexa III la Legea privind IA desemnează drept sisteme cu risc ridicat, printre altele, sistemele de IA destinate a fi utilizate pentru a lua decizii care afectează termenii relațiilor de muncă, promovarea sau încetarea acestor relații, alocarea sarcinilor pe baza comportamentului individual sau a trăsăturilor personale și monitorizarea și evaluarea performanței și comportamentului lucrătorilor. Un instrument de evaluare a performanței IA se încadrează perfect în această descriere. În cadrul pachetului omnibus digital, datele de aplicare a obligațiilor cu risc ridicat pentru sistemele din anexa III au fost amânate, astfel încât angajatorii să aibă mai mult timp pentru a se pregăti; interdicțiile, regulile pentru modelele de IA cu uz general și obligațiile de transparență din articolul 50 se aplică deja.

O obligație merită menționată separat, deoarece angajatorii o trec în mod constant cu vederea. Implementatorii care sunt angajatori trebuie să informeze reprezentanții lucrătorilor și lucrătorii afectați înainte de a pune în funcțiune un sistem de IA cu risc ridicat la locul de muncă, în conformitate cu normele aplicabile privind informarea și consultarea. Aceasta este o obligație de informare care se adaugă, și nu înlocuiește, obligațiile de transparență GDPR și drepturile consiliului de întreprindere în temeiul legislației olandeze. Pentru o analiză mai completă a legii și a calendarului acesteia, consultați articolul nostru despre aspectul juridic al inteligenței artificiale și Legea UE privind IA.

Cine poartă responsabilitatea: furnizorul sau angajatorul?

Angajatorii presupun adesea că, deoarece software-ul a fost achiziționat de la un furnizor specializat, furnizorul își asumă riscul juridic. Acesta nu este modul în care se alocă responsabilitatea în niciunul dintre cadre.

În conformitate cu GDPR, angajatorul decide de ce și cum sunt prelucrate datele angajaților și, prin urmare, este operatorul. Furnizorul care administrează sistemul conform instrucțiunilor angajatorului este o persoană împuternicită de operator, iar relația trebuie stabilită într-un acord de prelucrare, dar angajatorul este cel care își asumă obligațiile de transparență, legalitate și supraveghere umană față de propriul personal, iar angajatorul este cel care răspunde în fața Autorității de Protecție a Persoanelor și a angajaților înșiși.

Legea privind inteligența artificială trasează o linie de demarcație comparabilă între furnizor, care dezvoltă un sistem de inteligență artificială și îl introduce pe piață, și implementator, care îl utilizează sub propria autoritate. Un angajator care utilizează un instrument achiziționat este, în mod normal, un implementator și își asumă obligațiile de implementator, inclusiv utilizarea sistemului în conformitate cu instrucțiunile, asigurarea unui nivel adecvat de supraveghere umană de către persoane cu competența și autoritatea necesare, monitorizarea funcționării acestuia și informarea lucrătorilor. Un angajator care își pune propriul nume pe sistem sau îl modifică substanțial sau îi schimbă scopul propus, poate deveni furnizor și își poate asuma obligațiile mult mai grele care vin odată cu acest rol.

Consecința practică pentru achiziții publice este că, în cazul contractului, acesta trebuie citit având în vedere aceste roluri. Un angajator are nevoie ca furnizorul să furnizeze informațiile care fac posibilă conformitatea și ar trebui să fie sceptic față de orice produs care nu își poate explica propria producție, deoarece obligația de a explica va reveni angajatorului, indiferent de ceea ce prevede licența.

Munca pe platformă: un nivel suplimentar de reguli

Pentru persoanele care lucrează prin intermediul platformelor digitale de muncă, un alt instrument este pe cale să fie lansat. Directiva (UE) 2024/2831 privind îmbunătățirea condițiilor de muncă în cadrul platformelor dedică un capitol întreg managementului algoritmic. Aceasta obligă platformele să informeze lucrătorii cu privire la sistemele automate de monitorizare și de luare a deciziilor care le afectează semnificativ condițiile de muncă, restricționează prelucrarea anumitor categorii de date, inclusiv a datelor privind starea emoțională și psihologică și a datelor privind conversațiile private, impune supravegherea umană a efectelor acestor sisteme și oferă lucrătorilor dreptul la o explicație și la o revizuire umană a deciziilor semnificative, cum ar fi restricționarea sau suspendarea unui cont. În special, mai multe dintre aceste garanții se aplică persoanelor care desfășoară activități pe platforme, indiferent dacă se califică sau nu drept angajați.

Statele membre trebuie să transpună directiva până la 2 decembrie 2026. Până la intrarea în vigoare a legislației naționale de punere în aplicare, RGPD și Legea privind inteligența artificială rămân normele aplicabile, iar cerințele acestora acoperă deja o mare parte din același domeniu.

Legislația muncii olandeză: un algoritm nu vă poate rezilia contractul

Normele europene privind protecția datelor și inteligența artificială guvernează modul în care poate funcționa sistemul. Legea olandeză privind munca reglementează ce poate face un angajator cu rezultatele sale și este considerabil mai strictă decât presupun majoritatea proiectelor de management algoritmic.

Un angajator din Olanda nu poate pur și simplu să rezilieze un contract de muncă. Concedierea necesită un motiv rezonabil, menționat în articolul 7:669 din Codul Civil olandez, și necesită permisiunea prealabilă a UWV sau o decizie a kantonrechter (instanța subdistrictuală), în funcție de motiv. Subperformanța este unul dintre aceste motive și este unul exigent. Angajatorul trebuie să demonstreze că angajatul nu este potrivit pentru rol, că angajatul a fost informat în timp util despre acest lucru și că i s-a oferit o oportunitate reală de îmbunătățire, cu sprijin, acolo unde este cazul. O citire a tabloului de bord nu este un proces de îmbunătățire, iar o instanță va întreba ce s-a discutat, când și ce ajutor a fost acordat. Ghidul nostru privind legislația muncii olandeză prezintă cadrul de concediere mai detaliat.

Legea privind discriminarea se aplică rezultatului, nu intenției. Dacă un sistem dezavantajează angajații pe motive precum sexul, rasa, vârsta, religia, dizabilitatea sau bolile cronice, acest lucru este ilegal în conformitate cu Algemene wet gelijke behandeling (Legea generală privind egalitatea de tratament) și cu statutele specifice privind egalitatea de tratament privind vârsta și dizabilitatea, indiferent dacă cineva a intenționat sau nu acest rezultat. Datele istorice de formare sunt vinovatul obișnuit: un model instruit pe baza persoanelor promovate în trecut va reproduce preferințele din trecut. Sistemele care măsoară disponibilitatea brută sau producția în timp tind, de asemenea, să penalizeze angajații care au luat concediu parental, au lucrat ore reduse sau au fost absenți din cauza unei boli, iar penalizarea unui angajat pentru exercitarea unui drept legal este exact ceea ce interzice legea privind egalitatea de tratament.

Consiliul de muncă trebuie să fie de acord

Într-o companie în care există un comitet de întreprindere, angajatorul are nevoie de mai mult decât de bune intenții. Articolul 27 din Wet op de ondernemingsraden (Legea privind consiliile de întreprindere) impune acordul ondernemingsraad (consiliul de întreprindere) pentru adoptarea, modificarea sau retragerea unor acorduri, inclusiv cele privind evaluarea personalului, prelucrarea și protecția datelor cu caracter personal ale angajaților și facilitățile destinate sau adecvate pentru observarea sau monitorizarea prezenței, conduitei sau performanței personalului. Un sistem de performanță bazat pe inteligență artificială implică toate trei simultan.

Consimțământul nu este o formalitate. O decizie luată fără consimțământul necesar poate fi declarată nulă de către consiliul de întreprindere, iar angajatorul poate fi apoi împiedicat să o aplice. Pentru angajații care simt că li s-a impus un sistem, consiliul de întreprindere este adesea cea mai rapidă și mai eficientă cale de schimbare, cu mult înainte ca cineva să se gândească la un litigiu.

Ce au decis instanțele până acum

Jurisprudența este încă în curs de dezvoltare, dar două hotărâri judecătorești olandeze au stabilit deja direcția de urmat și ambele sunt citate mult dincolo de limitele Olandei.

Hotărârile Uber și Ola

La 4 aprilie 2023, Gerechtshof Amsterdam (Amsterdam Curtea de Apel) a decis într-o serie de cazuri intentate de șoferi împotriva Uber și Ola. Șoferii doreau să știe de ce le-au fost dezactivate conturile și cum le-au fost alocate munca și prețurile. Instanța a dat în mare parte câștig de cauză în ceea ce privește punctele de informare. Șoferii care au pierdut accesul la platformă și, odată cu acesta, veniturile lor, au fost afectați semnificativ de procesul decizional automatizat, iar companiile nu au putut să rețină o explicație invocând secrete comerciale sau riscul de manipulare fără a-și justifica obiecția.

Ceea ce a cerut instanța a fost concret: nu o descriere generală a tehnologiei, ci informații despre factorii utilizați și importanța acordată acestora, astfel încât persoana în cauză să poată înțelege și contesta rezultatul. Acesta este standardul pe care angajatorii ar trebui să îl presupună că se aplică și unui algoritm de performanță. Dacă răspunsul dumneavoastră la întrebarea de ce am obținut un scor prost este că modelul l-a determinat, atunci nu ați îndeplinit standardul.

Hotărârea SyRI

Al doilea caz nu a fost un litigiu de muncă, dar raționamentul său se extinde până la locul de muncă. În hotărârea sa din 5 februarie 2020 (ECLI:NL:RBDHA:2020:865), Rechtbank Den Haag (Tribunalul Districtual din Haga) a decis că legislația care stă la baza SyRI, un sistem guvernamental de indicare a riscurilor utilizat pentru detectarea fraudei fiscale și a prestațiilor, nu a îndeplinit testul articolului 8 din Convenția Europeană a Drepturilor Omului. Sistemul era insuficient de transparent și verificabil: nimeni din exterior nu putea stabili cum a ajuns o persoană să fie semnalată, ceea ce făcea imposibilă apărarea împotriva acesteia.

Principiul este general. Un sistem a cărui funcționare nu poate fi examinată nu poate fi contestată, iar o decizie care nu poate fi contestată nu este o decizie justă. Un angajator care dorește să își bazeze evaluările pe un model pe care nici angajatul, nici angajatorul nu îl pot explica construiește pe același teren care a eșuat în cazul respectiv. Aceste chestiuni de responsabilitate pentru conduita automatizată merg mai departe decât dreptul muncii, așa cum arată articolul nostru despre inteligența artificială și dreptul penal.

Drepturile tale dacă un algoritm te punctează

Dacă ești evaluat cu ajutorul unui sistem de inteligență artificială, ai drepturi concrete și aplicabile și nu trebuie să dovedești că sistemul este greșit înainte de a le putea utiliza.

Puteți întreba ce date sunt deținute despre dumneavoastră și puteți obține o copie a acestora, inclusiv măsurătorile care alimentează evaluarea și scorurile derivate din acestea. Puteți solicita informații semnificative despre logica sistemului, factorii care contează și ponderea lor. În cazul în care o decizie cu un efect semnificativ a fost luată prin mijloace automate, puteți solicita intervenția umană, vă puteți exprima propriul punct de vedere și puteți contesta decizia. Puteți solicita corectarea datelor inexacte, ceea ce contează mai mult decât pare: o mare parte din ceea ce înregistrează aceste sisteme este pur și simplu greșit, de la absențe înregistrate greșit până la muncă atribuită persoanei greșite.

Cum să contesti o evaluare automată în practică

Începeți prin a documenta propria poziție înainte de a o ridica. Notați activitatea specifică trecută cu vederea de evaluare, perioadele în care circumstanțele au fost neobișnuite și orice absență, concediu sau redistribuire care ar putea reduce cifrele din motive care nu au nicio legătură cu performanța dumneavoastră. Notele contemporane valorează mult mai mult decât o reconstituire după șase luni.

Apoi, adresați-vă angajatorului dumneavoastră cererea în scris, precizând că vă exercitați drepturile în temeiul GDPR, solicitând datele utilizate în evaluarea dumneavoastră și explicația logicii și solicitând o verificare umană de către o persoană cu autoritatea de a ajunge la o concluzie diferită. Stabiliți un termen limită rezonabil; GDPR impune angajatorului să răspundă în termen de o lună, termen care poate fi prelungit în cazuri complexe. Păstrați tonul factual, deoarece această corespondență tinde să ajungă la statutul de probă.

Dacă angajatorul nu răspunde în mod adecvat, puteți depune o plângere la Autoritatea pentru Persoane (Autoriteit Persoonsgegevens) și puteți sesiza instanțele judecătorești cu privire la litigiu. În cazul în care evaluarea este utilizată pentru a susține concedierea sau o modificare a condițiilor de muncă, calea angajării este de obicei cea mai eficientă și are termene limită scurte, așa că consultați-vă din timp. Articolul nostru despre confidențialitatea datelor în cadrul GDPR în era inteligenței artificiale și a big data explică cadrul subiacent.

Ce ar trebui să facă un angajator înainte de a porni sistemul

Pentru angajatori, conformitatea în acest domeniu este în mare parte o chestiune de secvență. Aproape fiecare problemă serioasă apare pentru că un sistem a fost achiziționat și implementat mai întâi, iar întrebările juridice au fost adresate ulterior.

Începeți cu scopul. Scrieți ce încearcă de fapt organizația să realizeze și ce decizii va influența sistemul, deoarece tot restul decurge din asta: datele care pot fi justificate, temeiul juridic, evaluarea riscurilor și nivelul de supraveghere umană necesar. Un sistem cumpărat pentru a îmbunătăți programarea și apoi folosit discret pentru a construi un dosar de respingere este calea clasică către o operațiune de prelucrare ilegală.

Efectuați o evaluare a impactului asupra protecției datelor înainte de implementare, nu ca un document produs ulterior pentru a justifica o decizie deja luată, și înregistrați rezultatul. Stabiliți și documentați temeiul juridic, ținând cont de faptul că acordul angajatului este rareori valabil. Determinați dacă sistemul se încadrează în categoria de risc ridicat a Legii privind inteligența artificială și, dacă da, cartografiați obligațiile care revin unui implementator, inclusiv obligația de a informa reprezentanții lucrătorilor și lucrătorii afectați. Obțineți acordul consiliului de întreprindere acolo unde se aplică articolul 27 din Legea consiliilor de întreprindere și implicați-l suficient de devreme pentru ca aportul său să permită schimbarea unui lucru.

Apoi, proiectați supravegherea impusă de articolul 22 și testați dacă este reală. Întrebați cine revizuiește rezultatul, dacă acea persoană îl poate anula fără a fi nevoită să justifice abaterea față de un superior, dacă are contextul necesar pentru a judeca și dacă are timp. Dacă răspunsul sincer este că evaluatorul procesează o sută de cazuri pe după-amiază, organizația nu are supraveghere umană; are o semnătură.

În cele din urmă, testați rezultatele mai degrabă decât intențiile. Auditați rezultatele sistemului în funcție de caracteristica protejată și de programul de lucru și analizați în mod specific angajații care lucrează cu jumătate de normă, care au luat concediu sau care au fost bolnavi. Oferiți angajaților o cale clară de a contesta o evaluare și înregistrați ce se întâmplă cu aceste provocări. Păstrați documentația, deoarece sarcina demonstrării conformității revine angajatorului, iar într-un litigiu, dosarul reprezintă apărarea.

Unde te lasă asta

Managementul algoritmic nu este interzis și nu va dispărea. Ceea ce face legea este să traseze o linie între măsurare și judecată. Sistemele pot număra, compara și semnala; oamenii trebuie să decidă, să explice și să își asume responsabilitatea. Angajații au dreptul să știe că sunt evaluați de un astfel de sistem, să înțeleagă ce măsoară acesta și ca o ființă umană să analizeze din nou orice decizie care îi afectează în mod semnificativ. Angajatorii care acceptă această diviziune a muncii pot utiliza aceste instrumente cu încredere. Cei care lasă tabloul de bord să decidă vor constata că nici Autoritatea de Conducere a Persoanelor, nici Rectorul Cantonal nu acceptă rezultatul ca înlocuitor pentru o evaluare adecvată.

Law & More Consiliază angajatorii cu privire la implementarea inteligenței artificiale în managementul performanței, de la evaluarea impactului și procedura consiliului de întreprindere până la proiectarea supravegherii umane și consiliază angajații care se confruntă cu o evaluare automată pe care o consideră nedreaptă. Dacă se utilizează un algoritm pentru a evalua munca dumneavoastră sau munca personalului dumneavoastră, vom fi bucuroși să analizăm poziția împreună cu dumneavoastră.

Întrebări frecvente despre evaluările performanței IA