Ce obligații aduce AI Act pentru angajatorii din România

Dacă în compania ta utilizezi un sistem IA (exemplu: ChatGPT, Gemini, Claude, un chatbot pentru recrutare), trebuie să știi ce este AI Act și ce obligații îți aduce.

Ce este AI Act

AI Act (Artificial Intelligence Act) este Regulamentul privind Inteligența Artificială → Regulamentul (UE) 2024/1689 adoptat la data de 13 iunie 2024 de Parlamentul si Consiliul European, publicat în Jurnalul Oficial al Uniunii Europene (Official Journal of the European Union) la data de 12 iulie 2024.

Regulamentul reprezintă cadrul legislativ la nivel european, în materie de Inteligență Artificială (IA), a intrat în vigoare de la 01 august 2024 și se aplică la nivelul tuturor statelor membre UE, chiar și în România, nefiind necesară o lege prin care să fie transpus în legislația națională.

Prevederile AI Act se aplică oricărei persoane fizice sau juridice care utilizează în activitatea profesională sisteme IA.

Când se aplică AI Act

Potrivit art.113 din Regulament, acesta se aplică de la data de 02 august 2026 cu excepția următoarelor prevederi:
(a)Capitolele I şi II, ce se aplică de la 2 februarie 2025;
(b)Capitolul III secțiunea 4, capitolul V, capitolul VII, capitolul XII şi articolul 78 se aplică de la 2 august 2025, cu excepţia articolului 101;
(c)articolul 6 alineatul (1) şi obligaţiile corespunzătoare din prezentul regulament se aplică de la 2 august 2027.
Regulamentul este obligatoriu în toate elementele sale şi se aplică direct în toate statele membre.

Modificare prin Digital Omnibus on AI

Digital Omnibus on AI, ce urmează să se publice în Jurnalul Oficial al UE, a adus unele modificări prevederilor Regulamentului și termenelor de aplicare. Acest act legislativ va intra în vigoare în a treia zi de la publicare. Vezi aici conținutul complet a Digital Omnibus on AI.
Chiar dacă unele termene au fost amânate, angajatorii au obligații care s-au aplicat și înainte de aceste modificări.

Data	Ce se aplică
02 februarie 2025	AI Literacy
02 august 2026	Obligațiile de transparență
02 august 2027 (după publicarea modificării prin Digital Omnibus on AI)	Sisteme AI cu risc ridicat, prevăzute în Anexa III (aici intră și sistemele AI utilizate în HR)

AI Act și obligațiile angajatorului de la 02 februarie 2025

AI Literacy = Alfabetizare în domeniul IA – obligație prevăzută de art.4 al Capitolului I din AI Act; s-a aplicat încă de la data de 02 februarie 2025.
Companiile sunt obligate să ia măsuri pentru ca persoanele care utilizează sisteme IA, în numele lor, să dețină un nivel suficient de alfabetizare în domeniul inteligenței artificiale.

Art.3 al aceluiasi capitol, explică la punctul (56) ce înseamnă „AI Literacy”: competențe, cunoștințe și înțelegere, care permit furnizorilor, implementatorilor și persoanelor vizate, ținând cont de drepturile și obligațiile lor în contextul Regulamentului, să implementeze în cunoștință de cauză sisteme IA, precum și să conștientizeze oportunitățile și riscurile IA și posibilele daune pe care le poate provoca.

Pentru exemple de bune practici privind alfabetizarea în domeniul IA, poți consulta „Repository of AI literacy practices”.

AI Act nu impune angajatorilor un anumit tip de instruire pentru salariații săi. Aceasta se poate realiza:
–intern, prin sesiuni de instruire organizate de angajator,
–extern, apelând la furnizori de formare profesională.

Prin urmare, dacă salariații din cadrul organizației utilizează sisteme IA în activitatea lor, angajatorul trebuie să ia măsurile necesare pentru ca aceștia să dețină un nivel suficient de alfabetizare în domeniul IA.
Este recomandabil ca angajatorul să poată documenta aceste măsuri.

MĂSURI RECOMANDATE ÎN VEDEREA CONFORMĂRII CU AI ACT

→identificarea sistemelor IA ce se folosesc în cadrul organizației tale;
→adoptarea politicii interne privind utilizarea sistemelor IA;
→identificarea persoanele din cadrul companiei care utilizează sisteme IA;
→instruirea personalului în mod diferențiat;
→implementarea supravegherii umane pentru orice rezultat generat de IA înainte de a fi utilizat – persoană desemnată.
→identificarea utilizării de către salariați a unor sisteme IA neautorizate de angajator;
→stabilirea regulilor clare privind introducerea datelor confidențiale în sisteme IA.

⚠️Atenție! Dacă ai obligația de a elabora și aplica planul anual de formare profesională prevăzut de art. 195 din Codul Muncii, poți include în acesta și instruirile privind utilizarea sistemelor IA, alături de instruirile privind protecția datelor cu caracter personal (GDPR).

AI Act și obligațiile ce se aplică de la data de 02 august 2026

Deși Digital Omnibus on AI a amânat aplicarea regulilor privind majoritatea sistemelor AI cu risc ridicat, prevăzute în capitolul III „Sisteme de IA cu risc ridicat”, la secțiunile 1-3 din Regulament, obligațiile privind transparența nu au fost amânate.
Art.50 din AI Act se va aplica de la data de 02 august 2026.

Prin urmare, ca angajator vei avea și următoarele obligații privind transparența:

-Informarea utilizatorilor

AI Act spune că, în cazul în care persoanele fizice interacționează direct cu un sistem IA, acestea trebuie informate că interacționează cu un asemenea sistem, „..cu excepția cazului în care acest lucru este evident din punctul de vedere al unei persoane fizice rezonabil de bine informată, de atentă și de avizată, ținând seama de circumstanțele și contextul de utilizare”.

Exemple de situații în care angajatorul are obligația de informare
1)Încă din etapa recrutării, atunci când un intervievat discută cu un chatbot AI → candidatul trebuie informat în prealabil că interacționează cu un sistem IA.
2)Când în comunicările interne, angajatorul folosește un chatbot sau materiale generate de inteligența artificială.

-Informarea privind utilizarea conținutului sintetic

În cazul în care utilizezi tehnologii de tip deepfake (imagini, video, audio generate sau manipulate) ai obligația de a marca un astfel de conținut ca fiind generate sau manipulate artificial, în funcție de cazul concret.

Potrivit Digital Omnibus on AI, în cazul sistemelor AI utilizate pentru recrutare, selecție, promovare, concediere, evaluarea performanței, repartizarea sarcinilor, noul termen de la care se aplică obligațiile privind sistemele High Risk se aplică de la 02 decembrie 2027.
Chiar dacă obligațiile specifice sistemelor IA cu risc ridicat au fost amânate, angajatorii care utilizează IA pentru recrutare sau evaluarea salariaților trebuie încă de acum să își adapteze procedurile interne.
Trebuie să avem în vedere că, în activitatea de HR, pe lângă AI Act, trebuie să respectăm și alte reglementări cum ar fi:
-Codul Muncii
-Legislația privind egalitatea de șanse și de tratament
-GDPR.

De exemplu, utilizarea unui sistem IA în relațiile de muncă poate să producă un act de discriminare prin lipsa supravegherii umane corespunzătoare asupra rezultatelor generate de sistemele IA.

Până la 02 decembrie 2027, angajatorii ar trebui să implementeze cerințele AI Act.

Cum te ajută FGO în îndeplinirea obligațiilor?

Pe platforma FGO ai la dispoziție model de informare a salariaților privind utilizarea sistemelor IA în cadrul organizației tale.

Human oversight Supravegherea umană

AI Act introduce obligația privind supravegherea umană pentru sistemele IA cu risc ridicat. Aplicarea acestei obligații urmează a fi amânată prin Digital Omnibus on AI pentru majoritatea sistemelor IA cu risc ridicat, inclusiv pentru cele utilizate în domeniul ocupării forței de muncă.
Cu toate acestea, adoptarea unor măsuri de supraveghere umană încă din această etapă reprezintă o bună practică și facilitează conformarea viitoare cu AI Act.

Ce înseamnă supravegherea umană

Supravegherea umană înseamnă să nu utilizezi automat rezultatele generate de un sistem IA, ci să le supui intervenției unei persoane care să fie capabilă să le analizeze și, dacă este cazul, să decidă diferit.

Nu este suficient ca această persoană să verifice rezultatele generate.
Persoana desemnată trebuie să fie capabilă:
–să înțeleagă rezultatul generat de un sistem IA
–să ignore rezultatul generat de un sistem IA
–să modifice rezultatul generat de un sistem IA
–să oprească sistemul;
–să decidă diferit de sistemul IA.

AI Act îți spune că ai obligația de supraveghere umană, dar nu spune și cum să îți îndeplinești această obligație.
În practică ai posibilitatea de a desemna una sau mai multe persoane din rândul angajaților proprii, care să asigure supravegherea rezultatelor generate cu ajutorul sistemelor IA.

Recomandări privind desemnarea responsabilului cu supravegherea umană
1)întocmirea unei decizii interne, privind persoana sau persoanele responsabile cu supravegherea umană a rezultatelor generate de sistemele IA utilizate în cadrul organizației;
2)includerea în fișa postului a atribuțiilor privind exercitarea supravegherii umane;
3)întocmirea unei proceduri prin care rezultatele generate de IA sunt verificate înainte de a produce efecte asupra salariaților sau candidaților;
4)instruirea persoanei/persoanelor desemnate cu privire la utilizarea sistemelor IA.

📌Reține! Desemnarea unei persoane responsabile și introducerea atribuțiilor corespunzătoare în fișa postului nu reprezintă o obligație prevăzută expres de AI Act, dar reprezintă o modalitate prin care angajatorul poate demonstra că a implementat efectiv mecanismele de supraveghere umană cerute de acest act normativ.

În platforma FGO găsești modelul deciziei de desemnare a persoanei responsabile cu supravegherea umană, pe care îl poți genera direct pentru salariatul desemnat.

Exemple de atribuții de inclus în fișa postului persoanei responsabile cu supravegherea umană

-să utilizeze doar sistemele IA aprobate de angajator, potrivit procedurilor interne;
-să utilizeze instrumentele IA exclusiv în scopul îndeplinirii atribuțiilor de serviciu şi conform instrucțiunilor primite;
-să participe la sesiunile de instruire privind utilizarea instrumentelor IA puse la dispoziție de angajator;
-să verifice acuratețea rezultatelor/informațiilor generate de sistemele IA, înainte de a le utiliza/distribui;
-să semnaleze imediat orice rezultat generat de IA care pare incorect, inadecvat sau care ar putea afecta drepturile persoanelor vizate;
-să respecte obligațiile privind confidențialitatea datelor introduse în sistemele IA.

Pentru ceilalți salariați din cadrul companiei se păstrează aceleași obligații, cu excepția atribuțiilor privind supravegherea umană.

Exemple de interdicții de inclus în fișa postului persoanei responsabile și a celorlalți salariați din cadrul organizației

-să nu introducă în sisteme IA publice informații confidențiale, date cu caracter personal sau orice alte documente interne fără aprobarea angajatorului;
-să nu adopte decizii exclusiv pe baza recomandărilor generate de sistemele IA.

Chiar dacă la nivelul organizației tale nu se folosesc sisteme IA este recomandabil să incluzi un set minim de norme, atribuții, reguli cu referire la utilizarea sistemelor IA în: Regulamentul Intern, fișele de post ale salariaților tăi, politica GDPR, politica de confidențialitate.
De exemplu, în Regulamentul Intern poți să menționezi că în cadrul organizației tale nu se folosesc sisteme IA.

Ce documente recomand să ai ca angajator

→politica privind utilizarea sistemelor IA;
→decizie privind desemnarea persoanei responsabile cu supravegherea umană;
→fișe de post actualizate cu reguli/atribuții/interdicții/responsabilități privind utilizarea sistemelor IA în cadrul organizației;
→informare salariați privind utilizarea sistemelor IA;
→informare candidați privind utilizarea sistemelor IA;
→regulament intern actualizat cu reguli privind utilizarea sistemelor IA.

Ce să nu faci ca angajator

→să nu iei decizii exclusiv pe baza rezultatului generat de IA;
→să nu ceri inteligenței artificiale să decidă pe cine să angajezi;
→să nu ceri inteligenței artificiale să decidă cine este concediat;
→să nu introduci în sisteme IA gratuite datele, contractele salariaților

Autorități competente în aplicarea AI Act în România

–ANCOM (Autoritatea Națională pentru Administrare și Reglementare în Comunicații) – Coordonează aplicarea AI Act la nivel național și cooperează cu Comisia Europeană și AI Office;
–ANSPDCP (Autoritatea Națională de Supraveghere a Prelucrarii Datelor cu Caracter Personal) – supraveghează sisteme IA cu risc ridicat din domeniul biometriei, aplicării legii, migrației, azilului, controlului la frontieră, administrării justiției și proceselor democratice;

–ADR (Autoritatea pentru Digitalizarea României) – gestionează notificarea organismelor care pot evalua conformitatea anumitor sisteme IA;

–ASF (Autoritatea de Supraveghere Financiară) – supraveghează sistemele IA cu risc ridicat utilizate în domeniul serviciilor financiare aflate în competența sa (asigurări, piața de capital, pensii private;
-BNR (Banca Națională a României) – supraveghează sistemele IA cu risc ridicat utilizate în domeniul bancar și al serviciilor financiare aflate în competența BNR.

Concluzii

Deși Digital Omnibus on AI urmează să amâne aplicarea unei părți importante a obligațiilor privind sistemele IA cu risc ridicat, perioada următoare reprezintă pentru angajatorii din România etapa în care trebuie să își pregătească organizația pentru conformarea cu AI Act.

Provocarea constă în integrarea inteligenței artificiale într-un cadru de guvernanță care să respecte prevederile Codului Muncii, drepturile fundamentale ale salariaților, normele GDPR, legislația privind egalitate de șanse și de tratament.
AI Act nu interzice utilizarea inteligenței artificiale în relațiile de muncă, ci urmărește utilizarea responsabilă a acesteia.

Angajatorii români ar trebui să folosească perioada următoare pentru a lua primele măsuri concrete: identificarea sistemelor IA utilizate, stabilirea unei politici interne, instruirea persoanelor care folosesc IA și implementarea unor mecanisme de supraveghere umană.

Notă: Informațiile prezentate în acest articol au caracter general și exclusiv informativ. FGO și autorul nu își asumă răspunderea pentru eventualele pierderi sau prejudicii rezultate în urma utilizării acestor informații. Articolul nu reprezintă consultanță juridică, fiscală sau de altă natură și nu înlocuiește obligația consultării prevederilor legale aplicabile sau a unui specialist, în funcție de situația concretă.