Artificial Intelligence Act: ce se schimbă pentru companii
Artificial Intelligence Act (Regulamentul (UE) 2024/1689), cunoscut și sub denumirea de AI Act EU, a intrat în vigoare la 1 august 2024, introducând noi reguli privind utilizarea diferitelor forme de inteligență artificială. Regulamentul prevede o aplicare treptată a dispozițiilor, în funcție de nivelul de risc al sistemelor AI.
Începând cu 2 februarie 2025, dispozițiile privind practicile de inteligență artificială cu risc inacceptabil și formarea personalului au intrat în vigoare. Până în august 2026, restul regulamentului va fi implementat progresiv până la aplicarea sa integrală. Companiile care utilizează inteligența artificială trebuie, prin urmare, să se conformeze pentru a evita sancțiuni foarte severe.
Inteligența artificială: între inovare și reglementare
Spre exemplu, inteligența artificială (AI) transformă peisajul afacerilor italiene, un număr tot mai mare de companii adoptând tehnologiile sale, după cum se subliniază în raportul [ISTAT „ICT Companies 2024”]. AI continuă să fie una dintre tendințele tehnologice cheie ale viitorului, la nivel global: de la analiza datelor la robotică și instrumente Gen AI, AI este acum o parte integrantă a strategiilor de afaceri. Totuși, evoluția continuă a scenariilor digitale necesită o reglementare clară pentru a preveni utilizările abuzive și pentru a proteja drepturile fundamentale. În acest context, Artificial Intelligence Act reprezintă un pas decisiv, stabilind reguli transparente și impunând obligații precise pentru furnizorii și utilizatorii de sisteme de AI, cu scopul de a asigura un cadru juridic unitar în întreaga Uniune Europeană.
EU Artificial Intelligence Act: normele care au intrat în vigoare la 2 februarie 2025
De la 2 februarie 2025, două grupuri de dispoziții ale AI Act EU au devenit aplicabile:
- interzicerea practicilor de inteligență artificială considerate cu risc inacceptabil (art. 5);
- obligația de alfabetizare / instruire a personalului în domeniul AI (art. 4).
1. Interzicerea practicilor cu risc inacceptabil
AI Act EU a identificat anumite practici de inteligență artificială ca fiind inacceptabile din cauza impactului lor asupra drepturilor fundamentale, și anume:
- tehnici de manipulare subliminală sau înșelătoare, care influențează comportamentul indivizilor fără ca aceștia să fie conștienți;
- exploatarea vulnerabilităților unor grupuri specifice, cum ar fi minorii sau persoanele cu dizabilități;
- sisteme de social scoring, care evaluează reputația sau fiabilitatea persoanelor pe baza comportamentelor sociale sau a caracteristicilor personale;
- identificare biometrică la distanță, în timp real, în spații accesibile publicului, în scopuri de aplicare a legii, cu excepția unor situații specifice de securitate publică și doar cu autorizare prealabilă;
- recunoașterea emoțiilor în contexte sensibile, precum locul de muncă sau mediul educațional;
- crearea de baze de date pentru recunoaștere facială prin colectarea neautorizată de date biometrice.
Pentru a asigura o tranziție eficientă către punerea în aplicare integrală a primelor dispoziții ale AI Act, organizațiile ar trebui să efectueze o analiză detaliată și o mapare cuprinzătoare a sistemelor de inteligență artificială pe care le utilizează, dezvoltă sau furnizează. Acest proces este esențial pentru identificarea oricăror practici care ar putea contraveni reglementărilor deja în vigoare.
2. Obligația de alfabetizare în domeniul AI
Articolul 4 din Artificial Intelligence Act introduce obligația de a asigura un nivel adecvat de alfabetizare în domeniul inteligenței artificiale pentru personalul implicat în utilizarea sistemelor AI. Această cerință se aplică tuturor organizațiilor care furnizează, utilizează sau implementează sisteme AI, indiferent de nivelul de risc asociat utilizării acestora.
Companiile vor trebui să ofere instruire angajaților lor, pentru a se asigura că personalul care utilizează inteligența artificială deține un nivel suficient de competențe, cunoștințe și înțelegere, necesare pentru o adoptare informată a sistemelor AI.
Prin urmare, va fi necesară implementarea unor programe de alfabetizare diferențiate, în funcție de rolul fiecărei persoane în organizație și de gradul de implicare în utilizarea acestor sisteme. De asemenea, organizațiile vor trebui să documenteze inițiativele de formare și actualizare, pentru a demonstra conformitatea în cazul unor verificări realizate de autorități.
Biroul European pentru Inteligență Artificială a clarificat faptul că simpla lectură a unor instrucțiuni scrise privind utilizarea sistemelor AI nu este suficientă pentru îndeplinirea cerințelor legale. Companiile trebuie să asigure un proces de învățare activă, care să dezvolte competențe și cunoștințe relevante în rândul angajaților.
EU AI Act: sancțiunile prevăzute pentru companiile neconforme
Nerespectarea dispozițiilor care au intrat în vigoare la 2 februarie 2025 atrage sancțiuni severe. Amenzile prevăzute sunt:
- până la 35 de milioane de euro sau, dacă autorul încălcării este o întreprindere, până la 7% din cifra de afaceri anuală mondială totală a exercițiului financiar precedent, dacă aceasta este mai mare, pentru încălcarea interdicțiilor privind practicile de AI interzise conform articolului 5;
- până la 15 milioane de euro sau, dacă autorul încălcării este o întreprindere, până la 3% din cifra de afaceri anuală mondială totală a exercițiului financiar precedent, dacă aceasta este mai mare, pentru nerespectarea oricăreia dintre următoarele dispoziții legate de operatori sau organisme notificate:
a) obligațiile furnizorilor de sisteme AI cu risc ridicat, conform articolului 16;
b) obligațiile reprezentanților autorizați ai furnizorilor de sisteme AI cu risc ridicat, conform articolului 22;
c) obligațiile importatorilor, conform articolului 23;
d) obligațiile distribuitorilor, conform articolului 24;
e) obligațiile deployerilor (utilizatorilor) de sisteme AI cu risc ridicat, conform articolului 26;
f) cerințele și obligațiile organismelor notificate, conform articolului 31, articolului 33 alineatele (1), (3) și (4) sau articolului 34;
g) obligațiile de transparență pentru furnizorii și utilizatorii (deployerii) anumitor sisteme AI, conform articolului 50;
• până la 7,5 milioane de euro sau, dacă autorul încălcării este o întreprindere, până la 1% din cifra de afaceri anuală mondială totală a exercițiului financiar precedent, dacă aceasta este mai mare, în cazul furnizării de informații inexacte, incomplete sau înșelătoare organismelor notificate sau autorităților naționale competente, ca răspuns la o solicitare.
