Companiile care utilizează inteligența artificială vor trebui să privească această tehnologie dincolo de beneficiile pe care le aduce în materie de productivitate. EU AI Act, primul regulament european privind inteligența artificială, introduce obligații care vizează modul în care organizațiile implementează, utilizează și supraveghează sistemele AI.
EU AI Act este primul regulament al Uniunii Europene care stabilește un cadru unitar pentru dezvoltarea și utilizarea sistemelor de inteligență artificială, în funcție de nivelul de risc. Regulamentul a intrat în vigoare la 1 august 2024, dar prevederile sale se aplică etapizat. Primele obligații, precum interzicerea anumitor practici AI și cerințele privind dezvoltarea competențelor în utilizarea inteligenței artificiale, au devenit aplicabile în februarie 2025, iar majoritatea obligațiilor pentru companii vor intra în vigoare începând cu 2 august 2026.
Pentru Tom Carter, trainer britanic specializat în implementarea responsabilă a inteligenței artificiale și în aplicarea EU AI Act, cea mai importantă schimbare adusă de regulament este obligația companiilor de a trata AI prin prisma guvernanței și a responsabilității, la fel cum au făcut în cazul protecției datelor.
„Cea mai importantă schimbare, per ansamblu, este că organizațiile trebuie să instituie un regim structurat de guvernanță, în același mod în care au făcut-o pentru protecția datelor și în același mod în care acest lucru devine acum relevant și pentru securitatea cibernetică”, evidențiază Tom Carter.
Expertul consideră că adoptarea AI nu se rezumă la implementarea unor tehnologii. Dezvoltarea unor politici interne, stabilirea unor responsabilități clare și pregătirea angajaților pentru utilizarea acesteia rămân cele mai importante aspecte. La fel cum introducerea e-mailului sau apariția regulilor cu privire la securitatea cibernetică au impus schimbări în modul de lucru al organizațiilor, AI generează astăzi un nou proces de adaptare.
Alfabetizarea în AI
Deși multe organizații asociază inteligența artificială cu instrumente precum ChatGPT sau Microsoft Copilot, Tom Carter subliniază că AI este deja prezentă în numeroase aplicații și instrumente utilizate zilnic. Majoritatea oamenilor interacționează cu acest tip de tehnologie deoarece funcțiile de completare automată a textului, sistemele de navigație, platformele de streaming și magazinele online utilizează algoritmi de inteligență artificială. Acesta este motivul pentru care una dintre cele mai importante obligații ale companiilor rămâne dezvoltarea competențelor angajaților în utilizarea responsabilă a AI.
„Este esențial ca organizațiile să se asigure că angajații lor sunt instruiți. Diferența în cazul inteligenței artificiale este că aceasta îi afectează pe toți. Cu toții interacționăm cu AI în viața de zi cu zi, chiar dacă nu ne dăm seama”.
AI, impact asupra drepturilor fundamentale
Una dintre principalele noutăți aduse de EU AI Act este clasificarea sistemelor AI în funcție de nivelul de risc. Specialistul explică faptul că regulamentul acordă o atenție deosebită situațiilor în care inteligența artificială poate influența drepturile fundamentale ale oamenilor.
„Principiul care stă la baza întregii legislații europene este că aceasta trebuie, înainte de toate, să protejeze drepturile omului. Deși vorbim despre tehnologie, întrebarea esențială este cum afectează aceasta drepturile unei persoane și în ce măsură AI este utilizată pentru a lua decizii care pot avea un astfel de impact”.
În această categorie sunt incluse domenii precum aplicarea legii, sistemul bancar, administrația publică sau resursele umane, acolo unde inteligența artificială poate contribui la luarea unor decizii care privesc angajarea, acordarea unor servicii și accesul la diferite beneficii.
Totodată, Tom Carter consideră că una dintre cele mai puțin înțelese prevederi ale regulamentului are legătură cu utilizarea aplicațiilor AI de uz general.
„Provocarea cu care se vor confrunta oamenii este că instrumente de uz general, pe care majoritatea utilizatorilor le au instalate implicit pe computer, îi plasează în categoria utilizatorilor de sisteme AI cu risc ridicat. De exemplu, folosirea Microsoft Copilot în Excel, PowerPoint sau Word înseamnă utilizarea unui instrument AI cu risc ridicat”.
El susține că numeroase organizații utilizează deja astfel de aplicații fără să conștientizeze implicațiile pe care acestea le pot avea din perspectiva conformării cu EU AI Act.
Costul neconformării
Amenzile impuse de EU AI Act sunt consistente, însă expertul spune că organizațiile nu ar trebui să privească legislația exclusiv prin prisma sancțiunilor, ci în contextul întregului ecosistem legislativ european.
„Amenzile sunt, într-adevăr, foarte mari. Pentru anumite sisteme AI interzise, sancțiunea este de 15 milioane de euro sau până la 7% din cifra de afaceri globală, nu din profit”.
Tom Carter amintește că EU AI Act se suprapune cu alte reglementări europene, precum GDPR, Digital Services Act, Digital Markets Act și directiva NIS2 privind securitatea cibernetică.
Astfel, o companie riscă să încalce mai multe acte normative prin aceeași utilizare necorespunzătoare a inteligenței artificiale: „Dacă încalci EU AI Act, este foarte probabil să încalci și GDPR. Nu este vorba doar despre riscul de a încălca o singură lege, ci un întreg pachet legislativ”.
Trainerul compară acest ansamblu legislativ cu o pânză de păianjen pentru că fiecare reglementare este conectată cu celelalte. De exemplu, utilizarea AI în prelucrarea datelor cu caracter personal poate genera simultan obligații în temeiul EU AI Act și al GDPR.
În același timp, noile reguli privind etichetarea conținutului generat cu ajutorul inteligenței artificiale pot avea implicații și din perspectiva Digital Services Act. Un alt aspect asupra căruia atrage atenția este faptul că sancțiunile nu se aplică neapărat o singură dată la nivelul unei companii. Pe lângă consecințele financiare pe care le pot suporta organizațiile în cazul neconformării la regulile europene, Tom Carter expune un alt mare risc: pătarea reputației și deteriorarea relației cu clienții.
Pentru companiile care aleg să utilizeze transparent inteligența artificială, EU AI Act poate lua forma unei oportunități: „Dacă ești deschis și transparent în privința modului în care utilizezi inteligența artificială, vei câștiga încrederea clienților”.
El subliniază că organizațiile care explică modul în care folosesc tehnologia beneficiază de un nivel mai ridicat de încredere și de loialitate din partea clienților. Astfel, conformarea poate fi privită și din perspectiva unui element care contribuie la consolidarea reputației companiei.
„Dincolo de toate câștigurile de productivitate pe care le poate aduce AI, transparența oferă și un avantaj competitiv din punct de Vedere reputațional, care poate compensa riscurile administrative și financiare asociate eventualelor sancțiuni”.
Guvernanța AI devine un proces permanent
Pentru multe organizații, respectarea prevederilor EU AI Act poate părea un proiect cu un început și un sfârșit clar. Expertul susține însă că aceasta este una dintre cele mai mari greșeli pe care le pot face companiile. Inteligența artificială evoluează într-un ritm alert, iar programele de instruire și politicile interne trebuie actualizate constant.
„Nu este un exercițiu de tip tick-box. Din cauza naturii acestei tehnologii și a faptului că evoluează atât de repede, acesta este un proces continuu”.
Adevărata provocare rămâne pregătirea oamenilor. Specialistul subliniază că tot mai multe organizații recrutează deja AI Governance Managers sau AI Governance Officers, roluri similare celor care au apărut în urmă cu aproape un deceniu odată cu intrarea în vigoare a GDPR. Totuși, elaborarea unei strategii este doar primul pas.
„Următorul mare obstacol de care se vor lovi toate organizațiile este că strategia va arăta că toți angajații trebuie instruiți, iar aceasta este o sarcină herculeană”, conchide acesta.
Cine răspunde pentru deciziile din companii
Regulamentul schimbă și modul în care este distribuită responsabilitatea în cadrul companiilor. Tom Carter spune că deciziile privind implementarea AI nu mai pot fi considerate exclusiv responsabilitatea departamentului IT sau a conducerii, în ansamblu: „Dacă un consiliu de administrație decide, de exemplu, să achiziționeze un software care utilizează inteligență artificială, trebuie să existe o persoană nominalizată, identificată în mod clar, care este responsabilă din punct de vedere juridic pentru acea decizie”.
Din perspectiva sa, această abordare reflectă modelul care se regăsește deja în domenii precum protecția datelor, contabilitatea sau sectorul financiar, unde responsabilitatea pentru anumite decizii nu poate fi împărțită între mai multe persoane.
„Nu poți spune: «Eram zece persoane în încăpere și am luat cu toții decizia». Da, ai făcut parte din procesul decizional, dar cineva trebuie să își asume responsabilitatea”.
Acesta explică faptul că responsabilitatea trebuie distribuită pe mai multe niveluri. Primul dintre ele este reprezentat de legislație, urmat de politicile și cultura organizațională, iar la baza structurii se află fiecare angajat.
„Dacă observi ceva ce consideri că este în neregulă, trebuie să semnalezi acest lucru. Nu poți spune pur și simplu: «Nu este problema mea, este problema departamentului IT»”, punctează Tom Carter.
