Cadrul european de reglementare a inteligenței artificiale este construit pe o idee simplă: obligațiile depind de ce face sistemul, nu de cât de sofisticată este tehnologia din spate.
Logica pe niveluri de risc
Regulamentul împarte sistemele în categorii, iar fiecare categorie atrage un set diferit de obligații.
Practici interzise. Un număr limitat de utilizări nu sunt permise deloc — de exemplu, cele care exploatează vulnerabilitățile unor grupuri sau care realizează o evaluare socială generalizată a persoanelor.
Sisteme cu risc ridicat. Cele folosite în domenii unde o eroare afectează direct drepturile sau siguranța: angajare, acces la educație, servicii esențiale, componente de siguranță ale produselor. Aici apar cele mai multe obligații concrete.
Obligații de transparență. Sistemele care interacționează cu oameni, generează conținut sau recunosc emoții trebuie să facă evident că sunt sisteme automate.
Risc minim. Restul, fără obligații specifice.
Ce înseamnă „risc ridicat” în practică
Pentru un sistem din această categorie, cerințele se traduc în documente și procese care trebuie să existe înainte de punerea în funcțiune:
- un sistem de management al riscului, documentat și actualizat;
- guvernanța datelor: de unde provin, cum au fost verificate, ce lacune au;
- documentație tehnică suficientă pentru ca un terț să înțeleagă cum funcționează;
- jurnalizare automată a funcționării, păstrată o perioadă determinată;
- instrucțiuni clare pentru cel care îl folosește;
- supraveghere umană efectivă, nu formală;
- un nivel adecvat de acuratețe, robustețe și securitate cibernetică.
Niciuna dintre aceste cerințe nu se poate adăuga retroactiv într-o săptămână. Toate presupun decizii luate din faza de proiectare.
Prima întrebare pe care trebuie să ți-o pui
Nu „ce model folosim”, ci: ce decizie ia sau influențează sistemul, despre cine, și ce se întâmplă dacă greșește?
Un model simplu folosit pentru a filtra candidaturi intră în categoria cu risc ridicat. Un model foarte complex folosit pentru a sugera etichete într-o galerie de imagini interne nu.
Rolul tău în lanț
Obligațiile diferă după rol. Cine dezvoltă sistemul are un set; cine îl pune pe piață sub numele propriu are altul; cine doar îl folosește are al treilea. Multe organizații se consideră simpli utilizatori, dar devin furnizori în sensul regulamentului în momentul în care adaptează substanțial un sistem sau îl comercializează sub marca proprie.
Ce merită început acum
Independent de termenele exacte de aplicare, trei lucruri sunt utile din prima zi și nu se pierd niciodată:
- Un inventar al sistemelor. Ce sisteme automate de decizie există în organizație, ce fac, pe cine afectează, cine este responsabil.
- Documentația deciziilor. De ce a fost ales acest model, pe ce date, cu ce limite cunoscute, cine a aprobat punerea în funcțiune.
- Un proces de evaluare repetabil. Cum se verifică sistemul înainte și după lansare, cu ce prag de acceptare.
Organizațiile care au aceste trei lucruri vor trata conformitatea ca pe o formalizare a ceea ce fac deja. Celelalte o vor trata ca pe un proiect de urgență.
Acest articol descrie structura generală a cadrului de reglementare și nu constituie consultanță juridică. Pentru obligațiile concrete aplicabile unui sistem anume, consultă un specialist.