Principiile etice pentru o Inteligență Artificială de încredere

Transformarea digitală, susținută în special de Inteligența Artificială (IA), impactează viața noastră de zi cu zi și mediul nostru de lucru. Adoptarea unui cadru etic pentru IA este, prin urmare, necesară pentru a avea o abordare responsabilă.

Grupul Michelin dorește ca utilizarea Inteligenței Artificiale să răspundă pe deplin ambițiilor sale „totul Durabil”: People x Profit x Planet.

Definiție

IA este în general abordată prin aplicarea sa concretă într-un sistem de IA, denumit în continuare „IA” sau „sistem de IA”.

„Sistemul de IA” este definit de Regulamentul european din 13 iunie 2024 ca fiind „un sistem automatizat conceput pentru a funcționa la diferite niveluri de autonomie și care poate demonstra o capacitate de adaptare după implementare, și care, pentru obiective explicite sau implicite, deduce, pe baza intrărilor pe care le primește, modul de a genera ieșiri precum predicții, conținut, recomandări sau decizii ce pot influența mediile fizice sau virtuale”.

IA include mai multe tehnologii și domenii de aplicație care se bazează pe modele sau algoritmi.

Examples:

IA generativă: creare de conținut (text, imagine, video, sunet etc.) pe baza unei cereri;
IA de predicție: predicția unui rezultat pe baza unui istoric;
IA de recunoaștere și clasificare: recunoaștere vizuală a obiectelor, clasificare de imagini, detectare de comportamente anormale etc.

Context

Oportunități

IA a cunoscut dezvoltări semnificative în ultimii ani (algoritmi complexi, IA generative bazate pe modele lingvistice mari) și transformă modul în care companiile utilizează datele. Aplicațiile care folosesc IA sunt numeroase în diverse domenii (transport, sănătate, marketing, servicii publice etc.).

Într-adevăr, IA aduce oportunități atât pentru companie (ex: produse și servicii inovatoare, creșteri de productivitate, detectarea neconformităților etc.), cât și pentru persoane (ajutor în luarea deciziilor, îmbunătățirea bunăstării la locul de muncă, incluziunea persoanelor cu dizabilități etc.).

Michelin are o tradiție lungă în inovație, angajamente de mediu și sociale și dorește să continue să joace un rol major pentru un viitor mai durabil pentru toți.

Riscuri

Dincolo de oportunitățile oferite, IA prezintă și riscuri dovedite sau potențiale la nivelul companiilor, dar și al societății, prin:

Concepția și antrenamentul modelelor: posibile prejudecăți în seturile de date de antrenament ale IA care pot duce la cazuri de discriminare, calitate slabă și/sau poluare a datelor, pierderea confidențialității datelor cu caracter personal etc.;
Utilizarea sa: opacitatea funcționării sistemului de IA, instabilitatea performanței (ex. halucinații), impact asupra sănătății și bunăstării angajaților care folosesc sistemele IA, încredere excesivă fără reflecție critică, pierderea liberului arbitru și controlului, partajarea datelor care țin de secretul afacerii sau proprietatea intelectuală, încălcarea dreptului concurenței etc.;
Îngrijorări sociale și de mediu: trucaje hiper-realiste („deepfake”), manipularea populațiilor prin răspândirea de informații false, utilizarea sistemelor IA pentru supravegherea în masă a populațiilor prin camere inteligente, transformări profunde ale anumitor meserii, tehnologie consumatoare de energie etc.

Sunt necesare eforturi colective atât din partea actorilor publici cât și privați pentru a garanta sisteme de IA de încredere.

Încadrare

Provocarea este să se concilieze utilizările sistemelor de IA cu valorile Grupului, asigurând respectarea reglementărilor aplicabile.

Dorința Michelin este să anticipeze și să controleze riscurile induse de dezvoltarea și implementarea sistemelor de IA în cadrul Grupului și să se asigure că inovația adusă de aceste sisteme IA va fi în conformitate cu valorile noastre.

Această conciliere este o condiție sine qua non pentru crearea unui mediu care să ofere fiecăruia o modalitate mai bună de a progresa.

Principii

Pentru a asigura o utilizare a sistemelor IA care să fie în același timp generatoare de valoare și de încredere, Michelin se angajează să folosească și să dezvolte sisteme IA conform a trei principii fundamentale.

Aceste trei principii completează angajamentele Grupului asumate, în special în materie de mediu și securitate a sistemelor informatice.

Ele sunt menite să evolueze în timp, ținând cont de evoluțiile reglementare, de progresele tehnologice, de analiza impacturilor, dar și de așteptările angajaților și ale părților interesate ale Grupului.

Principiul 1: o IA centrată pe om

Sistemele IA trebuie să fie concepute și utilizate astfel încât să fie în serviciul Omului și să respecte drepturile și libertățile fundamentale ale acestuia (demnitate, autodeterminare, viață privată, echitate, nediscriminare etc.).

Pentru aceasta, Grupul se bazează pe următoarele elemente:

Supravegherea umană: orice sistem de IA va fi conceput și utilizat garantând un nivel adecvat de apreciere și supraveghere umană (ex: a exclude orice decizie care ar putea avea un impact semnificativ asupra unei persoane, precum o concediere, o promovare etc., bazată exclusiv pe o decizie a unui sistem IA);
Păstrarea sănătății și bunăstării angajaților: sistemele IA pe care le concepem și folosim trebuie să fie fiabile, sigure și securizate pe întregul lor ciclu de viață, pentru a atinge obiectivele stabilite și a nu prezenta riscuri inacceptabile pentru persoane, în special asupra sănătății și bunăstării lor (pierdere de autonomie, responsabilizare redusă, dezinformare etc.);
Respectul datelor personale: o IA care respectă persoanele impune măsuri adecvate de control asupra datelor personale prelucrate pentru a preveni încălcarea vieții private sau pierderea confidențialității datelor și pentru a asigura calitatea, integritatea și relevanța datelor în raport cu scopurile pentru care sunt prelucrate;
Nediscriminarea și echitatea: sistemele IA pe care le implementăm sau achiziționăm trebuie parametrate într-un mod adecvat și proporțional pentru a evita prejudecățile, discriminările sau reproducerea stereotipurilor;
Conștientizarea și formarea: conștientizarea problemelor legate de dezvoltarea sau implementarea responsabilă a IA este esențială. Dezvoltarea competențelor și a parcursurilor profesionale ale angajaților trebuie susținută pentru a favoriza încrederea în aceste tehnologii, pentru a distribui în mod echitabil beneficiile utilizării IA în cadrul Michelin, dar și pentru a permite fiecăruia să se protejeze împotriva riscurilor pe care le prezintă, cum ar fi lipsa controlului asupra conținutului generat de sistemele IA, pierderea competențelor cheie etc.

Michelin se angajează, integrând utilizarea IA în cadrul Grupului, să păstreze bunăstarea și drepturile persoanelor printr-o organizare adecvată și o evaluare a potențialelor impacturi negative.

Principiul 2: o IA transparentă și explicabilă

Michelin susține cursuri pentru a se asigura că utilizatorii soluțiilor IA dispun de cunoștințele fundamentale, cum ar fi înțelegerea funcțiilor de bază ale IA, implicațiile sale practice și considerentele etice.

Pentru echipele operaționale și tehnice, formarea este adaptată rolurilor și responsabilităților lor pentru ca orice sistem IA dezvoltat sau implementat în cadrul Grupului să fie suficient de transparent și explicabil pentru a asigura încrederea utilizatorilor.

Transparent înseamnă:

Furnizarea unei fișe explicative pentru sistemele IA de asistență decizională pentru a preciza cadrul și limitele utilizării;
Asigurarea unei bune informări a persoanelor care folosesc IA pentru a le permite să identifice posibile prejudecăți sau erori și să ia decizii responsabile;
Informarea persoanelor într-un format adecvat atunci când interacționează cu un sistem IA sau sunt expuse la anumite conținuturi generate de IA.

Explicabil înseamnă:

A fi capabil să descrie modul în care sistemul IA a produs un rezultat particular, post-factum sau în timp real, în funcție de context;
A oferi un sistem IA al cărui rezultat este inteligibil (cel puțin interpretabil) și reproductibil;
A privilegia sistemele IA care dispun de funcționalități ce permit înțelegerea modului în care funcționează sistemul IA, cu note explicative. Nivelul de explicație trebuie să depindă de context și de gravitatea consecințelor în cazul în care rezultatul este eronat sau imprecis (ex: propunerea unui itinerar turistic printr-un dialogator („chatbot”) în aplicația ViaMichelin are un impact mai mic decât un prognostic medical vital).

Transparența și explicabilitatea trebuie să țină cont și de alte cerințe, în special în materie de proprietate intelectuală și/sau protecție împotriva piratării etc.

Principiul 3: o responsabilitate adaptată („accountability”)

Michelin se angajează să se asigure de buna funcționare a sistemelor IA dezvoltate și implementate și să instituie o guvernanță adecvată pentru a supraveghea și conduce utilizarea IA în cadrul Grupului.

Această guvernanță se asigură că riscurile identificate sunt cunoscute și controlate și că sistemele IA sunt conforme principiilor etice ale Grupului.

Michelin se angajează în special, în timpul dezvoltării sistemelor IA, să:

Efectueze teste pentru a îmbunătăți calitatea rezultatelor (ex: supraveghere umană în timpul fazei de antrenament etc.);
Verifice și demonstreze că măsurile luate reduc riscurile posibile la un nivel acceptabil;
Ia în considerare multiculturalismul, multilingvismul și diversitatea echipelor;
Verifice că sistemele își îndeplinesc eficient scopul pentru care au fost prevăzute (indicatori de succes etc.);
Garanția că aceste sisteme prezintă un nivel suficient de conformitate legală, robustețe și securitate (ex: demonstrarea conformității, respectarea normelor etc.).

Atunci când Michelin implementează sisteme IA, supravegherea acestora este încredințată unei persoane responsabile care deține competențele, formarea și autoritatea necesare pentru a asigura respectarea principiilor etice ale Grupului și a reglementărilor aplicabile.

Michelin se angajează de asemenea să examineze, după caz, dilemele și compromisurile etice în cadrul unei guvernanțe transversale și adecvate.

Ce să fac

Fiecare angajat trebuie să contribuie la respectarea celor trei principii enunțate mai sus și:

Urmează cursurile de formare obligatorii definite de Grup;
Respectă condițiile de utilizare, regulile și procesele definite la configurarea unui nou instrument IA;
Utilizează în mod pertinent și rațional sistemele IA puse la dispoziție de Michelin (și anume întreabă în prealabil „de ce”, adică ce valoare adaugă IA comparativ cu o soluție fără IA și „pentru cine”, care sunt beneficiile așteptate pentru angajați sau orice alt partener extern al Grupului, de exemplu clienți, furnizori etc.).

Exigențe specifice se aplică angajaților în funcție de rolul și responsabilitățile lor în dezvoltarea sau furnizarea sistemelor IA, aceștia:

Furnizează sisteme IA transparente, verificabile și explicabile pentru a ajuta utilizatorii să facă alegeri informate (note explicative etc.) și să asigure trasabilitatea deciziilor;
Furnizează sisteme IA robuste, care să funcționeze corect pentru scopul pentru care au fost prevăzute;
Implementează sisteme IA sigure, asigurând securitatea și confidențialitatea datelor pe tot parcursul ciclului lor de viață, ținând cont de riscurile pe care IA le poate accentua (difuzarea datelor din cauza drepturilor de acces prea largi, protecția secretului afacerii, clasificarea incorectă a documentelor etc.);
Asigură trasabilitatea datelor, proceselor și deciziilor luate pe parcursul ciclului de viață al sistemului IA;
Desemnează pentru fiecare sistem IA pus la dispoziție o persoană responsabilă pentru performanța, acuratețea și impactul său asupra rezultatelor Grupului;
Furnizează pentru fiecare sistem IA o documentație precisă, inclusiv cadrul și limitele de utilizare;
Identifică riscurile legate de fiecare sistem IA, le monitorizează și implementează măsuri preventive și corective;
Concep sisteme IA durabile, optimizând utilizarea resurselor pentru a reduce amprenta noastră de carbon;
Promovează diversitatea echipelor care lucrează la IA în termeni de profiluri, competențe, experiențe, cele mai bune garanții împotriva riscurilor de prejudecăți și, în general, a riscurilor etice.

Ce să nu fac

Să implementez sau să achiziționez sisteme IA a căror utilizare este contrară valorilor și principiilor etice ale Grupului sau interzise de reglementări (IA menită să manipuleze sau să înșele etc.);
Să achiziționez sisteme IA fără a mă asigura anterior sau a cere garanții (contractuale, certificări, evaluare a conformității etc.) din partea furnizorului cu privire la respectarea reglementărilor existente (proprietate intelectuală, confidențialitate etc.);
Să mă bazez complet pe un sistem IA într-un proces decizional cu impact major asupra unui angajat (ex: schimbare de post, promovare etc.);
Să reutilizez rezultatele propuse de un sistem IA fără a verifica anterior absența erorilor (procese verbale de ședință, note de informare etc.);
Să implementez sisteme IA care prezintă riscul de a difuza informații confidențiale sau personale (ex: date de geolocalizare etc.).