Etnička načela za pouzdanu veštačku inteligenciju
Digitalna transformacija, koju naročito pokreće veštačka inteligencija (AI), utiče na naše svakodnevne živote i radno okruženje. Stoga je neophodno usvajanje etičkog okvira za AI kako bi se osigurao odgovoran pristup.
Grupa Michelin želi da upotreba veštačke inteligencije u potpunosti bude u skladu sa njenim pristupom „Sve održivo“: Ljudi × Profit × Planeta.
Definicija
Veštačka inteligencija se generalno razume kroz njenu konkretnu primenu u AI sistemu, u daljem tekstu „AI“ ili „AI sistem“.
„AI sistem“ je definisan u Evropskoj regulativi od 13. juna 2024. godine kao: „automatizovani sistem dizajniran da funkcioniše na različitim nivoima autonomije i može pokazati adaptabilnost nakon implementacije, i koji, za eksplicitne ili implicitne ciljeve, zaključuje iz ulaznih podataka kako da generiše izlazne podatke poput predviđanja, sadržaja, preporuka ili odluka koje mogu uticati na fizička ili virtuelna okruženja“.
AI obuhvata više tehnologija i oblasti primene zasnovanih na modelima ili algoritmima.
Primeri:
- Generativna AI: kreiranje sadržaja (tekst, slika, video, zvuk, itd.) na osnovu upita;
- Prediktivna AI: predviđanje ishoda na osnovu istorije;
- AI za prepoznavanje i klasifikaciju: prepoznavanje vizuelnih objekata, klasifikacija slika, detekcija anomalnog ponašanja, itd.
Kontekst
Mogućnosti
AI je prošla kroz značajan razvoj poslednjih godina (kompleksni algoritmi, generativna AI zasnovana na velikim jezičkim modelima) i menja način na koji kompanije koriste podatke. Postoje brojne primene AI u raznim oblastima (transport, zdravstvo, marketing, javne službe, itd.).
AI donosi mogućnosti kako za kompaniju (npr. inovativni proizvodi i usluge, povećanje produktivnosti, otkrivanje neusklađenostii, itd.), tako i za ljude (podrška pri donošenju odluka, unapređenje dobrobiti na radu, inkluzija osoba sa invaliditetom, itd.).
Michelin ima dugu tradiciju inovacija, ekoloških i društvenih angažmana i namerava da i dalje igra ključnu ulogu u stvaranju održive budućnosti za sve.
Rizici
Pored brojnih mogućnosti koje nudi, AI predstavlja i dokazane ili potencijalne rizike za kompanije ali i društvo na kroz:
- Dizajn i treniranje modela: moguće pristrasnosti u skupovima podataka za obuku AI koji dovode do slučajeva diskriminacije, loš kvalitet podataka i/ili zagađenje, gubitak poverljivosti ličnih podataka, itd.
- Upotreba: netransparentno funkcionisanje AI sistema, nestabilnost performansi (tzv. „halucinacije“), uticaj na zdravlje i dobrobit zaposlenih koji na radnom mestu koriste AI sisteme, nekritičko poverenje u sistem, gubitak slobodne volje i kontrole, deljenje podataka zaštićenih poslovnom tajnom ili intelektualne svojine, kršenje konkurencijskog prava, itd.
- Društveni i ekološki problemi: digitalna manipulacija fotografijama/video sadržajem, manipulacija stanovništvom širenjem lažnih informacija, upotreba AI sistema za masovni nadzor pametnim kamerama, gotovo potpuna transformacija određenih zanimanja, energetski intenzivna tehnologija, itd.
Potrebni su kolektivni napori javnog i privatnog sektora kako bi AI sistemi bili pouzdani.
Okvir
Izazov je uskladiti upotrebu AI sistema sa vrednostima Grupe i istovremeno osigurati usklađenost sa važećim propisima.
Miichelin želi da predvidi i kontroliše rizike koje razvoj i implementacija AI sistema u Grupu, i da osigura da inovacije koje ti AI sistemi donose budu u skladu sa našim vrednostima.
Ovo usklađivanje je sine qua non za stvaranje okruženja koje svima nudi bolju budućnost.
Principi
Da bi se osiguralo da se AI sistemi koriste na način koji stvara i vrednost i poverenje, Michelin se obavezuje da AI sisteme koristi i razvija u skladu sa tri osnovna principa:
Ova tri principa dopunjuju obaveze Grupe, posebno u pogledu zaštite životne sredine i sigurnosti informacionih sistema.
Ona su dinamična i prilagođavaće se u skladu sa regulatornim izmenama, tehnološkim napretkom, analizom uticaja ali takođe i očekivanjima zaposlenih i interesnih grupa.
1. princip: AI usmerena na čoveka
AI sistemi moraju biti dizajnirani i korišćeni tako da budu u službi ljudi i da poštuju njihova osnovna prava i slobode (dostojanstvo, samoodređenje, privatnost, pravičnost, nediskriminaciju, itd.).
Da bi to postigla, Grupa se oslanja na sledeće elemente:
- Ljudski nadzor: svaki AI sistem biće dizajniran i korišćen uz odgovarajući nivo ljudskog uvažavanja i nadzora (npr. zabrana bilo koje odluke koja bi verovatno imala značajan uticaj na neku osobu, kao što je otkaz, unapređenje itd., a koja bi se zasnivala isključivo na odluci AI sistem).
- Zaštita zdravlja i dobrobiti zaposlenih: AI sistemi koje dizajniramo i koristimo moraju biti pouzdani, bezbedni i sigurni tokom svog celog životnog ciklusa kako bi ispunili postavljene ciljeve i kako ne bi predstavljali neprihvatljive rizike za ljude, posebno po njihovo zdravlje i blagostanje (gubitak autonomije, obespravljenost, dezinformacije itd.).
- Poštovanje ličnih podataka: AI usmerena na čoveka takođe nameće odgovarajuće kontrole nad obrađivanim ličnim podacima kako bi se sprečilo kršenje privatnosti ili gubitak poverljivosti podataka i osigurao kvalitet, integritet i relevantnost podataka u odnosu na svrhe za koje se obrađuju..
- Nediskriminacija i pravičnost: AI sistemi koje primenjujemo ili nabavljamo moraju biti konfigurisani na odgovarajući i proporcionalan način kako bi se izbegle pristrasnosti, diskriminacija ili reprodukcija stereotipa.
- Podizanje svesti i obuka: Svest o pitanjima vezanim za odgovoran razvoj ili AI je neophodna. Razvoj veština i puteva karijere zaposlenih mora biti podržan kako bi se razvilo poverenje u ove tehnologije, kako bi se pravedno raspodelile koristi od korišćenja AI unutar kompanije Michelin, ali i kako bi se svima omogućilo da se zaštite od rizika koje ona predstavlja, kao što su preterano poverenje u sadržaj koji generišu AI sistemi, gubitak ključnih veština itd.).
Integracijom upotrebe veštačke inteligencije unutar Grupe, Michelin je posvećen očuvanju dobrobiti i prava pojedinaca kroz prilagođenu organizaciju i procenu njenih mogućih negativnih uticaja.
2. princip: Transparentna i objašnjiva AI
Michelin Grupa obezbeđuje obuke kako bi osigurala da korisnici AI rešenja poseduju fundamentalno znanje, na primer razumevanje osnovnih funkcija AI, praktične posledice upotrebe AI i etičke aspekte.
Za operativne i tehničke timove, obuke su prilagođene ulozi i odgovornostima tako da svaki AI sistem razvijen ili primenjen unutar Grupe bude dovoljno transparentan i objašnjiv kako bi se osiguralo poverenje korisnika.
Transparentnost znači:
- Pružiti objašnjenje za sisteme za podršku odlučivanja zasnovanog na AI kako bi se precizirao okvir i ograničenja upotrebe AI;
- Osigurati da su ljudi koji koriste AI pravilno informisani kako bi mogli da identifikuju moguće pristrasnosti ili greške i da odgovorno donose odluke;
- Obavestiti ljude u odgovarajućem formatu kada komuniciraju sa AI sistemom, kada su izloženi ili kada su izloženi određenom sadržaju generisanom od strane AI.
Objašnjivost znači:
- Sposobnost opisivanja načina na koji je kako je AI sistem proizveo određeni rezultat, aposteriori ili u realnom vremenu, u zavisnosti od konteksta;
- Predložiti AI sistem čiji je rezultat razumljiv (barem interpretabilan) i reproducibilan
- Dati prioritet AI sistemima sa mogućnostima razumevanja kako AI sistem funkcioniše, uz objašnjenja. Nivo objašnjenja mora zavisiti od konteksta i težine posledica ako je rezultat pogrešan ili neprecizan (npr. predlog četbota za turistički plan puta sa aplikacijom ViaMichelin ima manji uticaj od vitalne medicinske prognoze).
Transparentnost i objašnjivost moraju uzeti u obzir i druge zahteve, posebno u pogledu intelektualne svojine i/ili zaštite od piraterije itd.
3. princip: Odgovornost
Miicheline je posvećena obezbeđivanju pravilnog funkcionisanja razvijenih i primenjenih sistema veštačke inteligencije i uspostavljanju odgovarajućeg upravljanja za nadzor i upravljanje upotrebom veštačke inteligencije unutar Grupe.
Ovakvo upravljanje osigurava da su identifikovani rizici poznati i kontrolisani i da su AI sistemi u skladu sa etičkim principima Grupe.
Posebno, prilikom razvoja AI sistema, kompanija Michelin se obavezala da:
- Sprovodi testove radi poboljšanja kvaliteta rezultata (npr. ljudski nadzor tokom faze obuke, itd.);
- Proveri i pokaže da preduzete mere predostrožnosti smanjuju potencijalne rizike na prihvatljiv nivo;
- Uzme u obzir multikulturalizm, višejezičnost i raznolikost timova;
- Proveri da li sistemi efikasno rade prema nameni (indikatori uspeha, itd.);
- Osigurava da ovi sistemi imaju dovoljan nivo zakonske usklađenosti, robusnosti i bezbednosti, itd. (npr. demonstracija usklađenosti, usklađenost sa standardima, itd.).
Kada Michelin primenjuje AI sistem, poverava njihov nadzor odgovornoj osobi sa potrebnim veštinama, obukom i ovlašćenjima kako bi se osigurala usklađenost sa etičkim principima Grupe i važećim propisima.
Kompanija Michelin je takođe posvećena ispitivanju, gde je to prikladno, etičkih dilema i kompromisa u okviru međufunkcionalnog i odgovarajućeg upravljanja.
Činiti: Moram
Svaki zaposleni mora doprineti poštovanju tri gore navedena principa i mora:
- Pratiti obavezne kurseve obuke koje je definisala Grupa
- Poštovati uslove korišćenja, pravila i procese definisane prilikom podešavanja novog AI alata
- Imati relevantno i obrazloženo korišćenje AI sistema koje pruža Michelin (pre aktivnosti postavljajući pitanje „zašto“, tj. dodatne vrednosti koju bi AI donela u poređenju sa rešenjem bez AI i „za koga“, koje su očekivane koristi za zaposlene ili bilo kog drugog spoljnog partnera Grupe (npr. kupce, dobavljače) itd.).
Na zaposlene se primenjuju posebni zahtevi u zavisnosti od njihove uloge i odgovornosti u razvoju ili obezbeđivanju AI inteligencije:
- Obezbediti transparentne, proverljive i objašnjive AI sisteme kako bi se korisnicima tih AI sistema pomoglo da donesu informisane odluke (objašnjenja, itd.) i osigurati sledljivost odluka.
- Isporučiti robusne AI sisteme kako bi pravilno funkcionisali u svrhu za koju su namenjeni.
- Implementirati sigurne AI sisteme, kod kojih su bezbednost i poverljivost podataka obezbeđeni tokom njihovog životnog ciklusa, uzimajući u obzir rizike koje AI može pogoršati (širenje podataka zbog preširokih prava pristupa, zaštita poslovnih tajni, pogrešna klasifikacija dokumenata, itd.)
- Obezbediti sledljivost podataka, procesa i odluka donetih tokom životnog ciklusa AI sistema.
- Odrediti osobu odgovornu za performanse, tačnost i uticaj svakog dostupnog AI sistema na rezultate Grupe.
- Obezbediti tačnu dokumentaciju za svaki AI sistem, uključujući njegov okvir i ograničenja upotrebe.
- Identifikovati rizike povezane sa svakim AI sistemom, pratiti ih i sprovoditi preventivne i korektivne mere.
- Dizajnirati održive AI sisteme optimizacijom korišćenja resursa radi smanjenja našeg ugljeničnog otiska.
- Promovisati raznolikosti timova koji rade na AI u smislu profila, veština, iskustva, najboljih garanta protiv rizika od pristrasnosti i, generalno, etičkih rizika.
Ne činiti: Ne smem
Nijedan zaposleni ne sme:
- Implementirati ili nabaviti AI sisteme čiji su slučajevi upotrebe suprotni etičkim vrednostima i principima Grupe ili zabranjeni propisima (AI usmerena na manipulaciju ili obmanjivanje, itd.).
- Nabavljati AI sisteme bez prethodnog osiguranja ili zahtevanja garancija (ugovornih, certifikacionih, procena usaglašenosti, itd.) od dobavljača o usklađenosti sa postojećim propisima (intelektualna svojina, poverljivost, itd.).
- U potpunosti se oslanjati na AI sistem u procesu donošenja odluka koji ima značajan uticaj na zaposlenog (npr. promena posla, unapređenje, itd.).
- Ponovo koristiti rezultate koje je predložio AI sistem bez prethodne provere grešaka (zapisnici sa sastanaka, beleške sa brifinga, itd.).
- Implementirati AI sisteme koji nose rizik od širenja poverljivih ili ličnih informacija (npr. podaci o geolokaciji, itd.).