Eettiset periaatteet luotettavalle tekoälylle

Digitaalinen muutos, jota erityisesti tekoäly (AI) vauhdittaa, vaikuttaa arkeemme ja työympäristöömme. Eettisen viitekehyksen omaksuminen tekoälylle on siksi välttämätöntä vastuullisen lähestymistavan saavuttamiseksi.

Michelin-konserni haluaa, että tekoälyn käyttö on täysin linjassa sen "All Sustainable" -lähestymistavan kanssa: Ihmiset x Voitto x Planeetta.

Määritelmä

Tekoäly ymmärretään yleensä sen konkreettisten sovellusten kautta tekoälyjärjestelmässä, jäljempänä "tekoäly" tai "tekoälyjärjestelmä".

"AI-järjestelmä" määritellään Euroopan asetuksessa 13. kesäkuuta 2024 "automatisoiduksi järjestelmäksi, joka on suunniteltu toimimaan eri autonomian tasoilla ja pystyy osoittamaan sopeutumiskykyä käyttöönoton jälkeen, ja joka eksplisiittisten tai implisiittisten tavoitteiden vuoksi päättelee saamiensa syötteiden perusteella, miten tuottaa tuloksia, kuten ennusteita, sisältöä, suosituksia tai päätöksiä, jotka voivat vaikuttaa fyysisiin tai virtuaalisiin ympäristöihin".

Tekoäly kattaa useita teknologioita ja sovellusalueita, jotka perustuvat malleihin tai algoritmeihin

Esimerkkejä:

Generatiivinen tekoäly: sisällön (teksti, kuva, video, ääni jne.) luominen kyselyn perusteella;
Ennakoivatekoäly: lopputuloksen ennustaminen historian perusteella;
Tunnistus ja luokittelu, tekoäly: visuaalisten objektien tunnistus, kuvien luokittelu, poikkeavien käyttäytymisten tunnistus jne.

Tausta

Mahdollisuudet

Tekoäly on kokenut merkittävää kehitystä viime vuosina (monimutkaiset algoritmit, generatiiviset tekoälyt, jotka perustuvat suuriin kielimalleihin) ja muuttaa tapaa, jolla yritykset käyttävät dataa. Tekoälyä käytetään monilla aloilla (liikenne, terveys, markkinointi, julkiset palvelut jne.).

Tekoäly tarjoaa mahdollisuuksia sekä yritykselle (esim. innovatiiviset tuotteet ja palvelut, tuottavuuden kasvu, poikkeavuuksien havaitseminen jne.) että ihmisille (päätöksenteon tukeminen, työpaikan hyvinvoinnin parantaminen, vammaisten mukaan ottaminen jne.).

Michelinillä on pitkä perinne innovaatioista, ympäristö- ja yhteiskunnallisista sitoumuksista, ja se aikoo jatkaa merkittävää roolia kestävämmässä tulevaisuudessa kaikille.

Riskit

Mahdollisuuksien lisäksi tekoäly aiheuttaa myös todistettuja tai potentiaalisia riskejä yritysten ja yhteiskunnan tasolla, seuraavasti:

Sen mallien suunnittelu ja koulutus: mahdolliset vinoumat tekoälykoulutusaineistoissa, jotka voivat johtaa syrjintään, huonoon datan laatuun ja/tai saastumiseen, henkilötietojen luottamuksellisuuden menetykseen jne.
Sen käyttö: tekoälyjärjestelmän toiminnan läpinäkymättömyys, sen toiminnan epävakaus (esim. hallusinaatiot), vaikutus tekoälyjärjestelmiä käyttävien ihmisten työhyvinvointiin ja terveyteen, luottamus järjestelmiin ilman kriittistä reflektioharhaa, vapaan tahdon ja kontrollin menetys, liikesalaisuuksien tai immateriaalioikeuksien suojaaman tiedon jakaminen, kilpailulain rikkominen, jne.
Yhteiskunnalliset ja ympäristölliset huolenaiheet: deepfake, väestön manipulointi levittämällä väärää tietoa, tekoälyjärjestelmien käyttö massavalvontaan älykameroiden avulla, tiettyjen ammattien syvällinen muutos, energiaintensiivinen teknologia jne.

Sekä julkisten että yksityisten toimijoiden yhteisiä ponnistuksia tarvitaan luotettavien tekoälyjärjestelmien varmistamiseksi.

Kehys

Haasteena on sovittaa yhteen tekoälyjärjestelmien käyttö konsernin arvoihin samalla kun varmistetaan sovellettavien säädösten noudattaminen.

Michelinin tavoitteena on ennakoida ja hallita AI-järjestelmien kehityksestä ja käyttöönotosta konsernissa aiheutuvia riskejä sekä varmistaa, että näiden tekoälyjärjestelmien ohjaama innovaatio on linjassa arvojemme kanssa.

Tämä sovittelu on välttämätön edellytys ympäristön luomiselle, joka tarjoaa kaikille paremman tien eteenpäin.

Periaatteet

Varmistaakseen, että tekoälyjärjestelmiä käytetään tavalla, joka luo sekä arvoa että luottamusta, Michelin on sitoutunut käyttämään ja kehittämään tekoälyjärjestelmiä kolmen perusperiaatteen mukaisesti.

Nämä kolme periaatetta täydentävät konsernin sitoumuksia erityisesti ympäristöön ja tietojärjestelmien turvallisuuteen liittyen.

Niiden on tarkoitus kehittyä ajan myötä ottaen huomioon sääntelymuutokset, teknologinen kehitys, vaikutusanalyysi sekä konsernin työntekijöiden ja sidosryhmien odotukset.

Periaate 1: Ihmiskeskeinen tekoäly

Tekoälyjärjestelmät on suunniteltava ja käytettävä siten, että ne palvelevat ihmisiä ja kunnioittavat heidän perusoikeuksiaan ja vapauksiaan (arvokkuus, itsemääräämisoikeus, yksityisyys, oikeudenmukaisuus, syrjimättömyys jne.).

Tämän saavuttamiseksi konserni luottaa seuraaviin elementteihin:

Ihmisen valvonta: mikä tahansa tekoälyjärjestelmä joka suunnitellaan ja käytetään riittävällä ihmisarvostuksen ja valvonnan tasolla (esim. kielletään kaikki päätökset, joilla voi olla merkittäviä vaikutuksia henkilöön, kuten erottaminen, ylennys jne., jotka perustuvat yksinomaan tekoälyjärjestelmän päätökseen).

Työntekijöiden terveyden ja hyvinvoinnin turvaaminen: Suunnittelemiemme ja käyttämiemme tekoälyjärjestelmien on oltava luotettavia, turvallisia ja suojattuja koko elinkaarensa ajan, jotta ne saavuttavat asetetut tavoitteet eivätkä aiheuta hyväksymättömiä riskejä ihmisille, erityisesti heidän terveydelleen ja hyvinvoinnilleen (autonomian menetys, voimattomuus, väärä tieto jne.).
Henkilötietojen kunnioittaminen: Ihmiskeskeinen tekoäly asettaa myös asianmukaiset kontrollit käsitellen henkilötietoihin estääkseen yksityisyyden loukkaukset tai tietojen luottamuksellisuuden menetykset sekä varmistaakseen datan laadun, eheyden ja merkityksellisyyden suhteessa niihin tarkoituksiin, joihin niitä käsitellään.
Syrjimättömyys ja tasa-arvo: Käyttöönotamme tai hankkimamme tekoälyjärjestelmät on konfiguroitava asianmukaisesti ja suhteellisesti, jotta vältetään ennakkoluulo, syrjintä tai stereotypioiden toistaminen.
Tietoisuus ja koulutus: Tietoisuus tekoälyn vastuulliseen kehitykseen tai käyttöönottoon liittyvistä asioista on välttämätöntä. Työntekijöiden taitojen ja urapolkujen kehitystä on tuettava, jotta luottamus näihin teknologioihin kasvaa, tekoälyn hyödyt voidaan jakaa oikeudenmukaisesti Michelinissä, mutta myös mahdollistaa kaikkien suojautuminen sen aiheuttamilta riskeiltä, kuten yliluottamukselta tekoälyjärjestelmien tuottaman sisällön suhteen, keskeisten taitojen menetykseltä, jne.).

Integroimalla tekoälyn käytön konserniin Michelin sitoutuu säilyttämään yksilöiden hyvinvoinnin ja oikeudet mukautetun organisaation ja sen mahdollisten kielteisten vaikutusten arvioinnin kautta.

Periaate 2: Läpinäkyvä ja selitettävä tekoäly

Michelin Group tarjoaa koulutusta varmistaakseen, että tekoälyratkaisujen käyttäjillä on perustavanlaatuinen tieto, kuten tekoälyn perustoimintojen, käytännön vaikutusten ja eettisten näkökohtien ymmärtäminen.

Operatiivisille ja teknisille tiimeille koulutus räätälöidään heidän rooleihinsa ja vastuisiinsa siten, että kaikki ryhmässä kehitetyt tai käyttöön otetut tekoälyjärjestelmät ovat riittävän läpinäkyviä ja selitettäviä, jotta käyttäjien luottamus varmistetaan.

Läpinäkyvä tarkoittaa:

Tarjotaan selventävä lomake tekoälyn päätöksenteon tukijärjestelmille niiden viitekehyksen ja käyttörajojen määrittämiseksi;
Varmista, että tekoälyä käyttävät ihmiset saavat asianmukaisen tiedon, jotta he voivat tunnistaa mahdolliset ennakkoluulot tai virheet ja tehdä vastuullisia päätöksiä;
Tiedota ihmisille sopivassa muodossa, että kun he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa, altistuvat he tietylle tekoälyn tuottamalle sisällölle.

Selitettävä tarkoittaa:

Täytyy pystyä kuvailemaan, miten tekoälyjärjestelmä tuotti tietyn tuloksen, jälkikäteen tai reaaliajassa kontekstista riippuen;
Ehdotta tekoälyjärjestelmää, jonka tulos on ymmärrettävä (ainakin tulkittavissa) ja toistettavissa.
Priorisoi tekoälyjärjestelmät, kyky ymmärtää miten tekoälyjärjestelmä toimii, ymmärrettävällä selityksellä. Selityksen tason täytyy riippua kontekstista ja seurausten vakavuudesta, jos tulos on virheellinen tai epätarkka (esim. chatbotin ehdottama matkailureitti ViaMichelin-sovelluksella on vähemmän vaikutusta kuin tärkeällä lääketieteellisellä ennusteella).

Läpinäkyvyyden ja selitettävyyden on otettava huomioon myös muut vaatimukset, erityisesti immateriaalioikeuksien ja/tai piratismin suojan osalta.

Periaate 3: Vastuullisuus

Michelin on sitoutunut varmistamaan kehitettyjen ja käyttöön otettujen tekoälyjärjestelmien asianmukaisen toiminnan sekä asianmukaisen käytön valvonnan ja hallinnan konsernissa.

Tämä valvonta varmistaa, että tunnistetut riskit tunnetaan ja hallitaan sekä että tekoälyjärjestelmät noudattavat konsernin eettisiä periaatteita.

Michelin on sitoutunut varmistamaan kehitettyjen ja käyttöön otettujen tekoälyjärjestelmien asianmukaisen toiminnan sekä asianmukaisen käytön valvonnan ja hallinnan konsernissa.

Tämä valvonta varmistaa, että tunnistetut riskit tunnetaan ja hallitaan sekä että tekoälyjärjestelmät noudattavat konsernin eettisiä periaatteita.

Erityisesti tekoälyjärjestelmiä kehitettäessä Michelin sitoutuu seuraaviin toimintoihin:

Suorita testejä tulosten laadun parantamiseksi (esim. ihmisen valvonta koulutusvaiheessa jne.);
Varmistetaan ja osoitetaan, että varotoimet vähentävät mahdollisia riskejä hyväksyttävälle tasolle;
Ota huomioon monikulttuurisuus, monikielisyys ja joukkueiden monimuotoisuus;
Varmista, että järjestelmät suorittavat tarkoituksensa tehokkaasti (onnistumisen indikaattorit jne.);
Varmistetaan, että näillä järjestelmillä on riittävä lain vaatimustenmukaisuus, kestävyys ja turvallisuus jne. (esim. vaatimustenmukaisuuden osoittaminen, standardien noudattaminen jne.).

Kun Michelin ottaa käyttöön tekoälyjärjestelmiä, se uskoo niiden valvonnan vastuulliselle henkilölle, jolla on tarvittavat taidot, koulutus ja valtuudet varmistaakseen konsernin eettisten periaatteiden ja sovellettavien säädösten noudattamisen.

Michelin on myös sitoutunut tutkimaan tarvittaessa eettisiä dilemmoja ja kompromisseja poikkitoiminnallisen ja sopivan hallinnon puitteissa.

TEE: MINUN TÄYTYY

Jokaisen työntekijän on osallistuttava yllä mainittujen kolmen periaatteen kunnioittamiseen ja on:

Noudattaa konsernin määrittelemiä pakollisia koulutuskursseja
Kunnioittaa käyttöehtoja, sääntöjä ja prosesseja, jotka määritellään uuden tekoälytyökalun perustamisessa
Käyttää Michelinin tarjoamia tekoälyjärjestelmiä relevantissa ja perustellusti (kyseenalaistaen "miksi", eli lisäarvon, jonka tekoäly toisi verrattuna ratkaisuun ilman tekoälyä, ja "kenelle", mitkä ovat odotetut hyödyt työntekijöille tai muille konsernin ulkopuolisille kumppaneille (esim. asiakkaat, toimittajat) jne.).

Työntekijöihin sovelletaan erityisiä vaatimuksia riippuen heidän roolistaan ja vastuistaan tekoälyjärjestelmien kehityksessä tai tarjonnassa:

Tarjtoaan läpinäkyviä, todennettavia ja selitettäviä tekoälyjärjestelmiä, jotta näiden tekoälyjärjestelmien käyttäjät voivat tehdä tietoon perustuvia valintoja (selittäviä huomautuksia jne.) ja varmistamalla päätösten jäljitettävyys.
Toimitetaan vankat tekoälyjärjestelmät, jotta ne toimivat asianmukaisesti tarkoituksessaan.
Otetaan käyttöön turvalliset tekoälyjärjestelmät, joissa tietojen turvallisuus ja luottamuksellisuus varmistetaan koko elinkaaren ajan ottaen huomioon tekoälyn aiheuttamat riskit (tietojen levittäminen liian laajojen käyttöoikeuksien vuoksi, liikesalaisuuksien suojaaminen, asiakirjojen väärin luokittelu jne.)
Varmistetaan datan, prosessien ja AI-järjestelmän elinkaaren aikana tehtyjen päätösten jäljitettävyys.
Nimetään henkilö, joka vastaa jokaisesta saatavilla olevasta tekoälyjärjestelmästä sen suorituskyvystä, tarkkuudesta ja vaikutuksesta konsernin tuloksiin.
Tarjotaan tarkkaa dokumentaatiota jokaiselle tekoälyjärjestelmälle, mukaan lukien sen kehys ja käyttörajoitukset.
Tunnisetaan kunkin tekoälyjärjestelmän riskit, seuraa niitä ja toteuta ennaltaehkäiseviä ja korjaavia toimenpiteitä.
Suunnitellaan tekoälyjärjestelmät kestäviksi optimoimalla resurssien käyttö hiilijalanjäljen pienentämiseksi.

Edistetän tekoälyn parissa työskentelevien tiimien monimuotoisuutta profiilien, taitojen, kokemuksen, parhaiden takaajien osalta ennakkoluulojen riskien ja eettisten riskien osalta.

ÄLÄ: EN SAA

Työntekijän ei tule:

Ottaa käyttöön tai hankkia tekoälyjärjestelmiä, joiden käyttötapaukset ovat ristiriidassa konsernin eettisten arvojen ja periaatteiden kanssa tai jotka ovat säädöksillä kiellettyjä (tekoäly, jonka tarkoituksena on manipuloida tai harhauttaa jne.).
Hankkia tekoälyjärjestelmiä, ilman vakuuttamista tai takuuta (sopimus, sertifikaatit, vaatimustenmukaisuuden arviointi jne.) toimittajalta olemassa olevien säädösten (immateriaalioikeudet, luottamuksellisuus jne.) noudattamisen osalta.
Luottaa täysin tekoälyjärjestelmään päätöksenteossa, jolla on merkittävä vaikutus työntekijään (esim. työpaikan vaihto, ylennys jne.)
Käyttää tekoälyjärjestelmän ehdottamia tuloksia uudelleen ilman, että ensin tarkistetaan virheitä (kokouspöytäkirjat, tiedotusmuistiinpanot jne.)
Ottaa käyttöön tekoälyjärjestelmiä, jotka sisältävät riskin luottamuksellisten tai henkilökohtaisten tietojen (esim. paikannustietojen jne.) leviämisestä.