Ethische principes voor betrouwbare artificiële intelligentie

De digitale transformatie, mede aangedreven door artificiële intelligentie (AI), beïnvloedt ons dagelijks leven en onze werkomgeving. Het is dan ook noodzakelijk om een ethisch kader voor AI te hanteren om tot een verantwoorde benadering te komen.

De Michelin Groep wil dat het gebruik van artificiële intelligentie volledig aansluit bij zijn « All Sustainable »-benadering : People x Profit x Planet.

Definitie

AI wordt doorgaans begrepen via de concrete toepassing ervan in een AI-systeem, hierna « AI » of « AI-systeem » genoemd.

Het « AI-systeem » wordt in de Europese Verordening van 13 juni 2024 gedefinieerd als : « een geautomatiseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen. »

AI omvat verschillende technologieën en toepassingsgebieden die gebaseerd zijn op modellen of algoritmes.

Voorbeelden:

Generatieve AI : creëren van inhoud (tekst, beeld, video, geluid, enz.) op basis van een opdracht;
Voorspellende AI : voorspelling van een resultaat op basis van historische gegevens;
Herkennings- en classificatie-AI : visuele objectherkenning, beeldclassificatie, detectie van afwijkend gedrag, enz.

Context

Kansen

AI is de laatste jaren sterk geëvolueerd (complexe algoritmes, generatieve AI op basis van grote taalmodellen) en verandert de manier waarop bedrijven data gebruiken. Er zijn veel toepassingen van artificiële intelligentie (AI) in uiteenlopende domeinen, zoals transport, gezondheidszorg, marketing, overheidsdiensten, enzovoort.

AI biedt voordelen voor zowel bedrijven (bijv. innovatieve producten en diensten, hogere productiviteit, detectie van non-conformiteiten) als mensen (ondersteuning van besluitvorming, verbetering van welzijn op het werk, inclusie van personen met een beperking).

Michelin bouwt voort op zijn traditie van innovatie en maatschappelijke betrokkenheid en wil actief bijdragen aan een duurzamere toekomst.

Risico's

AI brengt ook reële of potentiële risico’s met zich mee, zowel voor bedrijven als voor de samenleving, zoals :

Het ontwerp en de training van AI-modellen : mogelijke vertekeningen in AI-trainingsdatasets die kunnen leiden tot discriminatie, slechte datakwaliteit en/of datavervuiling, verlies van vertrouwelijkheid van persoonsgegevens, enz.
Het gebruik ervan : ondoorzichtig functioneren van het AI-systeem, instabiliteit van de prestaties (bijv. hallucinaties), impact op de gezondheid en het welzijn op het werk van mensen die AI-systemen gebruiken, blind vertrouwen in systemen zonder kritische reflectie, verlies van vrije wil en controle, delen van gegevens die onder bedrijfsgeheim of intellectuele eigendom vallen, schending van het mededingingsrecht, enz.
Maatschappelijke en milieugerelateerde zorgen : deepfakes, manipulatie van groepen mensen door het verspreiden van desinformatie, gebruik van AI-systemen voor massasurveillance van groepen mensen via slimme camera’s, ingrijpende veranderingen in bepaalde beroepen, energie-intensieve technologie, enz.

Gezamenlijke inspanningen van zowel publieke als private actoren zijn nodig om betrouwbare AI-systemen te waarborgen.

Kader

De uitdaging is om het gebruik van AI-systemen te verzoenen met de waarden van de Groep, met respect voor toepasselijke regelgeving.

Michelins ambitie is om de risico’s die gepaard gaan met de ontwikkeling en inzet van AI-systemen binnen de Groep te anticiperen en onder controle te houden, en ervoor te zorgen dat de innovatie die deze systemen mogelijk maken, in lijn is met onze waarden.

Deze verzoening is een absolute voorwaarde voor het creëren van een omgeving die iedereen een betere weg vooruit biedt.

Principes

Om ervoor te zorgen dat AI-systemen op een manier worden gebruikt die zowel waarde als vertrouwen creëert, verbindt Michelin zich ertoe AI-systemen te gebruiken en te ontwikkelen volgens drie fundamentele principes.

Deze drie principes vullen de bestaande verbintenissen van de Groep aan, in het bijzonder op het vlak van milieu en de beveiliging van informatiesystemen.

Ze zijn bedoeld om in de loop der tijd mee te evolueren, rekening houdend met wijzigingen in de regelgeving, technologische vooruitgang, impactanalyses en ook de verwachtingen van de medewerkers en stakeholders van de Groep.

Principe 1 : mensgerichte AI

AI-systemen dienen in dienst te staan van de mensen en hun fundamentele rechten en vrijheden te respecteren (waardigheid, autonomie, privacy, gelijkheid, non-discriminatie, enz.).

Om dit te bereiken, baseert de Groep zich op de volgende elementen :

Menselijke supervisie : elk AI-systeem wordt ontworpen en gebruikt met een passend niveau van menselijke beoordeling en toezicht (bijvoorbeeld door beslissingen die een aanzienlijke impact op een persoon kunnen hebben, zoals ontslag, promotie, enz., nooit uitsluitend te baseren op een beslissing van een AI-systeem).

Waarborgen voor de gezondheid en het welzijn van de medewerkers : de AI-systemen die wij ontwerpen en gebruiken, dienen gedurende hun hele levenscyclus betrouwbaar, veilig en beveiligd te zijn, zodat ze de beoogde doelstellingen halen en geen onaanvaardbare risico’s vormen voor mensen, in het bijzonder voor hun gezondheid en welzijn (verlies van autonomie, verlies van verantwoordelijkheid, misleiding, enz.).
Respect voor privacy en gegevensbescherming : mensgerichte AI vereist ook gepaste controles op de verwerkte persoonsgegevens om inbreuken op de privacy of verlies van vertrouwelijkheid van gegevens te voorkomen, en om de kwaliteit, integriteit en relevantie van de gegevens te waarborgen op basis van de doeleinden waarvoor ze worden verwerkt.

Non-discriminatie en gelijkheid : de AI-systemen die we inzetten of aankopen, moeten op een geschikte en proportionele manier worden geconfigureerd om vooringenomenheid, discriminatie of het reproduceren van stereotypen te vermijden.
Bewustmaking en opleiding : bewustzijn van de uitdagingen rond de verantwoorde ontwikkeling of toepassing van AI is essentieel. De ontwikkeling van vaardigheden en loopbanen van medewerkers moet worden ondersteund om vertrouwen op te bouwen in deze technologieën, om de voordelen van AI eerlijk te verdelen binnen Michelin, maar ook om iedereen in staat te stellen zich te beschermen tegen de risico’s ervan, zoals overmatig vertrouwen in door AI gegenereerde inhoud, verlies van kernvaardigheden, enz.

Michelin verbindt zich ertoe om, door het gebruik van AI binnen de Groep te integreren, het welzijn en de rechten van mensen te beschermen door middel van een aangepaste organisatie en een evaluatie van de mogelijke negatieve effecten ervan.

Principe 2: transparante en uitlegbare AI

De Michelin Groep biedt opleidingen aan om ervoor te zorgen dat gebruikers van AI-oplossingen over de noodzakelijke basiskennis beschikken, zoals inzicht in de fundamentele functies van AI, de praktische implicaties ervan en de bijbehorende ethische overwegingen.

Voor operationele en technische teams wordt de opleiding afgestemd op hun rol en verantwoordelijkheden, zodat elk AI-systeem dat binnen de Groep wordt ontwikkeld of ingezet voldoende transparant en verklaarbaar is om het vertrouwen van de gebruikers te waarborgen.

Transparant betekent :

Een toelichtingsfiche verschaffen voor AI-systemen die besluitvorming ondersteunen, waarin het toepassingskader en de gebruiksbeperkingen worden gespecificeerd;
Zorgen dat personen die AI gebruiken voldoende geïnformeerd zijn, zodat ze mogelijke vooroordelen of fouten kunnen herkennen en op een verantwoorde manier beslissingen kunnen nemen;
Mensen op een gepaste manier informeren wanneer zij in interactie treden met een AI-systeem, eraan worden blootgesteld of geconfronteerd worden met door AI gegenereerde inhoud.

Uitlegbaar betekent :

In staat zijn te beschrijven hoe het AI-systeem tot een bepaald resultaat is gekomen, hetzij achteraf, hetzij in real-time, afhankelijk van de context;
Een AI-systeem voorstellen waarvan het resultaat begrijpelijk (ten minste interpreteerbaar) en reproduceerbaar is;
De voorkeur geven aan AI-systemen die toelaten te begrijpen hoe het systeem werkt, met begeleidende toelichtingen. Het niveau van uitleg moet afgestemd zijn op de context en de ernst van de gevolgen als het resultaat fout of onnauwkeurig is (bijvoorbeeld : een voorgestelde toeristische route via een chatbot in de ViaMichelin-app heeft minder impact dan een vitale medische prognose).

Transparantie en verklaarbaarheid dienen rekening te houden met andere vereisten, met name op het vlak van intellectuele eigendom en/of bescherming tegen hacken, enz.

Principe 3 : aansprakelijkheid

Michelin zet zich in voor het goed functioneren van de ontwikkelde en ingezette AI-systemen en voor het invoeren van een passend beleid om het gebruik van AI binnen de Groep te bewaken en te beheren.

Dit beleid waarborgt dat de vastgestelde risico’s bekend en onder controle zijn en dat de AI-systemen in overeenstemming zijn met de ethische principes van de Groep.

Bij de ontwikkeling van AI-systemen verbindt Michelin zich er met name toe om :

Tests uit te voeren om de kwaliteit van de resultaten te verbeteren (bijv. menselijke supervisie tijdens de trainingsfase, enz.);
Na te gaan en aan te tonen dat de genomen voorzorgsmaatregelen de potentiële risico’s tot een aanvaardbaar niveau terugbrengen;
Rekening te houden met multiculturele samenstelling, meertaligheid en diversiteit van de teams;
Te verifiëren of systemen daadwerkelijk het beoogde doel bereiken (succesindicatoren, enz.);
Ervoor te zorgen dat deze systemen over een voldoende niveau van juridische conformiteit, robuustheid en beveiliging beschikken (bijv. aantoonbare conformiteit, naleving van normen, enz.).

Wanneer Michelin AI-systemen inzet, wordt het toezicht erop toevertrouwd aan een verantwoordelijke persoon met de nodige vaardigheden, opleiding en bevoegdheid om de naleving van de ethische principes van de Groep en de toepasselijke regelgeving te garanderen.

Michelin verbindt zich ook om, waar nodig, ethische dilemma’s en afwegingen te onderzoeken in het kader van een passend en multidisciplinair beheer.

DO’S:

Elke medewerker dient bij te dragen aan het respecteren van de drie hierboven vermelde principes en dient :

De door de Groep vastgelegde verplichte opleidingen te volgen;
De gebruiksvoorwaarden, regels en procedures na te leven die bij de implementatie van een AI-tool zijn gedefinieerd;
AI-systemen van Michelin op een doordachte en relevante manier te gebruiken, door vooraf stil te staan bij het “waarom” (wat is de meerwaarde van AI ten opzichte van een niet-AI-oplossing) en voor “wie” (wat zijn de verwachte voordelen voor medewerkers of andere externe partners van de Groep, zoals klanten, leveranciers, enz.).

Afhankelijk van hun rol en verantwoordelijkheden bij de ontwikkeling of het gebruik van AI-systemen dienen medewerkers ook :

Transparante, verifieerbare en verklaarbare AI-systemen aan te bieden, zodat gebruikers geïnformeerde keuzes kunnen maken (met behulp van toelichtingen enz.) en de traceerbaarheid van beslissingen verzekerd is;
Robuuste AI-systemen te leveren, die correct functioneren voor het doel waarvoor ze zijn ontwikkeld;
Veilige AI-systemen te implementeren, waarbij de beveiliging en vertrouwelijkheid van gegevens gedurende de hele levenscyclus wordt gewaarborgd, rekening houdend met risico’s die door AI kunnen worden versterkt (verspreiding van gegevens door te brede toegangsrechten, bescherming van bedrijfsgeheimen, verkeerde classificatie van documenten, enz.);
De traceerbaarheid te waarborgen van gegevens, processen en genomen beslissingen tijdens de volledige levenscyclus van het AI-systeem;
Voor elk beschikbaar AI-systeem een persoon aan te wijzen, die verantwoordelijk is voor de prestaties, nauwkeurigheid en impact op de resultaten van de Groep;
Voor elk AI-systeem nauwkeurige documentatie te voorzien, met inbegrip van het toepassingskader en de gebruiksbeperkingen;
De aan elk AI-systeem verbonden risico’s te identificeren, op te volgen en preventieve en corrigerende maatregelen in te voeren;
AI-systemen te ontwerpen met oog voor duurzaamheid, door het gebruik van hulpbronnen te optimaliseren en zo onze ecologische voetafdruk te verkleinen;
Diversiteit binnen AI-teams te bevorderen, zowel qua profielen en vaardigheden als ervaring, een van de beste garanties tegen bias en ethische risico’s in het algemeen.

DON’TS:

AI-systemen implementeren of aankopen waarvan de toepassingen indruisen tegen de ethische waarden en principes van de Groep, of die door regelgeving verboden zijn (zoals AI die het doel heeft om te misleiden of te manipuleren);
AI-systemen aanschaffen zonder vooraf garanties te verkrijgen of af te dwingen van de leverancier (contractueel, certificeringen, conformiteitsbeoordelingen, enz.) over naleving van de geldende regelgeving (intellectuele eigendom, vertrouwelijkheid, enz.);
Blindelings vertrouwen op een AI-systeem bij het nemen van beslissingen die een grote impact hebben op een medewerker (bijv. functiewijziging, promotie, enz.);
De resultaten voorgesteld door een AI-systeem overnemen zonder vooraf op fouten te controleren (bijv. bij notulen, informatieve nota’s, enz.);
AI-systemen implementeren die het risico inhouden dat vertrouwelijke of persoonlijke informatie wordt verspreid (zoals geo-locatiegegevens, enz.).