Zasady etyczne dotyczące godnej zaufania sztucznej inteligencji

Transformacja cyfrowa napędzana w szczególności sztuczną inteligencją (AI) wpływa na naszą codzienność i środowisko pracy. Ustalenie ram etycznych dot. sztucznej inteligencji jest zatem niezbędne do przyjęcia odpowij postawy.

Życzeniem Grupy Michelin jest, aby sztuczna inteligencja w pełni spełniła założone cele w zakresie „zrównoważonego rozwoju”: Ludzie x Korzyść x Planeta.

Definicje

Sztuczna inteligencja jest ogólnie rozumiana poprzez jej konkretne wykorzystanie w systemach sztucznej inteligencji, zwanych dalej „AI” lub „systemami AI”.

System AI został zdefiniowany w europejskim rozporządzeniu z dnia 13 czerwca 2024 roku jako „system maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii po jego wdrożeniu oraz, który może wykazywać zdolność adaptacji po jego wdrożeniu, a także który – na potrzeby wyraźnych lub dorozumianych celów – wnioskuje, jak generować na podstawie otrzymanych danych wejściowych wyniki, takie jak predykcje, treści, zalecenia lub decyzje, które mogą wpływać na środowisko fizyczne lub wirtualne”.

Sztuczna inteligencja obejmuje różne technologie i obszary zastosowań, które opierają się na modelach lub algorytmach.

Przykłady:

Generatywna sztuczna inteligencja: tworzenie treści (tekstu, obrazu, wideo, dźwięku itp.) na podstawie zapytania;
Predykcyjna sztuczna inteligencja: prognozowanie wyników na podstawie analizy danych historycznych;
Klasyfikacyjna i identyfikacyjna sztuczna inteligencja: rozpoznawanie wizualne obiektów, klasyfikacja obrazów, wykrywanie nieprawidłowych zachowań itp.

Kontekst

Możliwości

W ostatnich latach doszło do znaczących zmian w dziedzinie sztucznej inteligencji (złożone algorytmy, generatywna sztuczna inteligencja oparta na dużych modelach językowych), co zmienia sposób, w jaki firmy wykorzystują dane. Aplikacje, które wykorzystują sztuczną inteligencję są liczne i mają zastosowanie w różnych branżach zawodowych (transport, system zdrowotny, marketing, usługi państwowe itp.)

Sztuczna inteligencja stwarza nowe możliwości zarówno dla przedsiębiorstw (np. innowacyjne produkty i usługi, wzrost produktywności, wykrywanie niezgodności itp.) jak i dla pojedynczych jednostek (pomoc w podejmowaniu decyzji, poprawa dobrostanu w miejscu pracy, włączenie społeczne osób niepełnosprawnych itp.).

MICHELIN jest znany jako firma o długotrwałej tradycji innowacji, zaangażowaniu środowiskowym i społecznym która pragnie nadal dążyć do dalszego odgrywania ważnej roli w tworzeniu bardziej zrównoważonej przyszłości dla wszystkich.

Ryzyko

Poza możliwościami jakie proponuje sztuczna inteligencja, niesie ona również potwierdzone lub potencjalne zagrożenia nie tylko dla przedsiębiorstw, ale także dla społeczeństwa, poprzez:

Koncepcję i ćwiczenia jej modeli: możliwe błędy w zestawach danych do trenowania AI mogą doprowadzić do dyskryminacji, słabej jakości i/lub zanieczyszczenia danych, utraty poufności danych osobowych itp.;
Jej zastosowanie: niejasność działania systemów AI, niestabilność jej wydajności (np. zjawisko halucynacji AI), wpływ na zdrowie i dobrostan w miejscu pracy osób korzystających z systemów AI, nadmierne zaufanie bez krytycznego myślenia, utrata wolnej woli i kontroli, udostępnianie danych objętych tajemnicą handlową lub własnością intelektualną, naruszenie prawa konkurencji itp.
Obawy społeczne i środowiskowe: deepfake, manipulowanie społeczeństwem poprzez rozpowszechnianie fałszywych informacji, wykorzystywanie systemów AI do masowego monitorowania społeczeństwa za pomocą inteligentnych kamer, głęboka transformacja niektórych zawodów, energochłonna technologia itp.

Aby sztuczna inteligencja była wiarygodna, niezbędne są wspólne wysiłki zarówno podmiotów publicznych, jak i prywatnych.

Nadzór

Wyzwaniem jest połączenie zastosowania systemów AI z wartościami Grupy, przy jednoczesnym zapewnieniu przestrzegania obowiązujących przepisów.

Celem Michelin jest przewidywanie i kontrolowanie ryzyka związanego z rozwojem i wdrażaniem systemów AI w Grupie oraz zagwarantowanie, że innowacje wykorzystujące AI będą zgodne z naszymi wartościami.

Taka równowaga jest niezbędnym warunkiem stworzenia środowiska umożliwiającego pracownikom lepszy rozwój.

Zasady

Aby zagwarantować wykorzystanie systemów AI w sposób budujący wartości i zaufanie, Michelin zobowiązuje się do stosowania i rozwijania systemów AI zgodnie z trzema podstawowymi zasadami.

Te trzy zasady uzupełniają podjęte zobowiązania wobec Grupy, szczególnie w zakresie środowiska i bezpieczeństwa systemów informacyjnych.

Mają one ewoluować z czasem w celu uwzględnienia zmian regulacyjnych, postępów technologicznych, analizy wpływów, a także oczekiwań pracowników i interesariuszy Grupy.

Zda nr 1: sztuczna inteligencja skoncentrowana na człowieku
Systemy AI należy projektować i wykorzystywać tak, aby służyły ludziom oraz szanowały ich podstawowe prawa i wolności (takie jak godność, samostanowienie, prywatność, sprawiedliwość, tolerancja itp.)

W tym celu Grupa opiera się na następujących elementach:

Nadzór ze strony człowieka: każdy system AI zostanie zaprojektowany i wykorzystany tak, aby zapewnić należyty poziom oceny oraz nadzór ze strony człowieka (np.: aby zakazać podejmowania decyzji mogących mieć znaczący wpływ na pracownika takich jak zwolnienie, awans itp., która opierałaby się wyłącznie na decyzjach podejmowanych przez systemy AI).

Ochrona zdrowia i dobrostanu pracowników: systemy AI, które projektujemy i używamy muszą być wiarygodne, pewne i bezpieczne w ciągu całego ich cyklu użytkowania, aby sprostać postawionym celom i zapobiec wystąpieniu niedopuszczalnego ryzyka wobec osób, a w szczególności dla ich zdrowia i dobrostanu (utrata samodzielności, odpowiedzialności, dostępu do informacji itp.).

Poszanowanie prawa do ochrony danych osobowych: użycie sztucznej inteligencji z poszanowaniem jednostki wymaga odpowiednich środków kontroli dot. przetwarzania danych osobowych w celu zapobieżenia naruszenia prywatności lub utraty poufności oraz zapewnienia jakości, integralności i adekwatności danych w odniesieniu do celów, dla których są przetwarzane.

Tolerancja i sprawiedliwość: wdrażane i nabywane przez nas systemy AI muszą być odpowiednio i proporcjonalnie skonfigurowane w celu uniknięcia uprzedzeń, dyskryminacji lub powielania stereotypów.
Uświadamianie i szkolenie: uświadamianie dot. zagadnień związanych z odpowiedzialnym rozwojem lub wdrażaniem AI jest kluczowe. Rozwój umiejętności i kariery zawodowej pracowników musi być wspierany, aby zwiększyć zaufanie wobec tych technologii, dzielić korzyści wynikające z korzystania z AI w Michelin w sposób sprawiedliwy, a także umożliwić każdemu ochronę przed ryzykiem, jakie niesie ze sobą, takim jak brak kontroli treści generowanych przez systemy AI, utrata kluczowych umiejętności itp.

Wdrażając systemy AI, Michelin zobowiązuje się do ochrony dobrostanu i praw pracowników dzięki dostosowanej organizacji i ocenie potencjalnych negatywnych skutków

Zasada nr 2: przejrzystość i wytłumaczalność sztucznej inteligencji

Michelin organizuje szkolenia, aby upewnić się, że użytkownicy rozwiązań AI posiadają podstawową wiedzę z zakresu rozumienia głównych funkcji AI, jej konsekwencji i rozważań etycznych.

W odniesieniu do zespołów operacyjnych i technicznych szkolenia są dostosowane do ich ról i obowiązków, tak aby każdy system sztucznej inteligencji opracowany lub wdrożony w Grupie był wystarczająco przejrzysty i możliwy do wyjaśnienia, gwarantując przy tym zaufanie użytkowników.

Przejrzystość oznacza:

Dostarczenie noty objaśniającej dla systemów wspomagania decyzji AI w celu wyjaśnienia ich ram i ograniczeń użytkowania;
Zapewnienie przekazania należytych informacji osobom korzystającym ze sztucznej inteligencji w celu zidentyfikowania możliwych uprzedzeń lub błędów i podejmowania odpowiedzialnych decyzji;
Informowanie pracowników poprzez odpowiednie kanały, gdy wchodzą w interakcję z systemem sztucznej inteligencji lub że są narażeni na pewne treści generowane przez sztuczną inteligencję.

Wytłumaczalność oznacza:

Opis, w jaki sposób system sztucznej inteligencji uzyskał dany wynik, a posteriori lub w czasie rzeczywistym, w zależności od kontekstu;
Zaproponowanie systemu sztucznej inteligencji, którego wynik jest zrozumiały (przynajmniej możliwy do zinterpretowania) i powtarzalny.
Preferowanie systemów sztucznej inteligencji posiadających funkcje, które umożliwiają zrozumienie sposobu jej działania z objaśnieniami. Poziom wyjaśnienia powinien zależeć od kontekstu i powagi konsekwencji w przypadku nieprawidłowego lub nieprecyzyjnego wyniku (np. sugestii trasy turystycznej przez chatbota z aplikacją ViaMICHELIN ma mniejszy wpływ niż prognoza przebiegu choroby).

W zakresie przejrzystości i wytłumaczalności muszą zostać uwzględnione dodatkowe wymogi, a w szczególności te dotyczące własności intelektualnej i/lub ochrony przed piractwem itp.

Zasada nr 3: dostosowana odpowiedzialność („accountability”)

Michelin zobowiązuje się zapewnić należyte funkcjonowanie opracowanych i wdrożonych systemów AI oraz do wyznaczenia stosownych podmiotów, których obowiązkiem będzie nadzorowanie i zarządzanie systemami AI w Grupie.

W momencie opracowywania systemów AI, Michelin zobowiązuje się w szczególności do:

Przeprowadzenia testów mających na celu poprawienie wyników (np.: nadzór ze strony człowieka podczas etapu treningowego itp.);
Sprawdzenie i wykazanie, że podjęte środki ostrożności pozwalają zmniejszyć ryzyko do dopuszczalnego poziomu;
Uwzględnienie wielokulturowości, wielojęzyczności i różnorodności zespołów;
Skontrolowanie, że systemy sprawdzają się w użytkowaniu, dla którego zostały stworzone (wskaźniki sukcesu itp.);
Zapewnienia gwarancji, że te systemy są solidne, zgodne z prawem i bezpieczeństwem itp. (np. wykazanie zgodności z przepisami, spełnienie norm itp.).

W przypadku wdrażania systemów AI Michelin powierza nadzór nad nimi odpowiedzialnej osobie, która jest kompetentna, odbyła wymagane szkolenia i posiada autorytet niezbędny do zapewnienia przestrzegania zasad etycznych Grupy oraz obowiązujących przepisów.

Michelin zobowiązuje się również do rozpatrywania, w stosownych przypadkach, dylematów i arbitrażu etycznego w ramach odpowiedniego i transwersalnego zarządzania.

Właściwe praktyki: Muszę

Każdy pracownik musi przyczyniać się do przestrzegania ww. trzech zasad i jego obowiązkiem jest:

Uczestniczenie w obowiązkowych szkoleniach wyznaczonych przez Grupę.
Przestrzegania warunków użytkowania, reguł i procedur określonych podczas konfigurowania nowego narzędzia AI.
Odpowiednie i racjonalne korzystanie z systemów AI udostępnianych przez MICHELIN (na etapie poprzedzającym zadać pytanie „dlaczego”, a mianowicie jaką wartość przyniesie AI w porównaniu z rozwiązaniem bez AI, oraz „dla kogo", jakich korzyści oczekują pracownicy lub inni partnerzy zewnętrzni Grupy (np. klienci, dostawcy itp.).

Specjalne wymagania mają zastosowanie dla pracowników w zależności od ich roli i odpowiedzialności w zakresie rozwoju lub dostarczania systemów AI:

Zapewnienie przejrzystych, weryfikowalnych i odpowiednio wyjaśnionych systemów AI, aby pomóc użytkownikom tych systemów dokonywać świadomych wyborów (noty objaśniające itp.) oraz zapewnienie identyfikowalności decyzji.
Zapewnienie solidnych systemów AI, aby funkcjonowały prawidłowo zgodnie z ich przeznaczeniem.
Wdrożenie bezpiecznych systemów AI, w przypadku których bezpieczeństwo i poufność danych są zapewnione przez cały cykl ich życia, biorąc pod uwagę ryzyko, które AI może zwiększyć (rozpowszechnianie danych z powodu zbyt szerokiego prawa dostępu, ochrona tajemnicy handlowej, niewłaściwa klasyfikacja dokumentów itp.).
Zapewnienie identyfikowalności danych, procesów i decyzji podejmowanych w trakcie cyklu życia systemu sztucznej inteligencji.
Wyznaczenie dla każdego udostępnionego systemu AI osoby odpowiedzialnej za jego wydajność, dokładność i wpływ na wyniki Grupy.
Dostarczenie dokładnej dokumentacji dla każdego systemu AI, w tym jego ram i ograniczeń użytkowania.
Zidentyfikowanie ryzyka związanego z każdym systemem AI, monitorowanie go i wdrożenie środków zapobiegawczych i korygujących.
Projektowanie systemów AI tak, aby były one zrównoważone poprzez optymalizację wykorzystania zasobów w celu zmniejszenia naszego śladu węglowego.

wspieranie różnorodności zespołów pracujących nad systemami AI w zakresie profili, umiejętności, doświadczeń, lepszych zabezpieczeń przed ryzykiem uprzedzenia i ogólnie ryzykiem etycznym.

Niewłaściwe praktyki: Nie wolno mi

Wdrażać i nabywać systemów AI, których użycie jest sprzeczne z wartościami i zasadami etycznymi Grupy lub zabronione przez przepisy (AI zaprojektowana do celów manipulacji lub oszustwa itp.)
Nabywać systemów AI bez uprzedniego upewnienia się lub zażądania od dostawcy dokumentów takich jak umowy, certyfikaty, oceny zgodności itp.) dotyczących zgodności z obowiązującymi przepisami (własność intelektualna, poufność itp.).
Ufać całkowicie systemowi AI w procesie decyzyjnym, który ma istotny wpływ na przyszłość pracownika (np. zmiana pracy, awans itp.).
Ponownie wykorzystywać wyników zaproponowanych przez system AI bez uprzedniego sprawdzenia, czy nie zawierają one błędów (protokoły ze spotkań, notatki służbowe itp.).
Wdrażać systemów AI, które wiążą się z ryzykiem rozpowszechniania informacji poufnych lub osobistych (np. danych geolokalizacyjnych itp.).