Etické zásady pro důvěryhodnou umělou inteligenci

Digitální transformace, poháněná zejména umělou inteligencí (AI), ovlivňuje náš každodenní život i pracovní prostředí. Přijetí etického rámce pro umělou inteligenci je proto nezbytné pro zodpovědný přístup.

Skupina Michelin chce, aby používání umělé inteligence bylo plně v souladu s jejím přístupem „Vše udržitelné“: Lidé × Zisk × Planeta.

Definice

Umělá inteligence je obecně chápána prostřednictvím svého konkrétního uplatnění v systému umělé inteligence, dále jen „AI“ nebo „systém AI“.

„Systém AI“ je definován evropským nařízením ze dne 13. června 2024 jako „automatizovaný systém, který je navržen tak, aby fungoval na různých úrovních autonomie a po svém nasazení vykazoval schopnost adaptace. Na základě přijatých vstupů odvozuje, za účelem dosažení výslovných nebo nevýslovných cílů, způsob generování výstupů, jako jsou predikce, obsah, doporučení nebo rozhodnutí, jež mohou ovlivnit fyzické či virtuální prostředí.“

Umělá inteligence zahrnuje několik technologií a oblastí použití, které jsou založeny na modelech nebo algoritmech.

Příklady:

- Generativní AI: Tvorba obsahu (textu, obrazu, videa, zvuku atd.) na základě zadaného dotazu;

- Predikční AI: Předpověď výsledku na základě historie;

- Rozpoznávací a klasifikační AI: Rozpoznávání vizuálních objektů, klasifikace obrazů, detekce abnormálního chování atd.

Kontext

Příležitosti

Umělá inteligence zaznamenala v posledních letech významný rozvoj (složité algoritmy, generativní AI založené na velkých jazykových modelech) a mění způsob, jakým firmy využívají data. Existuje mnoho aplikací využívajících umělou inteligenci v různých oblastech (doprava, zdravotnictví, marketing, veřejné služby atd.).

AI skutečně přináší příležitosti jak pro společnost (např. inovativní produkty a služby, zvýšení produktivity, detekce neshod atd.), tak pro lidi (podpora při rozhodování, zlepšení pohody na pracovišti, začleňování osob se zdravotním postižením atd.).

Společnost Michelin má dlouhou tradici v oblasti inovací, environmentálních a společenských závazků a hodlá i nadále hrát klíčovou roli při utváření udržitelnější budoucnosti pro všechny.

Rizika

Kromě příležitostí, které nabízí, představuje umělá inteligence také prokázaná nebo potenciální rizika — jak na úrovni firem, tak celé společnosti, a to prostřednictvím:

Jejího návrhu a trénování modelů: Možných zkreslení ve trénovacích datech AI, která mohou vést k případům diskriminace, nízké kvalitě a/nebo znečištění dat, ztrátě důvěrnosti osobních údajů atd.
Jejího využití: Netransparentnosti fungování systému AI, nestability jeho výkonu (např. halucinace), dopadu na zdraví a pohodu při práci u osob využívajících systémy AI, důvěry v systémy bez kritického posouzení, ztráty svobodné vůle a kontroly, sdílení dat chráněných obchodním tajemstvím nebo duševním vlastnictvím, porušení práva hospodářské soutěže atd.
Společenské a environmentální obavy: Deepfaky, manipulace obyvatelstva prostřednictvím šíření nepravdivých informací, využívání systémů AI k masovému sledování obyvatel pomocí chytrých kamer, zásadní proměna některých profesí, energeticky náročná technologie atd.

K zajištění důvěryhodných systémů umělé inteligence jsou zapotřebí společné úsilí veřejných i soukromých aktérů.

Rámec

Výzvou je sladit využívání systémů umělé inteligence s hodnotami Skupiny a zároveň zajistit soulad s platnými předpisy.

Záměrem společnosti Michelin je předvídat a řídit rizika spojená s vývojem a nasazováním systémů umělé inteligence ve Skupině a zajistit, aby inovace poháněné těmito systémy byly v souladu s našimi hodnotami.

Toto sladění je nezbytnou podmínkou pro vytvoření prostředí, které všem nabízí lepší cestu vpřed.

Zásady

Aby bylo zajištěno, že systémy umělé inteligence budou využívány způsobem, který vytváří jak hodnotu, tak důvěru, zavazuje se společnost Michelin používat a vyvíjet systémy AI v souladu se třemi základními zásadami.

Tyto tři zásady doplňují závazky Skupiny, zejména v oblasti životního prostředí a bezpečnosti informačních systémů.

Jsou navrženy tak, aby se v čase vyvíjely s ohledem na změny v regulaci, technologický pokrok, analýzu dopadů, ale také očekávání zaměstnanců Skupiny a zúčastněných stran.

Zásada 1: Umělá inteligence zaměřená na člověka

Systémy umělé inteligence musí být navrhovány a využívány tak, aby sloužily člověku a respektovaly jeho základní práva a svobody (důstojnost, sebeurčení, soukromí, spravedlnost, nediskriminaci atd.).

K dosažení tohoto cíle se Skupina opírá o následující prvky:

Lidský dohled: Každý systém umělé inteligence bude navrhován a používán s odpovídající mírou lidského posouzení a dohledu (například zákaz jakéhokoli rozhodnutí, které by mohlo mít významný dopad na člověka – jako je propuštění, povýšení apod. – a které by bylo založeno výhradně na rozhodnutí systému AI).

Ochrana zdraví a pohody zaměstnanců: Systémy umělé inteligence, které navrhujeme a používáme, musí být spolehlivé, bezpečné a zabezpečené po celou dobu svého životního cyklu, aby naplňovaly stanovené cíle a nepředstavovaly nepřijatelné riziko pro lidi, zejména pokud jde o jejich zdraví a pohodu (ztráta autonomie, omezení vlivu jednotlivce, šíření dezinformací atd.).
Respektování osobních údajů: Umělá inteligence zaměřená na člověka zároveň vyžaduje odpovídající kontrolu nad zpracováním osobních údajů, aby se zabránilo porušení soukromí nebo ztrátě důvěrnosti dat a aby byla zajištěna kvalita, integrita a relevance údajů ve vztahu k účelům, pro které jsou zpracovávány.
Nediskriminace a spravedlnost: Systémy umělé inteligence, které nasazujeme nebo pořizujeme, musí být nastaveny vhodným a přiměřeným způsobem, aby se předešlo zkreslení, diskriminaci nebo reprodukci stereotypů.
Povědomí a školení: Povědomí o otázkách souvisejících s odpovědným vývojem nebo nasazováním umělé inteligence je zásadní. Rozvoj dovedností zaměstnanců a jejich kariérních cest musí být podporován s cílem posílit důvěru v tyto technologie, spravedlivě rozdělit přínosy využívání AI v rámci společnosti Michelin, ale také umožnit každému chránit se před riziky, která s sebou přináší — jako je například nadměrná důvěra v obsah generovaný systémy AI, ztráta klíčových dovedností apod.

Integrací využívání umělé inteligence ve Skupině se společnost Michelin zavazuje chránit pohodu a práva jednotlivců prostřednictvím přizpůsobené organizace a posuzování jejích možných negativních dopadů.

Zásada 2: Transparentní a vysvětlitelná umělá inteligence

Skupina Michelin poskytuje školení, jejichž prostřednictvím získají uživatelé AI řešení základní znalosti – porozumí například základním funkcím AI, jejím praktickým dopadům a etickým aspektům.

Pro provozní a technické týmy je školení přizpůsobeno jejich rolím a odpovědnostem tak, aby každý systém umělé inteligence vyvíjený nebo nasazovaný ve Skupině byl dostatečně transparentní a vysvětlitelný, a zajistila se tak důvěra uživatelů.

Transparentní znamená:

Poskytnout vysvětlující přehled pro systémy AI sloužící k podpoře rozhodování, který určí jejich rámec a omezení použití;
Zajistit, aby osoby využívající AI byly řádně informovány, aby mohly rozpoznat případné nepřesnosti nebo chyby a činit rozhodnutí odpovědně;
Informovat osoby vhodným způsobem v případě, že interagují se systémem AI, jsou jím ovlivněny nebo jsou vystaveny určitým obsahům generovaným umělou inteligencí.

Vysvětlitelná znamená:

Být schopen popsat, jak systém umělé inteligence dospěl k určitému výsledku – a to zpětně nebo v reálném čase a v závislosti na kontextu;
Navrhnout systém umělé inteligence, jehož výsledek je srozumitelný (alespoň interpretovatelný) a reprodukovatelný.
Upřednostňovat systémy umělé inteligence, které umožňují porozumět jejich fungování, včetně doprovodných vysvětlujících poznámek. Úroveň vysvětlení musí záviset na kontextu a závažnosti důsledků v případě, že je výsledek chybný nebo nepřesný (např. návrh turistické trasy chatbotem v aplikaci ViaMichelin má menší dopad než životně důležitá lékařská prognóza).

Transparentnost a vysvětlitelnost musí zohledňovat i další požadavky, zejména v oblasti ochrany duševního vlastnictví a/nebo ochrany proti pirátství atd.

Zásada 3: Odpovědnost

Společnost Michelin se zavazuje zajistit správné fungování vyvíjených a nasazovaných systémů umělé inteligence a zavést odpovídající systém řízení pro dohled nad využíváním AI ve Skupině a jeho správu.

Tento systém řízení zajišťuje, že identifikovaná rizika jsou známa a pod kontrolou a že systémy umělé inteligence jsou v souladu s etickými zásadami Skupiny.

Při vývoji systémů umělé inteligence se společnost Michelin zejména zavazuje:

Provádět testy za účelem zlepšení kvality výsledků (např. lidský dohled během fáze trénování apod.);
Ověřovat a dokládat, že přijatá opatření snižují potenciální rizika na přijatelnou úroveň;
Zohledňovat kulturní rozmanitost, vícejazyčnost a různorodé složení týmů;
Ověřovat, zda systémy skutečně plní svůj zamýšlený účel (ukazatele úspěšnosti apod.);
Zajišťovat, že tyto systémy mají dostatečnou úroveň právní shody, odolnosti a zabezpečení (např. doložení souladu, dodržení standardů apod.).

Při nasazování systémů umělé inteligence svěřuje společnost Michelin dohled nad nimi odpovědné osobě, která disponuje potřebnými dovednostmi, školením a pravomocí k zajištění souladu s etickými zásadami Skupiny a platnými předpisy.

Společnost Michelin se rovněž zavazuje v případě potřeby zkoumat etická dilemata a vyvažování zájmů v rámci mezioborového a vhodně nastaveného systému řízení.

ANO: MUSÍM

Každý zaměstnanec musí přispívat k dodržování výše uvedených tří zásad a musí:

Absolvovat povinná školení stanovená Skupinou.
Respektovat podmínky použití, pravidla a procesy stanovené při zavádění nového nástroje AI.
Využívat systémy AI poskytované společností Michelin relevantním a uváženým způsobem (klást si předem otázky typu „proč“ – jakou přidanou hodnotu přináší AI oproti řešení bez AI – a „pro koho“ – jaké přínosy se očekávají pro zaměstnance nebo jiné externí partnery Skupiny, např. zákazníky, dodavatele atd.).

Na zaměstnance se v závislosti na jejich roli a odpovědnostech při vývoji nebo poskytování systémů umělé inteligence vztahují specifické požadavky:

Zajistit transparentní, ověřitelné a vysvětlitelné systémy umělé inteligence, které uživatelům těchto systémů pomohou činit informovaná rozhodnutí (např. pomocí vysvětlujících poznámek) a zároveň zajistit sledovatelnost rozhodnutí.
Dodávat robustní systémy AI, které správně fungují pro účely, pro něž byly určeny.
Zavádět bezpečné systémy AI, u nichž je zajištěna bezpečnost a důvěrnost dat po celou dobu jejich životního cyklu, s ohledem na rizika, která může AI stupňovat (např. šíření dat kvůli příliš širokým přístupovým právům, ochrana obchodního tajemství, chybné zařazení dokumentů atd.).
Zajistit sledovatelnost dat, procesů a rozhodnutí přijatých během životního cyklu systému AI.
Určit odpovědnou osobu pro každý systém AI, která bude zodpovědná za jeho výkon, přesnost a dopad na výsledky Skupiny.
Poskytovat přesnou dokumentaci ke každému systému AI, včetně jeho rámce a omezení použití.
Identifikovat rizika spojená s každým systémem AI, sledovat je a zavádět preventivní a nápravná opatření.
Navrhovat systémy AI tak, aby byly udržitelné, optimalizací využívání zdrojů s cílem snížit naši uhlíkovou stopu.
Podporovat rozmanitost týmů pracujících na AI z hlediska profilů, dovedností a zkušeností, což představuje nejlepší záruku proti riziku zkreslení a etickým rizikům obecně.

NE: NESMÍM

Žádný zaměstnanec nesmí:

Zavádět nebo pořizovat systémy umělé inteligence, jejichž případy užití jsou v rozporu s etickými hodnotami a zásadami Skupiny nebo jsou zakázány právními předpisy (např. AI určená k manipulaci nebo klamání apod.).
Pořizovat systémy AI bez předchozího ověření nebo požadavku na záruky (smluvní, certifikace, posouzení shody apod.) ze strany dodavatele ohledně souladu s platnými předpisy (duševní vlastnictví, důvěrnost atd.).
Spoléhat výhradně na systém AI v rozhodovacím procesu, který má významný dopad na zaměstnance (např. změna pracovní pozice, povýšení apod.).
Opakovaně používat výstupy navržené systémem AI, aniž by byly nejprve ověřeny z hlediska možných chyb (např. zápisy z jednání, informační podklady apod.).
Zavádět systémy AI, které nesou riziko šíření důvěrných nebo osobních informací (např. geolokační údaje atd.).