Principi etici per un'Intelligenza Artificiale affidabile
La trasformazione digitale guidata in particolare dall'Intelligenza Artificiale (IA) sta avendo un impatto sulla nostra vita quotidiana e sul nostro ambiente di lavoro. L'adozione di un quadro etico per l'IA è quindi necessaria per un approccio responsabile.
Il Gruppo Michelin vuole che l'utilizzo dell'Intelligenza Artificiale soddisfi pienamente le sue ambizioni “All sustainable”: People x Profit x Planet.
Definizione
L'IA è generalmente intesa attraverso la sua applicazione concreta in un sistema di IA, di seguito “IA” o “sistema di IA”.
Il “sistema di IA” è definito dal Regolamento europeo del 13 giugno 2024 come “un sistema automatizzato progettato per operare a diversi livelli di autonomia e in grado di dimostrare una capacità di adattamento dopo l'implementazione, e che, per scopi espliciti o impliciti, deduce, dagli input che riceve, come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali”.
L'IA comprende diverse tecnologie e aree applicative che si basano su modelli o algoritmi.
Ne sono un esempio
- IA generativa: creazione di contenuti (testi, immagini, video, suoni, ecc.) sulla base di un'interrogazione;
- IA predittiva: previsione di un risultato basato su una storia;
- IA di riconoscimento e classificazione: riconoscimento di oggetti visivi, classificazione di immagini, rilevamento di comportamenti anomali, ecc.
Opportunità
Negli ultimi anni l'IA ha conosciuto sviluppi significativi (algoritmi complessi, IA generativa basata su grandi modelli linguistici) e sta trasformando il modo in cui le aziende utilizzano i dati. Esistono molte applicazioni che utilizzano l'IA in vari settori (trasporti, salute, marketing, servizi pubblici, ecc.).
L'IA offre opportunità sia alle aziende (ad esempio, prodotti e servizi innovativi, aumenti di produttività, rilevamento di non conformità, ecc.) sia alle persone (supporto alle decisioni, miglioramento del benessere sul lavoro, inclusione di persone con disabilità, ecc.)
Michelin ha una lunga tradizione di innovazione e di impegno ambientale e sociale e intende continuare a svolgere un ruolo importante nella costruzione di un futuro più sostenibile per tutti.
Rischi
Oltre alle opportunità che offre, l'IA presenta anche rischi comprovati o potenziali per le aziende e la società nel suo complesso, attraverso:
- La sua progettazione e l'addestramento dei suoi modelli: possibili distorsioni negli insiemi di dati di apprendimento dell'IA che potrebbero portare a casi di discriminazione, scarsa qualità e/o inquinamento dei dati, perdita di riservatezza dei dati personali, ecc;
- Il suo utilizzo: opacità del funzionamento del sistema di IA, instabilità delle sue prestazioni (ad esempio, allucinazioni), impatto sulla salute e sul benessere sul lavoro delle persone che utilizzano i sistemi di IA, pregiudizio di eccessiva fiducia senza riflessione critica, perdita del libero arbitrio e del controllo, condivisione di dati relativi al segreto aziendale o alla proprietà intellettuale, violazione della legge sulla concorrenza, ecc;
- Preoccupazioni sociali e ambientali: deepfake, manipolazione della popolazione attraverso la diffusione di informazioni false, uso di sistemi di IA per la sorveglianza di massa della popolazione attraverso telecamere intelligenti, profonda trasformazione di alcune professioni, tecnologia ad alta intensità energetica, ecc.
Sono necessari sforzi collettivi da parte di attori pubblici e privati per garantire sistemi di IA affidabili.
Cornice
La sfida è quella di conciliare l'utilizzo dei sistemi di IA con i valori del Gruppo, garantendo al contempo il rispetto delle normative applicabili.
Il desiderio di Michelin è quello di anticipare e controllare i rischi indotti dallo sviluppo e dall'implementazione di sistemi di intelligenza artificiale all'interno del Gruppo e di garantire che l'innovazione guidata da questi sistemi di intelligenza artificiale sia in linea con i nostri valori.
Questa riconciliazione è la conditio sine qua non per la creazione di un ambiente che offra a tutti un percorso migliore.
Principi
Per garantire che i sistemi di IA siano utilizzati in modo da creare valore e fiducia, Michelin si impegna a utilizzare e sviluppare i sistemi di IA secondo tre principi fondamentali.
Questi tre principi completano gli impegni del Gruppo, in particolare in tema di ambiente e sicurezza dei sistemi informativi.
Sono destinati ad evolvere nel tempo per tenere conto dei cambiamenti normativi, del progresso tecnologico, dell'analisi degli impatti, ma anche delle aspettative dei dipendenti e degli stakeholder del Gruppo.
Principio 1: IA antropocentrica
I sistemi di IA devono essere progettati e utilizzati in modo tale da essere al servizio dell'uomo e rispettarne i diritti e le libertà fondamentali (dignità, autodeterminazione, privacy, equità, non discriminazione, ecc.).
Per raggiungere questo obiettivo, il Gruppo si basa sui seguenti elementi:
• Supervisione umana : qualsiasi sistema di IA sarà progettato e utilizzato con un livello adeguato di apprezzamento e supervisione umana (ad esempio, vietando qualsiasi decisione che possa avere un impatto significativo su una persona, come il licenziamento, la promozione, ecc., che si baserebbe esclusivamente su una decisione di un sistema di IA).
• Salvaguardare la salute e il benessere dei dipendenti: i sistemi di IA che progettiamo e utilizziamo devono essere affidabili, sicuri e protetti durante tutto il loro ciclo di vita, al fine di raggiungere gli obiettivi prefissati e non presentare alcun rischio inaccettabile per le persone, in particolare per la loro salute e il loro benessere (perdita di autonomia, mancanza di potere, disinformazione, ecc.).
• Rispetto dei dati personali: l'intelligenza artificiale a misura d'uomo richiede anche controlli adeguati sui dati personali trattati per prevenire violazioni della privacy o perdita della riservatezza dei dati e per garantire la qualità, l'integrità e la pertinenza dei dati rispetto alle finalità per le quali sono trattati.
• Non discriminazione ed equità : i sistemi di IA che implementiamo o acquisiamo devono essere configurati in modo appropriato e proporzionato per evitare pregiudizi, discriminazioni o la riproduzione di stereotipi.
• Sensibilizzazione e formazione: la consapevolezza delle questioni relative allo sviluppo o alla diffusione responsabile dell'IA è essenziale. Lo sviluppo delle competenze e dei percorsi di carriera dei dipendenti deve essere sostenuto al fine di promuovere la fiducia in queste tecnologie, per distribuire equamente i benefici dell'uso dell'IA all'interno di Michelin, ma anche per consentire a tutti di proteggersi dai rischi che presenta, come la mancanza di controllo sui contenuti generati dai sistemi di IA, la perdita di competenze chiave, ecc.
Integrando l'uso dell'IA all'interno del Gruppo, Michelin si impegna a preservare il benessere e i diritti delle persone attraverso un'organizzazione adattata e una valutazione dei suoi potenziali impatti negativi.
Principio 2: IA trasparente e comprensibile
Michelin fornisce formazione per garantire che gli utenti delle soluzioni di IA abbiano le conoscenze fondamentali, come la comprensione delle funzioni di base dell'IA, le sue implicazioni pratiche e le considerazioni etiche.
Per i team operativi e tecnici, la formazione è personalizzata in base ai loro ruoli e alle loro responsabilità, in modo che qualsiasi sistema di IA sviluppato o implementato all'interno del Gruppo sia sufficientemente trasparente e comprensibile da garantire la fiducia degli utenti.
Trasparente significa:
• Fornire una scheda esplicativa per i sistemi di supporto alle decisioni dell'IA per specificarne il quadro e i limiti di utilizzo;
• Garantire che le persone che utilizzano l'IA siano adeguatamente informate per consentire loro di identificare possibili pregiudizi o errori e prendere decisioni in modo responsabile;
• Informa le persone in un formato adeguato quando interagiscono con un sistema di intelligenza artificiale o sono esposte a determinati contenuti generati dall'intelligenza artificiale.
Comprensibile significa:
• Essere in grado di descrivere come il sistema di IA ha prodotto un determinato risultato, a posteriori o in tempo reale a seconda del contesto;
• Proporre un sistema di IA il cui risultato sia intelligibile (almeno interpretabile) e riproducibile.
• Dare la priorità ai sistemi di intelligenza artificiale con funzionalità per capire come funziona il sistema di intelligenza artificiale, con note esplicative. Il livello di spiegazione deve dipendere dal contesto e dalla gravità delle conseguenze se il risultato è errato o impreciso (ad esempio, la proposta di un itinerario turistico da parte di un chatbot con l'applicazione ViaMichelin ha un impatto minore rispetto a una prognosi medica vitale).
La trasparenza e la comprensione devono tenere conto di altri requisiti, in particolare in termini di proprietà intellettuale e/o di protezione contro la pirateria, ecc.
Principio 3: Responsabilità
Michelin si impegna a garantire il corretto funzionamento dei sistemi di IA sviluppati e implementati e a mettere in atto una governance adeguata per supervisionare e gestire l'uso dell'IA all'interno del Gruppo.
Tale governance garantisce che i rischi identificati siano noti e controllati e che i sistemi di IA siano conformi ai principi etici del Gruppo.
In particolare, nello sviluppo di sistemi di intelligenza artificiale, Michelin si impegna a:
- Eseguire test per migliorare la qualità dei risultati (es. supervisione umana durante la fase di formazione, ecc.) ;
- Verificare e dimostrare che le precauzioni adottate riducono i rischi potenziali a un livello accettabile;
- Tenere conto del multiculturalismo, del multilinguismo e della diversità dei team;
- Verificare che i sistemi svolgano efficacemente lo scopo previsto (ad esempio, indicatori di successo) ;
- Garantire che questi sistemi abbiano un livello sufficiente di conformità legale, sicurezza, ecc. (ad esempio, dimostrazione di conformità, conformità alle norme, ecc.).
Quando Michelin implementa i sistemi di intelligenza artificiale, affida la supervisione di essi a una persona responsabile con le competenze, la formazione e l'autorità necessarie per garantire il rispetto dei principi etici del Gruppo e delle normative applicabili.
Michelin si impegna inoltre a esaminare, se del caso, i dilemmi etici e i compromessi nel quadro di una governance interfunzionale e appropriata.
Devo
Ogni dipendente deve contribuire al rispetto dei tre principi sopra esposti e deve:
- Seguire i corsi di formazione obbligatori definiti dal Gruppo.
- Rispettare i termini di utilizzo, le regole e i processi definiti durante la configurazione di un nuovo strumento di intelligenza artificiale.
- Avere un uso pertinente e ragionato dei sistemi di IA messi a disposizione da Michelin (interrogare a monte il "perché", ossia il valore aggiunto che un'IA apporterebbe rispetto a una soluzione senza IA e il "per chi"), quali sono i benefici attesi per i dipendenti o per qualsiasi altro partner esterno del Gruppo (es. clienti, fornitori), ecc.).
Ai dipendenti si applicano requisiti specifici a seconda del loro ruolo e delle loro responsabilità nello sviluppo o nella fornitura di sistemi di IA:
- Fornire sistemi di IA trasparenti, verificabili e comprensibili per aiutare gli utenti di tali sistemi a compiere scelte informate (note esplicative, ecc.) e garantire la tracciabilità delle decisioni.
- Fornire sistemi di intelligenza artificiale che funzionino correttamente per lo scopo per cui sono stati concepiti.
- Implementare sistemi di IA sicuri, per i quali la sicurezza e la riservatezza dei dati sono garantite durante tutto il loro ciclo di vita, tenendo conto dei rischi che l'IA può accentuare (diffusione dei dati a causa di diritti di accesso troppo ampi, protezione dei segreti commerciali, errata classificazione dei documenti, ecc.)
- Garantire la tracciabilità dei dati, dei processi e delle decisioni prese durante il ciclo di vita del sistema di intelligenza artificiale.
- Designare una persona responsabile per ogni sistema di IA messo a disposizione per le sue prestazioni, per l’accuratezza e per l’impatto sui risultati del Gruppo.
- Fornire una documentazione accurata per ogni sistema di intelligenza artificiale, incluso il framework e le limitazioni d'uso.
- Identificare i rischi relativi a ciascun sistema di intelligenza artificiale, monitorarli e implementare azioni preventive e correttive.
- Progettare sistemi di intelligenza artificiale in modo che siano sostenibili, ottimizzando l'uso delle risorse per ridurre la nostra impronta di carbonio.
Promuovere la diversità dei team che lavorano sull'IA in termini di profili, competenze, esperienze, i migliori garanti contro i rischi di bias e i rischi etici in generale.
Non devo
- Implementare o acquisire sistemi di IA i cui casi d'uso siano contrari ai valori e ai principi etici del Gruppo o vietati dalle leggi (IA finalizzata a manipolare o ingannare, ecc.).
- Acquisire sistemi di IA senza aver prima assicurato o richiesto garanzie (contrattuali, di certificazione, di valutazione della conformità, ecc.) al fornitore in merito al rispetto delle normative vigenti (proprietà intellettuale, riservatezza, ecc.).
- Affidarsi interamente a un sistema di intelligenza artificiale in un processo decisionale che ha un impatto significativo su un dipendente (ad esempio, cambio di lavoro, promozione, ecc.)
- Riutilizzare i risultati proposti da un sistema di intelligenza artificiale senza prima verificare la presenza di errori (verbali di riunione, note informative, ecc.)
- Implementare sistemi di IA che comportano il rischio di diffondere informazioni riservate o personali (ad es. dati di geolocalizzazione, ecc.).