Ethische Grundsätze für vertrauenswürdige Künstliche Intelligenz

Die digitale Transformation, die insbesondere durch Künstliche Intelligenz (KI) vorangetrieben wird, beeinflusst unser tägliches Leben und unser Arbeitsumfeld. Die Annahme eines ethischen Rahmens für KI ist daher notwendig, um einen verantwortungsvollen Ansatz zu verfolgen.

Die Michelin-Gruppe möchte, dass der Einsatz von Künstlicher Intelligenz vollständig im Einklang mit ihrem „All Sustainable“-Ansatz steht: Menschen × Gewinn × Planet.

Begriffsklärungen

KI wird im Allgemeinen durch ihre konkrete Anwendung in einem KI-System verstanden, im Folgenden „KI“ oder „KI-System“.

Das „KI-System“ wird durch die Europäische Verordnung vom 13. Juni 2024 definiert als:

„ein automatisiertes System, das so konzipiert ist, dass es auf verschiedenen Autonomiestufen arbeitet und nach der Implementierung Anpassungsfähigkeit zeigen kann und das, für explizite oder implizite Ziele, aus den empfangenen Eingaben ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generiert, die physische oder virtuelle Umgebungen beeinflussen können.“

KI umfasst mehrere Technologien und Anwendungsbereiche, die auf Modellen oder Algorithmen basieren.

Beispiele:

Generative KI: Erstellung von Inhalten (Text, Bild, Video, Ton usw.) basierend auf einer Anfrage;
Vorhersage-KI: Prognose eines Ergebnisses basierend auf historischen Daten;
Erkennungs- und Klassifikations-KI: visuelle Objekterkennung, Bildklassifikation, Erkennung anomalen Verhaltens usw.

Kontext

Chancen

KI hat sich in den letzten Jahren stark weiterentwickelt (komplexe Algorithmen, generative KI auf Basis großer Sprachmodelle) und verändert die Art und Weise, wie Unternehmen Daten nutzen. Es gibt zahlreiche Anwendungen in Bereichen wie Transport, Gesundheit, Marketing, öffentliche Dienste usw.

KI bietet Chancen sowohl für Unternehmen (z. B. innovative Produkte und Dienstleistungen, Produktivitätssteigerung, Erkennung von Abweichungen) als auch für Menschen (z. B. Entscheidungsunterstützung, Verbesserung des Wohlbefindens am Arbeitsplatz, Inklusion von Menschen mit Behinderungen).

Michelin blickt auf eine lange Tradition in Innovation, Umwelt- und Gesellschaftsengagement zurück und möchte weiterhin eine führende Rolle für eine nachhaltigere Zukunft spielen

Risiken

Neben den Chancen birgt KI auch nachgewiesene oder potenzielle Risiken für Unternehmen und die Gesellschaft:

Konzeption und Training: mögliche Verzerrungen in den KI-Trainingsdatensätzen, die zu Diskriminierung, schlechter Datenqualität und/oder Datenverschmutzung, Verlust der Vertraulichkeit personenbezogener Daten usw. führen können.;
Nutzung: Undurchsichtigkeit der Funktionsweise des KI-Systems, Instabilität seiner Leistung (d. h. Halluzinationen), Auswirkungen auf die Gesundheit und das Wohlbefinden der Menschen, die KI-Systeme nutzen, Vertrauen in Systeme ohne kritische Reflexion, Verlust des freien Willens und der Kontrolle, Weitergabe von Daten, die unter Geschäftsgeheimnisse oder geistiges Eigentum fallen, Verletzung des Wettbewerbsrechts usw.;

Gesellschaftliche und ökologische Aspekte: Deepfakes, Manipulation der Bevölkerung durch die Verbreitung von Falschinformationen, Einsatz von KI-Systemen zur Massenüberwachung der Bevölkerung durch intelligente Kameras, tiefgreifende Umgestaltung bestimmter Berufe, energieintensive Technologie usw.Kollektive Anstrengungen von öffentlichen und privaten Akteuren sind erforderlich, um vertrauenswürdige KI-Systeme zu gewährleisten.

Rahmenwerk

Die Herausforderung besteht darin, den Einsatz von KI-Systemen mit den Werten der Gruppe in Einklang zu bringen und gleichzeitig die Einhaltung geltender Vorschriften sicherzustellen.

Michelin möchte die Risiken, die durch die Entwicklung und den Einsatz von KI-Systemen entstehen, antizipieren, kontrollieren und sicherstellen, dass Innovation im Einklang mit den Unternehmenswerten steht.

Diese Balance ist Voraussetzung für ein Umfeld, das allen einen besseren Weg in die Zukunft bietet.

Leitsätze

Um sicherzustellen, dass KI-Systeme Vertrauen und Mehrwert schaffen, verpflichtet sich Michelin zur Entwicklung und Nutzung von KI gemäß drei grundlegenden Prinzipien.

Diese ergänzen die bestehenden Verpflichtungen der Gruppe, insbesondere im Bereich Umwelt und Informationssicherheit, und werden regelmäßig weiterentwickelt.

Prinzip 1: Menschzentrierte KI

KI-Systeme müssen so gestaltet und eingesetzt werden, dass sie dem Menschen dienen und seine Grundrechte und Freiheiten wahren (Würde, Selbstbestimmung, Privatsphäre, Gerechtigkeit, Nichtdiskriminierung).

Um dies zu erreichen, stützt sich die Gruppe auf die folgenden Elemente::

Menschliche Aufsicht: Jedes KI-System wird mit einem angemessenen Maß an menschlicher Wertschätzung und Aufsicht konzipiert und eingesetzt (z. B. Verbot von Entscheidungen, die erhebliche Auswirkungen auf eine Person haben können, wie z. B. Entlassung, Beförderung usw., die ausschließlich auf einer Entscheidung eines KI-Systems beruhen)..

Schutz der Gesundheit und des Wohlbefindens der Mitarbeiter: Die von uns konzipierten und eingesetzten KI-Systeme müssen während ihres gesamten Lebenszyklus zuverlässig und sicher sein, um die gesetzten Ziele zu erreichen und keine unannehmbaren Risiken für die Menschen, insbesondere für ihre Gesundheit und ihr Wohlbefinden, mit sich zu bringen (Verlust der Autonomie, Entmündigung, Fehlinformationen usw.).Datenschutz: Menschenzentrierte KI sieht auch angemessene Kontrollen der verarbeiteten personenbezogenen Daten vor, um Verletzungen der Privatsphäre oder den Verlust der Vertraulichkeit der Daten zu verhindern und die Qualität, Integrität und Relevanz der Daten in Bezug auf die Zwecke, für die sie verarbeitet werden, sicherzustellen..
Nichtdiskriminierung und Gleichbehandlung: Die von uns eingesetzten oder erworbenen KI-Systeme müssen in angemessener und verhältnismäßiger Weise konfiguriert werden, um Voreingenommenheit, Diskriminierung oder die Reproduktion von Stereotypen zu vermeiden..
Bewusstsein und Schulung: Die Sensibilisierung für Fragen im Zusammenhang mit der verantwortungsvollen Entwicklung oder dem Einsatz von KI ist von wesentlicher Bedeutung. Die Entwicklung der Fähigkeiten und Karrierewege der Mitarbeiter muss unterstützt werden, um das Vertrauen in diese Technologien zu stärken, die Vorteile des Einsatzes von KI innerhalb von Michelin gerecht zu verteilen, aber auch, um es jedem zu ermöglichen, sich gegen die damit verbundenen Risiken zu schützen (z. B. übermäßiges Vertrauen in die von KI-Systemen generierten Inhalte, Verlust von Schlüsselkompetenzen usw.)..

Durch die Integration des Einsatzes von KI innerhalb der Gruppe verpflichtet sich Michelin, das Wohlergehen und die Rechte des Einzelnen durch eine angepasste Organisation und eine Bewertung der möglichen negativen Auswirkungen zu wahren.

Prinzip 2: Transparente und erklärbare KI

Die Michelin-Gruppe bietet Schulungen an, um sicherzustellen, dass die Nutzer von KI-Lösungen über grundlegende Kenntnisse verfügen, wie das Verständnis der grundlegenden Funktionen von KI, deren praktische Auswirkungen und ethische Überlegungen.

Für operative und technische Teams wird die Schulung auf ihre Rollen und Verantwortlichkeiten zugeschnitten, damit jedes innerhalb der Gruppe entwickelte oder eingesetzte KI-System ausreichend transparent und erklärbar ist, um das Vertrauen der Nutzer zu gewährleisten.

Transparenz bedeutet:

Bereitstellung eines Erklärungsblatts für KI-Entscheidungsunterstützungssysteme, um deren Rahmen und Nutzungseinschränkungen zu spezifizieren;
Sicherstellen, dass die Nutzer von KI-Systemen ordnungsgemäß informiert sind, um mögliche Verzerrungen oder Fehler zu erkennen und verantwortungsvolle Entscheidungen treffen können;
Personen in geeigneter Form informieren, wenn sie mit einem KI-System interagieren oder bestimmten KI-generierten Inhalten ausgesetzt sind.

Erklärbarkeit bedeutet:

In der Lage sein, zu beschreiben, wie das KI-System ein bestimmtes Ergebnis erzielt hat, entweder nachträglich oder in Echtzeit, je nach Kontext;
Ein KI-System vorschlagen, dessen Ergebnis verständlich (mindestens interpretierbar) und reproduzierbar ist;
KI-Systeme priorisieren, die über Fähigkeiten verfügen, das Funktionieren des KI-Systems zu verstehen, mit erläuternden Hinweisen. Das Erklärungsniveau muss vom Kontext und der Schwere der Konsequenzen abhängen, wenn das Ergebnis fehlerhaft oder ungenau ist (z. B. hat der Vorschlag einer touristischen Route durch einen Chatbot mit der ViaMichelin-Anwendung weniger Auswirkungen als eine lebenswichtige medizinische Prognose).

Transparenz und Erklärbarkeit müssen andere Anforderungen berücksichtigen, insbesondere in Bezug auf geistiges Eigentum und/oder Schutz vor Piraterie usw.

Prinzip 3: Verantwortlichkeit

Michelin verpflichtet sich, die ordnungsgemäße Funktion der entwickelten und eingesetzten KI-Systeme sicherzustellen und eine angemessene Governance zu implementieren, um die Nutzung von KI innerhalb der Gruppe zu überwachen und zu verwalten.

Diese Governance stellt sicher, dass die identifizierten Risiken bekannt und kontrolliert sind und dass die KI-Systeme den ethischen Grundsätzen der Gruppe entsprechen.

Prinzip 3: Verantwortlichkeit

Diese Governance stellt sicher, dass die identifizierten Risiken bekannt und kontrolliert sind und dass die KI-Systeme den ethischen Grundsätzen der Gruppe entsprechen.

Bei der Entwicklung von KI-Systemen verpflichtet sich Michelin zu:

Durchführung von Tests zur Verbesserung der Ergebnisqualität (z. B. menschliche Aufsicht während der Trainingsphase, etc.);
Überprüfung und Nachweis, dass die ergriffenen Vorsichtsmaßnahmen potenzielle Risiken auf ein akzeptables Niveau reduzieren;
Berücksichtigung von Multikulturalismus, Mehrsprachigkeit und der Vielfalt der Teams;
Überprüfung, dass die Systeme ihre beabsichtigten Zwecke effektiv erfüllen (Erfolgsindikatoren, etc.);
Sicherstellung, dass diese Systeme ein ausreichendes Maß an rechtlicher Konformität, Robustheit und Sicherheit aufweisen (z. B. Nachweis der Konformität, Einhaltung von Standards).

Wenn Michelin KI-Systeme einsetzt, wird die Überwachung dieser Systeme einer verantwortlichen Person anvertraut, die über die erforderlichen Fähigkeiten, Schulungen und Befugnisse verfügt, um die Einhaltung der ethischen Grundsätze der Gruppe und der geltenden Vorschriften zu gewährleisten.

Michelin verpflichtet sich außerdem, ethische Dilemmas und Kompromisse gegebenenfalls im Rahmen einer funktionsübergreifenden und angemessenen Governance zu prüfen.

Do’s

Jeder Mitarbeiter muss zur Einhaltung der drei oben genannten Grundsätze beitragen und muss::

Die vom der Gruppe festgelegten Pflichtschulungen absolvieren;
Die Nutzungsbedingungen, Regeln und Prozesse einhalten, die bei der Einführung eines neuen KI-Tools definiert wurden;
Eine sachdienliche und begründete Nutzung der von Michelin bereitgestellten KI-Systeme sicherstellen (Hinterfragen des "Warum", d. h. des Mehrwerts, den eine KI im Vergleich zu einer Lösung ohne KI bringt, und des "Für wen", d. h. der erwarteten Vorteile für die Mitarbeiter oder andere externe Partner der Gruppe (z. B. Kunden, Lieferanten) usw.).).

Für Mitarbeiter gelten je nach ihrer Rolle und Verantwortung bei der Entwicklung oder Bereitstellung von KI-Systemen besondere Anforderungen:

Bereitstellung von transparenten, überprüfbaren und erklärbaren KI-Systemen, um den Nutzern dieser KI-Systeme zu helfen, fundierte Entscheidungen zu treffen (Erläuterungen usw.) und die Nachvollziehbarkeit von Entscheidungen zu gewährleisten.;
Bereitstellung robuster KI-Systeme, damit sie für den vorgesehenen Zweck ordnungsgemäß funktionieren.;
Einführung sicherer KI-Systeme, bei denen die Sicherheit und Vertraulichkeit der Daten während ihres gesamten Lebenszyklus gewährleistet ist, wobei die Risiken, die KI verstärken kann, zu berücksichtigen sind (Verbreitung von Daten aufgrund zu weit gefasster Zugriffsrechte, Schutz von Geschäftsgeheimnissen, falsche Klassifizierung von Dokumenten usw.);
Sicherstellung der Rückverfolgbarkeit von Daten, Prozessen und Entscheidungen, die während des Lebenszyklus des KI-Systems getroffen werden.;
Benennung einer Person, die für jedes zur Verfügung gestellte KI-System für dessen Leistung, Genauigkeit und Auswirkungen auf die Ergebnisse der Gruppe verantwortlich ist.;
Bereitstellung einer genauen Dokumentation für jedes KI-System, einschließlich seiner Rahmenbedingungen und Nutzungsbeschränkungen.
Identifizierung von Risiken im Zusammenhang mit jedem KI-System, deren Überwachung sowie die Durchführung von Präventiv- und Korrekturmaßnahmen.;
Nachhaltige Gestaltung von KI-Systemen durch Optimierung der Ressourcennutzung, um unseren ökologischen Fußabdruck zu verringern.;
Förderung der Vielfalt von Teams, die an KI arbeiten, in Bezug auf Profile, Fähigkeiten und Erfahrungen, die besten Garanten gegen die Risiken der Voreingenommenheit und ethische Risiken im Allgemeinen..

Don‘ts

Jeder Mitarbeitende darf nicht:

KI-Systeme implementieren oder erwerben, deren Anwendungsfälle im Widerspruch zu den ethischen Werten und Grundsätzen der Gruppe stehen oder durch Vorschriften verboten sind (KI mit dem Ziel der Manipulation oder Täuschung usw.) ;
KI-Systeme erwerben, ohne sich vorher zu versichern oder vom Lieferanten Garantien (vertraglich, durch Zertifizierungen, Konformitätsbewertung usw.) für die Einhaltung bestehender Vorschriften (geistiges Eigentum, Vertraulichkeit usw.) zu verlangen.;
sich bei einem Entscheidungsprozess, der erhebliche Auswirkungen auf einen Mitarbeiter hat (z. B. Arbeitsplatzwechsel, Beförderung usw.), vollständig auf ein KI-System verlassen;
Wiederverwendung der von einem KI-System vorgeschlagenen Ergebnisse ohne vorherige Überprüfung auf Fehler (Sitzungsprotokolle, Besprechungsnotizen usw.);
Einsatz von KI-Systemen, bei denen die Gefahr besteht, dass vertrauliche oder persönliche Informationen verbreitet werden (z. B. Geolokalisierungsdaten usw.)..

Kontakte

Bei Fragen zu ethischen Aspekten von KI wenden Sie sich bitte an:

Konzernrechtsabteilung / KI-Ethik und Compliance (DCJ)
Abteilung für KI-Transformation (DOTI/DAI)