信頼できる AI の倫理的原則
人工知能（AI）などによって推進されているデジタル変革は、私たちの日常生活や働く環境に影響をもたらしています。そこで、AI の倫理的枠組みを定めることが、責任ある取り組みに求められます。
ミシュラングループでは、「完全な持続可能性」アプローチに完全に準拠しながら、人工知能を使用することを目指しています。人 x 利益 x 地球。
定義
AI は、一般的に、AI システム（以下、「AI」または「AI システム」という）において具体的な用途をもつものとして認識されています。
「AI システム」は、2024 年 6 月 13 日、欧州規制によって、「さまざまな自律性で稼働するよう設計され、導入後は適応性を実証でき、明示的または黙示的な目的で、取り込んだデータから、物理的または仮想的な環境に影響を与えうる、予測、コンテンツ、推奨事項、または決定など、どのように結果を生成するかを推測する自動システム」として定義されています。
AI は、さまざまな技術を採用しており、モデルまたはアルゴリズムに応じて、用途の分野も多岐にわたります。
例：
- 生成 AI：クエリベースのコンテンツ作成（テキスト、画像、動画、サウンドなど）
- 予測 AI：過去データに基づいて結果を予測
- 認識および分類 AI：視覚オブジェクトの認識、画像分類、異常動作検知など
機会
生成 AI は近年、飛躍的な発展（複雑なアルゴリズム、大規模言語モデルに基づいた生成 AI）を遂げており、企業のデータの使い方に変革をもたらしています。 AI はさまざまな分野で、多くの用途で用いられています（運輸、医療、マーケティング、公共サービスなど）。
実際に、AI は、企業（革新的な製品やサービス、生産性の向上、不適合の検知）と人（決定支援、職場でのウェルビーイングの改善、おからだの不自由な方のサポート（インクルージョン））の両方に機会をもたらしています。
ミシュランでは古くから、イノベーション、環境および社会に対するコミットメントを掲げてきた歴史があり、すべての人にとって持続可能な未来の構築に大きな役割を果たし続けることを目指しています。
リスク
AI は、機会を提供するだけでなく、企業レベルばかりか社会全体においても、以下においてリスクが実際に確認されていたり、潜在的なリスクがあると考えられています。
- AI モデルの設計やトレーニング：AI トレーニングのデータセットに偏りがあれば、差別、不十分なデータ品質および/またはデータ汚染、個人データの機密性の喪失などを招くおそれがあります。
- AI の使用：AI システムの機能性が不透明、不安定なパフォーマンス（ハルシネーション）、AI システムを使用する人の職場での健康とウェルビーイングへの影響、慎重に考慮することなく、システムを信じることによる偏り、自由な意志や制御の喪失、企業秘密または知的財産を含むデータの共有、競争法違反など。
- 社会上の懸念や環境上の懸念：ディープフェイク、誤情報拡散による世間の印象操作、AI システムを用いたスマートカメラによる多数監視、特定の業務の重大な変革、エネルギーを大量消費するテクノロジーなど。
AI システムの信頼性を維持するには、公共および民間の組織による共同的な取り組みが求められます。
枠組み
課題は、適用される規制に準拠しながら、AI システムの使用をグループの価値観と調和させることです。
ミシュランでは、グループ内で、AI システムの開発と導入がもたらすリスクに先回りして制御し、グループの価値観に沿って、このような AI システムを活用したイノベーションを実現していくことを目指しています。
こうした調和は、すべての人に前進するための最善の方法を提供する、環境構築になくてはならないものです。
原則
価値と信頼性の両方を創出できるよう AI システムを使用するために、ミシュランは、3 つの基本原則に従って、AI システムを使用し、開発することに取り組んでいます。
これらの 3 原則は、主に情報システムの環境とセキュリティに関するグループのコミットメントを補完するものです。
これらは、規制の変更、技術の進化、影響分析のほか、グループの従業員や利害関係者の期待を考慮しながら、時間の経過と共に進化していくものです。
原則 1：人を中心としたAI
AI システムは、人のサポートとして、人間の基本的権利および自由（尊厳、自己決定、プライバシー、公正、非差別など）を尊重しながら、設計され使用されなければなりません。
これを実現するために、グループでは、以下の要素に従っています。
- 人による監視： AI システムは、人による、適切なレベルの評価と監視により、設計され、使用されます（例：AI システムによる決定のみを用いた、解雇や昇進など、人に大きな影響を与えうる決定の禁止）。
- 従業員の健康とウェルビーイングの保護：私たちが設計し、使用する AI システムは、ライフサイクルにおいて信頼でき、安全かつセキュアである必要があり、定められた目的に沿い、特に人の健康やウェルビーイングにおいて、人に許容されないリスク（自律性の喪失、無力化、誤情報など）をもたらすものであってはなりません。
- 個人データの尊重：人を中心とした AI はまた、個人データの取り扱いに適切な制御が求められます。プライバシー侵害またはデータの機密性の喪失を防ぎ、データの処理目的に沿って、データの品質、完全性、関連性を確保する必要があります。
- 非差別と公正：私たちが導入または取得する AI システムは、偏見、差別、ステレオタイプの再生を回避するために、均整の取れた、適切な方法で構成する必要があります。
- 意識向上とトレーニング：AI の責任ある開発と導入に関連した問題の意識向上が不可欠です。こうした技術に対する自信を身につけたり、ミシュラン内で AI の使用による利点を公正に提供したりするだけでなく、AI システムが生成するコンテンツを過度に信頼したり、重要なスキルを失ったりするなどのリスクから従業員を保護するために、従業員のスキルやキャリアパスの開発を支援する必要があります。
グループ内で AI の使用を取り入れることにより、ミシュランは、適応型組織と潜在的な悪影響の評価を通じて、個人のウェルビーイングと権利を保護することに取り組みます。
原則 2：透明性の高い、説明可能な AI
ミシュラングループは、AI ソリューションのユーザーに、AI の基本機能の理解、AI がもつ実用的影響、倫理面で検討すべき事項といった、基礎的な知識を身につけるためのトレーニングを提供します。
オペレーションチームや技術チームの場合、役割や責任に合わせてトレーニングが調整されるため、グループ内で開発または導入される AI システムは、十分に透明性と説明可能性を保ち、ユーザーは安心して使用することができます。
透明性とは：
- AI のフレームワークや使用制限を規定した、AI 意思決定サポートシステムの説明可能ドキュメントを提供する。
- AI を使用する人が、潜在的なバイアスまたはエラーを特定できるよう適切に情報を提供し、責任をもって決定できるようにする。
- AI システムを操作する、または特定の AI 生成のコンテンツを扱う人に、適切な形式で情報を提供する。
説明可能性とは：
- AI システムがコンテキストに基づいてリアルタイムで、または、帰納的に、特定の結果を生成する仕組みを説明できる。
- 結果がわかりやすく（少なくとも解釈可能）、再現可能な AI システムを提示できる。
- 説明ドキュメントが付属し、AI システムの仕組みを理解できる AI システムを優先する。説明のレベルは、コンテキストと、結果に誤りがある、または不正確な場合の影響の重大性に基づく必要があります（例：ViaMichelin アプリケーションのチャットボットによる旅程の提案は、医療における重要な予後よりも影響力は小さいです）。
透明性と説明可能性は、特に知的財産および/またはプライバシー保護など、他の要件も考慮に入れる必要があります。
原則 3：説明責任
ミシュランは、開発・導入された AI システムの適切な機能を確保し、グループ内での AI の使用を監視し、管理するための適切なガバナンスを導入することに取り組みます。
このガバナンスは、特定されたリスクを理解し、制御し、また、AI システムをグループの倫理原則に準拠させるものです。
特に、AI システムを開発する際、ミシュランは以下に取り組みます。
- テストを実行して結果の品質を改善（例：トレーニング段階において人による監視など）
- 講じた措置により潜在的リスクが許容可能なレベルにまで低下したことを確認して実証
- 多文化、多言語、チームの多様性を考慮
- システムが意図した目的を効果的に実行していることを確認（成功指標など）
- これらのシステムが十分なレベルの法令遵守、堅牢性、セキュリティなどを維持していることを確認（例：コンプライアンスの提示、規格遵守など）
ミシュランが AI システムを導入する際、システムの監視を、必要なスキル、トレーニング、権限をもつ責任者に依頼します。これにより、グループの倫理原則や適用される規制に準拠します。
ミシュランはまた、機能横断的かつ適切なガバナンスの枠組みの中で、必要に応じて、倫理上のジレンマやトレードオフについて調査することにも取り組みます。
しなければならないこと
各従業員は、上記に定められた 3 つの原則の尊重に寄与し、以下のことを行うことが求められます。
- グループによって定められた必須のトレーニングコースを受講する
- 新しい AI ツールをセットアップする際は定義された使用、ルール、プロセスの条件を尊重する
- ミシュランが提供する AI システムの適切で合理的な使用を心がける（「理由」、つまり、AI を使用しないソリューションと比較して AI がもたらしうる付加価値、そして「誰」にとって利点があり、従業員またはグループ外のパートナー（顧客やサプライヤーなど）にとって期待できるメリットはどのようなものかについて考える）
AI システムの開発またはプロビジョニングにおいては、従業員の役割や責任に応じて、特定の要件が適用されます。
- 透明性の高い、検証可能かつ説明可能な AI システムを提供し、こうしたシステムを使用するユーザーが情報に基づいた選択（説明可能なドキュメントなど）を行え、決定のトレーサビリティを確保できるようする。
- 意図した目的で適切に機能するよう、堅牢な AI システムを提供する。
- AI によって増加しうるリスク（アクセス権の過度な付与によるデータの拡散、企業秘密の保護、ドキュメントの誤分類など）を考慮しながら、ライフサイクル全体においてデータのセキュリティと機密性を確保する、セキュアな AI システムを実装する。
- AI システムのライフサイクル全体においてデータ、プロセス、決定のトレーサビリティを確保する。
- 各 AI システムのパフォーマンス、精度、グループの結果への影響に責任を負う担当者を指定する。
- 各 AI システムについて、その枠組みや使用上の制限など、正確なドキュメンテーションを提供する。
- 各 AI システムに関連したリスクを特定し、これらを監視し、予防措置や是正措置を講じる。
- カーボンフットプリントを減らすためにリソースを最適化することで持続可能な AI システムを設計する。
- プロフィール、スキル、エクスペリエンス、バイアスリスクに対する保証、一般的な倫理リスクの面で、AI に取り組むチームの多様性を推進する。
してはいけないこと
各従業員は以下のことを行ってはいけません。
- ユースケースがグループの倫理的価値観および原則に反している、または規制によって禁じられている（操る目的または詐欺目的での AI の使用）、AI システムを実装または取得する。
- 最初に保険をかける、または既存の規制（知的財産、機密保持など）に準拠してサプライヤーから保証（契約、認定、適合性の評価など）を求めることなく AI システムを取得する。
- 従業員に重大な影響を与える意思決定プロセスを AI システムに完全に任せる（異動や昇進など）。
- エラーを確認せずに AI システムが提案する結果を使用する（議事録やブリーフィングなど）。
- 機密情報または個人情報を拡散させるリスクのある AI システムを実装する（ジオロケーションデータなど）