신뢰할 수 있는 인공지능을 위한 윤리 원칙
특히 인공지능(AI)이 주도하는 디지털 전환은 우리의 일상과 업무 환경에 중대한 영향을 미치고 있습니다. 따라서 책임 있는 접근을 위해 AI에 대한 윤리적 기준을 마련하는 것이 필요합니다.
미쉐린 그룹은 인공지능 사용이 '모든 것이 지속 가능한(All Sustainable)' 경영 철학, 즉 인간 중심(People), 수익 창출(Profit), 환경 보전(Planet)이라는 세 가지 홱심 가치와 완전히 부합하기를 바랍니다.
정의
AI는 일반적으로 AI 시스템(이하 ‘AI’ 또는 ‘AI 시스템’)의 구체적인 적용으로 이해됩니다.
‘AI 시스템’은 2024년 6월 13일자 유럽 규정에 따라 “다양한 수준의 자율성으로 작동하도록 설계되었고, 배포 이후 적응력을 보일 수 있으며, 명시적 또는 묵시적 목적을 위해 수신한 입력을 바탕으로 물리적 또는 가상 환경에 영향을 미칠 수 있는 예측, 콘텐츠, 추천, 결정 등의 출력을 생성하는 방식으로 추론하는 자동화된 시스템”으로 정의됩니다.
AI는 모델 또는 알고리즘 기반의 다양한 기술과 응용 분야를 포함합니다.
예:
- 생성형 AI: 쿼리를 기반으로 한 콘텐츠(텍스트, 이미지, 비디오, 오디오 등) 생성
- 예측 AI: 이력을 기반으로 한 결과 예측
- 인식 및 분류 AI: 시각 객체 인식, 이미지 분류, 이상 행동 감지 등
맥락
기회
AI는 최근 몇 년 사이 괄목할 만한 발전을 이루었으며(복잡한 알고리즘, 대규모 언어 모델을 기반으로 한 생성형 AI), 기업의 데이터 활용 방식을 획기적으로 변화시키고 있습니다. AI는 운송, 보건, 마케팅, 공공 서비스 등 다양한 분야에서 활용되고 있습니다.
실제로 AI는 기업(예: 혁신적인 제품 및 서비스 개발, 생산성 향상, 이상 감지 등)과 개인(예: 의사결정 지원, 직장 내 복지 향상, 장애인 포용 등) 모두에게 다양한 기회를 제공합니다.
미쉐린은 오랜 혁신 전통과 환경 및 사회적 책임을 바탕으로 모두를 위한 보다 지속 가능한 미래를 실현하는 데 계속해서 중요한 역할을 수행할 것입니다.
위험
AI는 기회를 제공하는 동시에, 기업뿐만 아니라 사회 전반에 걸쳐 이미 입증되었거나 잠재된 위험을 안고 있습니다. 그 위험은 다음과 같습니다.
- AI 모델 설계 및 학습: AI 학습 데이터 세트의 편향으로 인한 차별 발생 가능성, 데이터 품질 저하 및/또는 오염, 개인정보 기밀성 손실 등
- AI 사용: AI 시스템의 작동 불투명성, 성능의 불안정성(일례로 환각), AI 시스템 이용자들의 건강 및 직장 복지에 대한 영향, 비판적 사고 없이 시스템을 맹신하는 경향, 자유 의지 및 통제력 상실, 영업 비밀 또는 지적 재산권 데이터 유출 및 공유, 경쟁법 위반 등
- 사회적 및 환경적 우려: 딥페이크, 허위 정보 유포를 통한 대중 조작, 스마트 카메라를 이용한 대중 감시용 AI 시스템 활용, 특정 직종의 급격한 변화, 에너지 집약적 기술 등
신뢰할 수 있는 AI 시스템을 보장하기 위해서는 공공과 민간 부문의 공동 노력이 요구됩니다.
프레임워크
AI 시스템의 사용을 그룹의 가치와 부합시키면서 관련 규제를 준수하도록 하는 것이 당면 과제입니다.
미쉐린은 그룹 내 AI 시스템의 개발 및 배포 과정에서 발생할 수 있는 위험을 예측하고 관리하며, 이러한 AI 시스템이 이끄는 혁신이 그룹의 가치와 조화를 이루도록 노력하고 있습니다.
이러한 조화는 모두에게 더 나은 미래를 제시하기 위한 필수 요건입니다.
원칙
AI 시스템이 가치와 신뢰를 함께 창출하도록 하기 위해 미쉐린은 세 가지 핵심 원칙에 따라 AI 시스템을 사용하고 개발할 것을 약속합니다.
이 세 가지 원칙은 특히 환경 보호와 정보 시스템 보안에 관한 그룹의 약속을 보완합니다.
이 원칙들은 규제 변화, 기술 발전, 영향 분석뿐만 아니라 그룹 임직원과 이해관계자의 기대를 반영하여 지속적으로 발전해 나갈 것입니다.
원칙 1: 인간 중심 AI
AI 시스템은 인간을 위해 봉사하고 인간의 기본권과 자유(존엄성, 자기결정권, 사생활 보호, 공정성, 비차별 등)를 존중하는 방식으로 설계되고 사용되어야 합니다.
이를 달성하기 위해 그룹은 다음 요소들을 기반으로 삼습니다.
- 인간의 감독: 모든 AI 시스템은 인간의 적절한 판단과 감독 하에 설계되고 사용될 것입니다(예: 해고, 승진 등 개인에게 중대한 영향을 미칠 수 있는 결정이 AI 시스템의 결정에 전적으로 맡겨져서는 안 됩니다).
- 직원 건강 및 복지 보호: 그룹이 설계하고 사용하는 AI 시스템은 설정된 목표를 달성하는 동시에 직원, 특히 직원의 건강과 복지에 용납할 수 없는 위험(자율성 상실, 무력감, 잘못된 정보 등)을 초래하지 않도록 수명 주기 전반에 걸쳐 신뢰할 수 있고, 안전하며, 보안이 유지되어야 합니다.
- 개인정보 보호: 인간 중심 AI는 개인정보 침해나 기밀성 손실을 방지하고, 데이터 처리 목적에 부합하도록 개인정보의 품질, 무결성, 관련성을 보장하며, 처리되는 개인정보에 대해 적절한 통제를 가합니다.
- 차별 금지 및 공정성: 그룹이 배포하거나 도입하는 AI 시스템은 편향, 차별, 고정관념의 재생산을 방지할 수 있도록 적절하고 비례적인 방식으로 구성되어야 합니다.
- 인식 제고 및 교육: AI의 책임 있는 개발 또는 배포와 관련된 문제에 대한 인식 제고는 필수적입니다. 미쉐린 내에서 이러한 기술에 대한 신뢰를 높이고, AI 사용의 이점을 공정하게 분배하며, 동시에 모든 사람이 AI 시스템이 제시하는 위험(예: AI가 생성한 콘텐츠에 대한 과신, 핵심 역량 상실 등)으로부터 스스로를 보호할 수 있도록 직원의 역량과 경력 개발을 지원해야 합니다.
미쉐린은 그룹 내 AI 활용을 도입함에 있어 조직을 적절히 개편하고, 예상되는 부정적 영향을 사전에 파악함으로써 개인의 복지와 권리를 보호하기 위해 노력하고 있습니다.
원칙 2: 투명하고 설명 가능한 AI
미쉐린은 AI 솔루션의 사용자가 AI의 기본 기능, 실제적 영향, 윤리적 고려 사항 등에 대한 기본적인 이해를 갖출 수 있도록 교육을 제공합니다.
운영 및 기술 팀의 경우, 그룹 내에서 개발되거나 배포되는 모든 AI 시스템이 사용자 신뢰를 얻을 수 있도록 각자의 역할과 책임에 따라 충분한 투명성과 설명 가능성을 갖추도록 교육을 제공합니다.
투명성은 다음을 의미합니다.
- AI 기반 의사결정 지원 시스템에 대한 설명 시트를 제공하여 사용 범위와 한계를 명시합니다.
- AI 사용자가 발생 가능한 편향이나 오류를 식별하고 책임감 있게 결정을 내릴 수 있도록 충분한 정보를 제공합니다.
- AI 시스템과 상호작용하거나 특정 AI 생성 콘텐츠에 노출될 경우, 이를 당사자에게 적절한 형식으로 알립니다.
설명 가능성은 다음을 의미합니다.
- AI 시스템이 특정 결과를 도출한 과정을 상황에 따라 실시간 또는 사후적으로 설명할 수 있습니다.
- 결과가 이해 가능(최소한 해석 가능)하고 재현 가능한 AI 시스템을 제안합니다.
- AI 시스템의 작동 방식을 이해할 수 있는 기능과 더불어 설명 자료를 제공하는 AI 시스템을 우선적으로 고려합니다. 설명 수준은 상황과 결과가 오류이거나 부정확할 경우 발생할 수 있는 영향의 심각성에 따라 달라져야 합니다(예: ViaMichelin 앱 챗봇이 제안하는 관광 경로는 생명과 직결된 의학적 예후보다 영향이 적음).
투명성과 설명 가능성은 지적 재산권 보호 및/또는 불법 복제 방지 등 다른 요구사항도 함께 고려해야 합니다.
원칙 3: 책임성
미쉐린은 개발 및 배포된 AI 시스템의 적절한 기능을 보장하고, 그룹 내 AI 사용을 감독하고 관리하기 위한 적절한 거버넌스 체계를 구축하기 위해 노력하고 있습니다.
이 거버넌스를 통해 식별된 위험이 명확히 인식되고 효과적으로 통제되며, AI 시스템이 그룹의 윤리 원칙을 준수하도록 관리합니다.
특히 AI 시스템을 개발할 때 미쉐린은 다음을 약속합니다.
- 결과의 품질 향상을 위한 테스트를 수행합니다(예: 학습 단계에서 인간의 감독 등).
- 취해진 예방 조치가 잠재적 위험을 허용 가능한 수준으로 완화하는지 여부를 검토하고 입증합니다.
- 다문화성, 다언어성, 팀 구성의 다양성을 고려합니다.
- 시스템이 의도된 목적을 효과적으로 수행하고 있는지를 확인합니다(예: 성공 지표 등).
- 시스템이 법적 적합성, 견고함, 보안성 등을 충분히 갖추도록 합니다(예: 규정 준수 입증, 표준 준수 등).
미쉐린은 AI 시스템을 도입할 때, 그룹의 윤리 원칙과 관련 법규를 준수할 수 있도록 필요한 역량과 교육, 권한을 갖춘 책임자에게 그 감독을 맡깁니다.
미쉐린은 또한, 필요 시 부서 간 협업 및 적절한 거버넌스 체계 내에서 윤리적 딜레마와 상충되는 가치 간의 절충을 검토하는 데에 힘쓰고 있습니다.
해야 할 일
모든 직원은 위에서 제시한 세 가지 원칙의 준수를 위해 노력하고, 다음 사항을 반드시 이행해야 합니다.
- 그룹이 지정한 필수 교육 과정을 이수해야 합니다.
- 새로운 AI 도구를 도입할 때는 정해진 사용 조건, 규칙 및 절차를 반드시 준수해야 합니다.
- 미쉐린이 제공하는 AI 시스템은 관련성과 논리적 근거에 기반해 사용되어야 하며, AI가 기존 솔루션 대비 어떤 부가가치를 제공하는지('왜')와 직원이나 그룹 내외의 파트너(예: 고객, 공급업체)에게 어떤 이점이 기대되는지('누구를 위해')를 사전에 명확히 검토해야 합니다.
AI 시스템의 개발 또는 제공과 관련된 역할과 책임에 따라 직원들에게 특정 요구 사항이 적용됩니다.
- AI 시스템 사용자가 정보에 근거한 선택을 할 수 있도록, 설명 자료(예: 노트 등)를 제공하며 투명하고 검증 가능하고 설명 가능한 AI 시스템을 제공하고, 의사결정 과정의 추적성을 보장해야 합니다.
- AI 시스템이 의도한 목적에 맞게 견고하게 작동하도록 보장해야 합니다.
- AI가 증폭할 수 있는 위험(과도한 접근 권한으로 인한 데이터 유출, 영업 비밀 보호 실패, 문서 오분류 등)을 고려하여, 수명 주기 전 과정에서 데이터 보안과 기밀성이 확보된 보안성 높은 AI 시스템을 구현해야 합니다.
- AI 시스템 수명 주기 동안 데이터, 프로세스, 의사결정에 대한 추적성을 유지해야 합니다.
- 각 AI 시스템별로 성능, 정확성 및 그룹 실적에 미치는 영향에 대해 책임을 지는 담당자를 지정해야 합니다.
- 각 AI 시스템에 대해 기본 구조와 사용 제한 사항을 포함한 정확하고 상세한 문서를 제공해야 합니다.
- 각 AI 시스템과 관련된 위험을 식별하고 모니터링하며, 예방 및 교정 조치를 시행해야 합니다.
- 지속 가능한 AI 시스템을 설계하기 위해 자원 사용을 최적화하여 탄소 배출량을 줄여야 합니다.
- 편향 및 윤리적 위험에 효과적으로 대응하기 위해, 프로필, 기술, 경험 등 다양한 측면에서 구성원의 다양성을 갖춘 AI 팀 구성을 장려해야 합니다.
하지 말아야 할 일
각 직원은 다음 행위를 해서는 안 됩니다.
- 그룹의 윤리 가치 및 원칙에 반하거나 관련 규정에서 금지된 용도의 AI 시스템을 개발하거나 획득해서는 안 됩니다(예: 조작 또는 기만을 목적으로 하는 AI).
- 기존 규정(지적 재산권, 기밀성 등) 준수를 보장하기 위해 공급업체로부터 사전 보증(계약, 인증, 적합성 평가 등)을 확보하지 않고 AI 시스템을 획득해서는 안 됩니다.
- 직원에게 중대한 영향을 미치는 의사결정(예: 직무 변경, 승진 등) 과정에서 AI 시스템에 전적으로 의존해서는 안 됩니다.
- AI 시스템이 제안한 결과(예: 회의록, 브리핑 노트 등)를 오류 확인 없이 재사용해서는 안 됩니다.
- 기밀 또는 개인정보(예: 위치 정보 등)의 유출 위험이 있는 AI 시스템을 도입해서는 안 됩니다.