Этические принципы внушающего доверие искусственного интеллекта

Цифровая трансформация, в частности, обусловленная развитием искусственного интеллекта (ИИ), влияет на нашу повседневную жизнь и рабочую среду. Поэтому принятие этических рамок для ИИ необходимо для обеспечения ответственного подхода.

Группа Мишлен желает, чтобы использование искусственного интеллекта полностью соответствовало ее подходу «Все должно быть устойчиво»: Люди x Прибыль x Планета.

Определение

Под ИИ обычно понимают его конкретное применение в системе ИИ, далее именуемой «ИИ» или «система ИИ».

«Система ИИ» определена Европейским регламентом от 13 июня 2024 как «автоматизированная система, предназначенная для работы на разных уровнях автономности, способная демонстрировать адаптивность после развертывания, и которая для явных или неявных целей определяет на основе полученных входных данных способ формирования выходных данных, таких как прогнозы, информационный материал, рекомендации или решения, которые могут влиять на физическую или виртуальную среду».

ИИ охватывает несколько технологий и областей применения, основанных на моделях или алгоритмах.

Примеры:

Генеративный ИИ: создание информационного материала (текста, изображения, видео, звука и т. д.) на основе запроса;
Прогнозирующий ИИ: прогнозирование результата на основе истории;
ИИ распознавания и классификации: визуальное распознавание объектов, классификация изображений, обнаружение аномального поведения и т. д.

Контекст

Возможности

За последние годы ИИ претерпел значительные изменения (сложные алгоритмы, генеративный ИИ, основанный на больших языковых моделях) и трансформирует использование данных компаниями. Существует множество приложений, использующих ИИ в различных областях (транспорт, здравоохранение, маркетинг, государственные услуги и т. д.)

Действительно, ИИ открывает возможности как для компании (например, инновационные продукты и услуги, рост производительности, обнаружение несоответствий и т. д.), так и для людей (поддержка принятия решений, улучшение благополучия на работе, вовлечение людей с ограниченными возможностями и т. д.)

Компания Мишлен имеет давние традиции инноваций, экологических и социальных обязательств и намерена продолжать играть важную роль в более устойчивом будущем для всех.

Риски

Помимо предлагаемых возможностей ИИ также несет в себе доказанные или потенциальные риски на уровне компаний и общества, а именно:

Его разработка и обучение моделей: возможные предубеждения в наборах данных для обучения ИИ, которые могут привести к случаям дискриминации, неудовлетворительному качеству данных и/или засорению, потере конфиденциальности персональных данных и т. д.
Его использование: непрозрачность функционирования системы ИИ, нестабильность ее работы (т. е. необоснованно сгенерированная информация), влияние на здоровье и благополучие людей, использующих системы ИИ, доверие к системам без критического осмысления, утрата свободы воли и управления, обмен данными, составляющими коммерческую тайну или интеллектуальную собственность, нарушение закона о конкуренции и т. д.
Социальные и экологические проблемы: информационные фабрикации, манипулирование населением путем распространения ложной информации, использование систем ИИ для массового наблюдения за населением с помощью «интеллектуальных» камер, глубокая трансформация некоторых профессий, энергоемкие технологии и т. д.

Для обеспечения надежности систем ИИ необходимы коллективные усилия как государственных, так и частных субъектов.

Структура

Задача состоит в том, чтобы согласовать использование систем ИИ с ценностями Группы, обеспечивая при этом соблюдение действующих регламентов.

Целью компании Мишлен является прогнозирование и управление рисками, возникающими при разработке и внедрении систем ИИ в Группе, а также обеспечение соответствия инноваций, внедряемых этими системами ИИ, нашим ценностям.

Такое согласование является непременным условием создания среды, где перед каждым открывается лучший путь вперед.

Принципы

Чтобы гарантировать использование систем ИИ для создания как ценности, так и доверия, компания Мишлен стремится использовать и разрабатывать системы ИИ в соответствии с тремя основополагающими принципами.

Эти три принципа дополняют обязательства Группы, в частности, по охране окружающей среды и безопасности информационных систем.

Они должны со временем развиваться с учетом изменений в законодательстве, технического прогресса, анализа воздействия, а также ожиданий сотрудников и заинтересованных сторон Группы.

Принцип №1: ИИ, ориентированный на человека

Системы ИИ должны быть разработаны и использованы так, чтобы служить людям и уважать их основные права и свободы (достоинство, самоопределение, неприкосновенность частной жизни, равенство, отсутствие дискриминации и т. д.)

Для достижения этой цели Группа опирается на следующие элементы:

Под надзором человека: любая система ИИ будет разрабатываться и использоваться с адекватным уровнем человеческой оценки и контроля (например, запрет любых решений, которые могут существенно сказаться на человеке, такие как увольнение, повышение по службе и т. д., основанных исключительно на решении системы ИИ).

Охрана здоровья и благополучия сотрудников: Разрабатываемые и применяемые нами системы ИИ должны быть надежными, безопасными и защищенными на протяжении всего своего жизненного цикла, чтобы соответствовать поставленным целям и не создавать неприемлемых рисков для людей, в частности для их здоровья и благополучия (утрата самостоятельности, лишение прав и возможностей, дезинформация и т. д.).
Охрана персональных данных: Ориентированный на человека ИИ также соответствующим образом управляет обрабатываемыми персональным данными, чтобы предотвратить нарушения конфиденциальности или потерю конфиденциальности данных и гарантировать качество, целостность и соответствие данных поставленным целям,
Антидискриминационность и беспристрастность: Системы ИИ, которые мы развертываем или приобретаем, должны быть настроены соответствующим и сбалансированным образом во избежание предвзятости, дискриминации или воспроизводства стереотипов.
Осведомленность и обучение: Осведомленность о вопросах, связанных с ответственной разработкой или внедрением ИИ, имеет важное значение. Необходимо поддерживать развитие навыков и карьерных возможностей сотрудников для повышения их доверие к этим технологиям, справедливо распределить преимущества использования ИИ в компании Мишлен, а также дать каждому возможность защитить себя от связанных с этим рисков, таких как излишняя уверенность в информационном содержимом, генерируемом системами ИИ, утрата ключевых навыков и т. д.)

Внедряя использование искусственного интеллекта в Группу, компания Мишлен стремится защищать благополучие и права людей посредством адаптированной организации и оценки ее потенциальных негативных последствий.

Принцип №2: Очевидный и объяснимый ИИ

Группа Мишлен проводит обучение, чтобы гарантировать наличие у пользователей решений на основе ИИ фундаментальных знаний, таких, как понимание основных функций ИИ, практических последствий его применения и этических соображений.

Обучение оперативного и технического персонала проводится с учетом ролей и обязанностей, чтобы любая система ИИ, разработанная или развернутая в Группе, была достаточно очевидной и объяснимой для обеспечения доверия пользователей.

Термин «очевидность» означает :

Предоставить пояснительную записку для систем поддержки принятия решений на основе ИИ с указанием границ и пределов ее использования;
Обеспечить людей, пользующихся ИИ, соответствующей информацией для выявления возможных отклонений или ошибок, и ответственного принятия решений;
Информировать людей в подходящем формате о том, когда они вступают в контакт с системой ИИ, подвергаются ее воздействию или подвергаются воздействию определенного информационного содержимого, созданного ИИ.

Термин «объяснимость» означает:

Умение объяснить, как система ИИ дала конкретный результат, апостериори или в реальном времени, в зависимости от контекста;
Предложить систему ИИ, результат которой будет вразумительным (по крайней мере интерпретируемым) и воспроизводимым.
Отдавать приоритет системам ИИ, позволяющим понять, как работает система ИИ, с пояснительными примечаниями. Уровень пояснений должен зависеть от контекста и серьезности последствий, если результат ошибочен или неточен (например, предложение туристического маршрута чат-ботом с приложением ViaMichelin воздействует слабее, чем жизненно важный медицинский прогноз).

Очевидность и объяснимость должны учитывать другие требования, в частности, относительно интеллектуальной собственности и (или) защиты от пиратства и т. д.

Принцип №3: Подконтрольность

Компания Мишлен стремится обеспечить надлежащее функционирование разработанных и развернутых систем ИИ, а также внедрить соответствующие регулирующие механизмы для контроля и управления использованием ИИ в Группе.

Такое управление гарантирует, что выявленные риски известны и контролируются, а системы ИИ соответствуют этическим принципам Группы.

В частности, при разработке систем ИИ компания Michelin стремится:

Тестировать для улучшения качества результатов (например, контроль со стороны человека на этапе обучения и т. д.);
Проверить и продемонстрировать снижение потенциальных рисков до приемлемого уровня за счет принятых мер предосторожности;
Учитывать разнообразие культур, множество языков и разнообразие коллективов;
Проверить эффективность выполнения системами свое предназначение (индикаторы успеха и т. д.);
Обеспечить достаточный уровень соответствия законодательству, надежности, безопасности и т. д. этих систем, (например, демонстрация соответствия, степени соблюдения стандартов и т. д.).

При внедрении систем ИИ компания Мишлен поручает надзор за ними ответственному лицу, обладающему необходимыми навыками, подготовкой и полномочиями для обеспечения соблюдения этических принципов Группы и действующих регламентов.

Компания Мишлен также стремится рассматривать, при необходимости, этические дилеммы и компромиссы в рамках межфункционального и надлежащего управления.

ИСПОЛНЯТЬ: ОБЯЗАТЕЛЬНО

Каждый сотрудник обязан вносить свой вклад в соблюдение трех принципов, изложенных выше, и должен:

Пройти обязательные курсы обучения, определенные Группой
Соблюдать условия использования, правила и процессы, определенные при настройке нового инструмента ИИ.
Использовать системы ИИ, предоставляемые компанией Мишлен, целесообразно и обоснованно (задавая на начальном этапе вопросы «зачем», т. е. какую добавленную стоимость обеспечит ИИ по сравнению с решением без ИИ, и «для кого», т. Е. какие преимущества ожидаются для сотрудников или любых других внешних партнеров Группы (например, клиентов, поставщиков) и т. д.)

К сотрудникам предъявляются особые требования в зависимости от их роли и обязанностей при разработке или предоставлении систем ИИ:

Предоставлять очевидные, проверяемые и объяснимые системы ИИ, чтобы помочь пользователям этих систем ИИ делать осознанный выбор (пояснительные записки и т. д.), а также обеспечивать прослеживаемость решений.
Поставлять надежные системы ИИ, которые будут исправно работать в соответствии с поставленными задачами.
Внедрять безопасные системы ИИ, где безопасность и конфиденциальность данных обеспечиваются на протяжении всего их жизненного цикла, учитывая риски, которые может усиливать ИИ (распространение данных из-за слишком широких прав доступа, защита коммерческой тайны, неправильная классификация документов и т. д.)
Обеспечивать прослеживаемость данных, процессов и решений, принятых в течение жизненного цикла системы ИИ.
Назначить лицо, ответственное за каждую предоставленную систему ИИ с точки зрения ее производительности, точности и влияния на результаты Группы.
Предоставить точную документацию для каждой системы ИИ, включая ее структуру и ограничения использования.
Выявлять риски, связанные с каждой системой ИИ, отслеживать их и реализовывать превентивные и корректирующие действия.
Разрабатывать системы ИИ, обеспечивающие устойчивое развитие за счет оптимизации использования ресурсов с целью сокращения выбросов углекислого газа.
Поощрять разнообразие коллективов, работающих над ИИ, с точки зрения профилей, навыков, опыта, наилучших гарантий против рисков предвзятости и этических рисков в целом.

НЕ ИСПОЛНЯТЬ: НЕ СЛЕДУЕТ

Каждый сотрудник не должен:

Внедрять или приобретать системы ИИ, использование которых противоречит этическим ценностям и принципам Группы или которые запрещены регламентами (ИИ, направленный на манипулирование или обман и т. д.).
Приобретать системы ИИ без предварительного страхования или требования гарантий от поставщика (договорных, сертификационных, оценки соответствия и т. д.) о соблюдении существующих норм (интеллектуальная собственность, конфиденциальность и т. д.)
Полностью полагаться на систему ИИ в процессе принятия решений, оказывающих существенное влияние на сотрудника (например, смена работы, повышение по службе и т. д.)
Повторно использовать результаты, предложенные системой ИИ, без предварительной проверки на наличие ошибок (протоколы совещаний, заметки для брифинга и т. д.)
Внедрять системы ИИ, которые угрожают риском распространения конфиденциальной или личной информации (например, данных геолокации и т. д.).