Prinsip etis untuk penggunaan Kecerdasan Buatan yang tepercaya

Transformasi digital yang secara khusus didorong oleh Kecerdasan Buatan (AI), berdampak terhadap kehidupan sehari-hari kita serta lingkungan kerja kita. Kita perlu menerapkan kerangka kerja yang etis untuk AI dalam rangka menerapkan pendekatan yang bertanggung jawab

Grup Michelin ingin menggunakan Kecerdasan Buatan demi dapat mengikuti pendekatan “Keberlangsungan Menyeluruh”: People x Profit x Planet.

Definisi

AI umumnya dipahami melalui penerapan konkret dalam sistem AI, akan disebut “AI” atau “sistem AI”.

"Sistem AI" ditetapkan oleh Regulasi Eropa tanggal 13 Juni 2024, sebagai "sistem otomatisasi yang dirancang untuk beroperasi dalam berbagai level otonomi dan dapat menunjukkan kemampuan adaptasi setelah dikerahkan, dan yang untuk tujuan eksplisit maupun implisit, mendeduksi dari input yang ia terima, cara menghasilkan output berupa prediksi, konten, rekomendasi, atau Keputusan yang dapat memengaruhi lingkungan fisik atau virtual ".

AI mencakup beberapa teknologi dan bidang penerapan yang didasarkan pada model atau algoritma

Contoh:

AI Generatif: pembuatan konten (teks, gambar, video, suara, dsb.) berdasarkan prompt;
AI Prediksi: prediksi suatu hasil berdasarkan riwayat;
AI pengenalan dan klasifikasi: pengenalan objek visual, klasifikasi gambar, deteksi perilaku anomali, dsb..

Konteks

Peluang

AI telah mengalami perkembangan yang signifikan dalam beberapa tahun terakhir (algoritma kompleks, AI generatif berbasis model bahasa yang luas) dan mengubah cara perusahaan menggunakan data. Ada banyak penerapan penggunaan AI di berbagai bidang (transportasi, kesehatan, pemasaran, layanan masyarakat, dsb.).

AI memang menghadirkan banyak peluang baru untuk perusahaan (seperti, produk dan layanan yang inovatif, peningkatan produktivitas, deteksi ketidaksesuaian, dsb.) dan Masyarakat (bantuan pengambilan keputusan, peningkatan kesejahteraan di tempat kerja, inklusi orang-orang dengan disabilitas, dsb.).

Michelin memiliki tradisi yang panjang dalam hal inovasi, lingkungan, dan komitmen sosial, dan berniat untuk terus menjalankan peran besar dalam masa depan yang lebih berkelanjutan untuk semua.

Risiko

Di balik berbagai peluang yang dihadirkan, AI juga membawa potensi risiko yang sudah atau diprediksi akan terjadi, di level Perusahaan serta Masyarakat lewat:

Perancangan dan pelatihan modelnya: terdapat kemungkinan bias dalam pelatihan set data AI yang dapat memicu kasus-kasus diskriminasi, rendahnya kualitas data, dan/atau polusi, hilangnya kerahasiaan data pribadi, dsb.
Penggunaannya: transparansi fungsi sistem AI, ketidakstabilan kinerjanya (mis. Halusinasi), dampak pada Kesehatan dan kesejahteraan di tempat kerja bagi orang-orang yang menggunakan sistem AI, rasa percaya pada sistem tanpa ada bias reflektif yang kritis, hilangnya kebebasan berkehendak dan kendali, persebaran data yang dilindungi rahasia dagang atau hak kekayaan intelektual, pelanggaran undang-undang kompetisi, dsb.
Masalah sosial dan lingkungan: deepfake, manipulasi populasi dengan menyebarkan informasi yang tidak benar, penggunaan sistem AI untuk pengawasan massal atas populasi melalui kamera pintar, transformasi mendasar terhadap profesi tertentu, teknologi yang intensif energi, dsb.

Usaha Bersama oleh tokoh publik dan swasta diperlukan guna memastikan tepercayanya sistem AI.

Kerangka Kerja

Tantangan nyatanya adalah untuk menemukan jalan tengah dalam menggunakan sistem AI dengan nilai-nilai Grup, sambil tetap memastikan kepatuhan terhadap peraturan yang berlaku.

Michelin ingin mengantisipasi dan mengendalikan risiko yang disebabkan oleh pengembangan dan peluncuran sistem AI dalam Grup, dan untuk memastikan inovasi yang didorong oleh sistem AI ini akan selaras dengan nilai-nilai kita.

Jalan Tengah ini adalah sine qua non untuk menciptakan lingkungan yang memberi semua orang jalan yang lebih baik untuk terus maju.

Prinsip

Guna memastikan sistem AI yang digunakan dengan cara yang menciptakan nilai serta rasa percaya, Michelin berkomitmen untuk menggunakan dan mengembangkan sistem AI sesuai dengan tiga prinsip mendasar.

Tiga prinsip ini sesuai dengan komitmen Grup khususnya mengenai lingkungan dan keamanan sistem informasi.

Prinsip-prinsip ini dirancang untuk berkembang seiring dengan berjalannya waktu agar dapat mempertimbangkan perubahan peraturan, kemajuan teknologi, analisis dampak, selain ekspektasi para karyawan dan pemangku kepentingan di Grup.

Prinsip 1: AI Berpusat pada manusia

Sistem AI harus dirancang dan digunakan dengan tujuan melayani manusia dan menghormati hak-hak mendasar serta kebebasan manusia (martabat, tekad, privasi, kesetaraan, non-diskriminasi, dsb.).

Demi memenuhi hal tersebut, Grup mengandalkan elemen berikut:

Pengawasan manusia: setiap sistem AI harus dirancang dan digunakan dengan Tingkat penilaian dan pengawasan manusia yang memadai (misalnya melarang Keputusan yang kemungkinan besar akan memberikan dampak signifikan terhadap seseorang, misalnya pemecatan, promosi, dsb. yang didasarkan hanya pada keputusan yang dibuat dengan sistem AI).

Menjaga Kesehatan dan kesejahteraan karyawan: Sistem AI yang kami rancang dan gunakan harus dapat diandalkan, aman, dan terjaga sepanjang siklus pemakaiannya, dapat memenuhi tujuan yang ditetapkan, dan tidak menimbulkan risiko yang tidak dapat diterima bagi masyarakat, khususnya terhadap Kesehatan dan kesejahteraan mereka (tidak ada otonomi, ketidakberdayaan, salah menerima informasi, dsb.).
Melindungi data pribadi: AI berpusat pada manusia juga dapat mengendalikan akses ke data pribadi dalam rangka mencegah kebocoran privasi atau hilangnya kerahasiaan data dan memastikan kualitas, integritas, dan relevansi data dalam tujuan pemrosesan data tersebut.
Non-diskriminasi dan kesetaraan: Sistem AI yang kami kerahkan atau adakan harus dikonfigurasikan dengan benar dan proporsional guna menghindari bias, diskriminasi, atau menghasilkan stereotip.
Kesadaran dan pelatihan: Kesadaran akan masalah yang terkait dengan pengembangan dan penggunaan AI yang bertanggung jawab sangat penting. Pengembangan keahlian dan jenjang karier karyawan harus didukung untuk dapat mengembangkan rasa percaya terhadap teknologi ini, agar dengan merata menyebarkan keuntungan penggunaan AI dalam Michelin, tetapi juga tetap membiarkan semua orang melindungi diri dari risiko yang muncul akibat AI, seperti rasa percaya berlebih terhadap konten yang dihasilkan sistem AI, menumpulnya keahlian utama, dsb.).

Dengan mengintegrasikan penggunaan AI dalam Grup, Michelin berkomitmen untuk menjaga kesejahteraan individu melalui organisasi yang adaptif dan penilaian terhadap berbagai dampak negatif teknologi ini.

Prinsip 2: AI yang transparan dan dapat dijelaskan

Michelin Group memberikan pelatihan guna memastikan para pengguna Solusi AI sudah memiliki pengetahuan mendasar, seperti pemahaman akan fungsi-fungsi dasar AI, penerapannya secara aktual, serta berbagai pertimbangan etis yang perlu direnungkan.

Untuk tim operasional dan teknis, pelatihan dirancang untuk tiap peran dan tanggung jawab karyawan agar sistem AI apa pun yang dikembangkan atau digunakan dalam Grup sudah cukup transparan dan dapat dijelaskan untuk memastikan adanya rasa percaya.

Transparan berarti:

Memberikan lembar penjelasan atas sistem dukungan Keputusan AI untuk menjelaskan kerangka kerja dan batasannya dalam penggunaan secara spesifik;
Memastikan orang yang menggunakan AI sudah memiliki informasi yang memadai agar dia dapat mengidentifikasi kemungkinan adanya bias atau kesalahan, dan dapat mengambil Keputusan yang bertanggung jawab;
Menginformasikan orang-orang dengan format yang tepat saat mereka berinteraksi dengan sistem AI, terpapar dengan sistem tersebut, atau terpapar konten buatan AI tertentu.

Dapat dijelaskan berarti:

Cara sistem AI menghasilkan suatu hasil dapat dijelaskan a posteriori atau secara real-time tergantung pada konteks;
Mengajukan sistem AI yang hasilnya dapat dipahami (setidaknya dapat diinterpretasi) dan dapat direka ulang.
Memprioritaskan sistem AI yang memiliki kemampuan untuk memahami cara kerja sistem AI, dengan catatan penjelas. Tingkat penjelasan harus bergantung pada konteks dan keparahan konsekuensi apabila hasilnya salah atau tidak tepat (misalnya, proposal untuk itinerari wisata buatan chatbot dengan aplikasi ViaMichelin memiliki dampak yang lebih rendah dibandingkan dengan prognosis medis yang vital).

Transparansi dan kejelasan harus mempertimbangkan prasyarat lain, khususnya dalam hal kekayaan intelektual, dan/atau perlindungan terhadap pembajakan, dsb.

Prinsip 3: Akuntabilitas

Michelin berkomitmen untuk memastikan sistem AI yang dikembangkan dan digunakan berfungsi sebagaimana mestinya, dan untuk menerapkan pengaturan yang tepat untuk mengawasi dan mengelola penggunaan AI di Grup.

Pengaturan ini memastikan risiko yang teridentifikasi sudah diketahui dan terkendali, dan sistem AI mematuhi prinsip-prinsip etis Grup.

Khususnya, saat mengembangkan sistem AI, Michelin berkomitmen untuk:

Melakukan tes guna meningkatkan kualitas hasil (misalnya, pengawasan manusia selama fase pembelajaran, dsb.);
Memverifikasi dan mendemonstrasikan bahwa tindak pencegahan yang telah diterapkan berhasil mengurangi risiko potensial hingga level yang dapat diterima;
Mempertimbangkan perbedaan budaya, bahasa, dan keragaman dalam tim;
Memverifikasikan bahwa sistem berfungsi secara efektif dan sesuai dengan tujuannya (indikator keberhasilan, dsb.);
Memastikan bahwa sistem-sistem ini memiliki kepatuhan hukum dengan Tingkat yang memadai, berdaya tahan, dan aman, dsb. (misalnya. Demonstrasi kepatuhan, kepatuhan dengan standar, dsb.).

Saat Michelin menggunakan sistem AI, Michelin mempercayakan pengawasannya kepada personel yang bertanggung jawab dan memiliki keahlian yang diperlukan, sudah menjalani pelatihan yang memadai, dan memiliki otoritas untuk memastikan kepatuhan dengan prinsip-prinsip etis Grup serta peraturan yang berlaku.

Michelin juga berkomitmen untuk memeriksa, apabila memungkinkan, adanya dilema etika dan pertukaran dengan kerangka kerja lintas-fungsi dan pengaturan yang memadai.

ANJURAN : SAYA HARUS

Tiap karyawan harus berkontribusi dalam mematuhi tiga prinsip yang disebutkan di atas, dan harus:

Mengikuti kursus pelatihan wajib yang ditetapkan oleh Grup
Mematuhi syarat penggunaan, aturan, dan proses yang ditetapkan saat menyiapkan alat AI baru
Menggunakan sistem AI yang disediakan Michelin secara relevan dan beralasan (mengajukan pertanyaan "mengapa" untuk penelusuran, misalnya nilai tambah dari jawaban AI jika dibandingkan dengan Solusi tanpa AI dari pertanyaan “untuk siapa”, keuntungan yang diharapkan dari karyawan atau mitra eksternal lain Grup (misalnya, pelanggan, pemasok), dsb.).

Persyaratan spesifik berlaku untuk tiap karyawan, bergantung pada peran dan tanggung jawab masing-masing dalam pengembangan atau pengadaan sistem AI:

Memberikan sistem AI yang transparan, dapat diverifikasi, dan dapat dijelaskan guna membantu pengguna sistem AI tersebut mengambil Keputusan dengan informasi yang memadai (catatan penjelas, dsb.) dan dengan memastikan keputusan yang dapat dilacak.
Memberikan sistem AI yang serbaguna agar dapat berfungsi dengan semestinya untuk tujuan pembuatan AI tersebut.
Menerapkan sistem AI yang aman, yang memastikan keamanan dan kerahasiaan data sepanjang siklus pemakaiannya, dengan mempertimbangkan risiko bahwa AI dapat menonjolkan (diseminasi data akibat hal akses yang terlalu bebas, perlindungan rahasia dagang, kesalahan klasifikasi dokumen, dsb.)
Memastikan data, proses, dan keputusan yang dihasilkan dapat dilacak sepanjang siklus pemakaian sistem AI.
Menunjuk satu orang sebagai penanggung jawab tiap sistem AI yang tersedia untuk kinerja, akurasi, dan dampaknya terhadap hasil Grup.
Memberikan dokumentasi yang akurat untuk tiap sistem AI, termasuk kerangka kerjanya dan Batasan penggunaannya.
Mengidentifikasi risiko terkait tiap sistem AI, mengawasinya, dan menerapkan tindakan pencegahan serta perbaikan.
Merancang sistem AI yang ramah lingkungan dengan mengoptimalkan penggunaan sumber daya agar mengurangi jejak karbon.
Mengedepankan keberagaman dalam tim yang mengerjakan AI dalam hal profil, keahlian, pengalaman, sebagai penjamin terbaik terhadap risiko adanya bias secara umum.

LARANGAN: SAYA TIDAK BOLEH

Tiap karyawan tidak boleh:

Menerapkan atau mengadakan sistem AI yang kasus penggunaannya bertentangan dengan nilai dan prinsip etis Grup atau dilarang oleh peraturan (AI yang ditujukan untuk memanipulasi atau mengelabui, dsb.).
Mengadakan sistem AI tanpa terlebih dahulu memastikan, atau meminta jaminan (secara kontrak, sertifikasi, penilaian kesepahaman, dsb.) dari pemasok mengenai kepatuhan terhadap peraturan yang berlaku (kekayaan intelektual, kerahasiaan, dsb.).
Mengandalkan sistem AI sepenuhnya dalam proses pengambilan keputusan yang secara signifikan berdampak terhadap karyawan (misalnya, perubahan pekerjaan, promosi, dsb.)
Menggunakan ulang hasil yang dihasilkan sistem AI tanpa sebelumnya memeriksa adanya kesalahan (catatan rapat, catatan pengarahan, dsb.)
Menerapkan sistem AI yang memiliki risiko menyebarkan informasi rahasia atau pribadi (misalnya. Data geolokasi, dsb.).