Kita hidup di zaman di mana kecerdasan buatan semakin menjadi bagian penting dari berbagai aspek kehidupan kita, ISO (International Organization for Standardization) dan IEC (international electrotechnical commission) bekerja bersama untuk menciptakan sistem yang menetapkan standar global, yang dikenal sebagai ISO/IEC 42001:2023.
Tujuan dari standar ini adalah untuk membantu organisasi dalam menjalankan tugas mereka dengan tanggung jawab terkait penggunaan, pengembangan, pemantauan, atau penyediaan produk atau layanan yang menggunakan Artifical Intelligence (AI).
Apa itu ISO/IEC 42001:2023?
ISO/IEC 42001:2023 adalah sebuah standar internasional yang memberikan panduan tentang bagaimana mengelola sistem kecerdasan buatan atau Artificial Intelligence (AI). Dokumen ini mencakup prinsip-prinsip dan praktik terbaik yang dapat membantu organisasi dalam memanfaatkan serta mengembangkan teknologi kecerdasan buatan secara efisien, efektif, dan etis.
Teknologi kecerdasan buatan (AI) memiliki kemampuan untuk terus belajar dan mengubah perilakunya selama digunakan. Oleh karena itu, diperlukan pertimbangan khusus agar penggunaannya yang bertanggung jawab tetap terjaga seiring dengan perubahan perilaku tersebut.
Dalam ISO/IEC 42001:2023, sebuah sistem manajemen AI atau Artificial Intelligence Management System (AIMS) merujuk pada serangkaian proses, kebijakan, prosedur, dan praktik yang dibuat untuk mengatur, mengawasi, dan meningkatkan penggunaan AI dalam suatu organisasi.
Sistem ini bertujuan untuk memastikan bahwa penggunaan teknologi AI sesuai dengan tujuan bisnis, kebutuhan pengguna, dan nilai-nilai perusahaan.
Lebih Dalam Mengenai ISO/IEC 42001
Meningkatnya penggunaan Kecerdasan Buatan (AI) di berbagai sektor teknologi informasi diprediksi akan menjadi salah satu faktor utama dalam mendorong pertumbuhan ekonomi. Dampak dari tren ini adalah kemungkinan timbulnya tantangan sosial dalam beberapa tahun mendatang karena penggunaan aplikasi yang semakin meluas.
Dokumen ini bertujuan untuk mendukung organisasi dalam menjalankan peran mereka dengan tanggung jawab terkait penggunaan, pengembangan, pemantauan, atau penyediaan produk atau layanan yang menggunakan kecerdasan buatan. Penggunaan kecerdasan buatan berpotensi memunculkan pertimbangan khusus seperti:
- Penggunaan Artificial Intelligence (AI) untuk pengambilan keputusan otomatis, terkadang dilakukan secara tidak transparan dan tidak dapat dijelaskan, dapat memerlukan pengelolaan khusus yang melebihi pengelolaan sistem IT klasik.
- Penggunaan analisis data, wawasan, dan pembelajaran mesin, daripada logika yang dikodekan oleh manusia untuk merancang sistem, tidak hanya meningkatkan peluang aplikasi bagi sistem Artificial Intelligence (AI), tetapi juga mengubah cara pengembangan, pembenaran, dan implementasi sistem tersebut.
- Sistem kecerdasan buatan (AI) yang melakukan pembelajaran berkelanjutan mengubah perilakunya selama penggunaan. Mereka memerlukan pertimbangan khusus agar penggunaannya yang bertanggung jawab tetap berlanjut seiring perubahan perilaku tersebut.
Sistem manajemen AI memberikan persyaratan untuk menetapkan, menerapkan, menjaga, dan terus meningkatkan sistem pengelolaan AI dalam konteks sebuah organisasi. Organisasi diharapkan memfokuskan penerapan persyaratan pada fitur-fitur yang unik dari AI.
Beberapa fitur dari AI, seperti kemampuannya untuk terus belajar dan meningkat, atau kurangnya transparansi atau kemampuan untuk dijelaskan, dapat memerlukan perlindungan yang berbeda jika menimbulkan kekhawatiran dibandingkan dengan cara tradisional dalam melakukan tugas tersebut.
Penerapan sistem pengelolaan AI untuk memperluas struktur manajemen yang ada merupakan keputusan strategis bagi sebuah organisasi.
Kebutuhan dan tujuan organisasi, proses, ukuran, dan struktur serta harapan dari berbagai pihak yang berkepentingan memengaruhi pembentukan dan pelaksanaan sistem pengelolaan AI.
Sekumpulan faktor lain yang memengaruhi pembentukan dan pelaksanaan sistem pengelolaan AI adalah banyaknya kasus penggunaan AI dan kebutuhan untuk mencapai keseimbangan yang tepat antara mekanisme pengaturan dan inovasi.
Organisasi dapat memilih untuk menerapkan persyaratan ini menggunakan pendekatan berbasis risiko untuk memastikan bahwa tingkat kontrol yang sesuai diterapkan untuk kasus penggunaan AI tertentu, layanan, atau produk dalam cakupan organisasi.
Semua faktor yang memengaruhi ini diharapkan berubah dan diperiksa secara berkala.
- Penentuan tujuan organisasi, keterlibatan pihak yang berkepentingan, dan kebijakan organisasi.
- Pengelolaan risiko dan peluang.
- Proses untuk mengelola kekhawatiran terkait keandalan sistem kecerdasan buatan seperti keamanan, keselamatan, keadilan, transparansi, kualitas data, dan kualitas sistem kecerdasan buatan sepanjang siklus hidupnya.
- Proses untuk mengelola pemasok, mitra, dan pihak ketiga yang menyediakan atau mengembangkan sistem kecerdasan buatan untuk organisasi.
Dokumen ini memberikan pedoman untuk penerapan kontrol yang relevan untuk mendukung proses-proses tersebut.
Penyesuaian dengan standar sistem manajemen lainnya.
Standar ini menggunakan struktur yang diselaraskan (nomor klausa yang identik, judul klausa, teks, dan istilah umum serta definisi inti) yang dikembangkan untuk meningkatkan keselarasan di antara Management System Standars (MSS).
Sistem manajemen AI memberikan persyaratan khusus untuk mengelola masalah dan risiko yang muncul dari penggunaan AI di sebuah organisasi.
Pendekatan yang umum ini memudahkan implementasi dan konsistensi dengan standar sistem manajemen lainnya, misalnya terkait dengan kualitas, keselamatan, keamanan, dan privasi.
Standar ini telah menggunakan High Level Structure (HLS), dengan ketentuan sebagai berikut:
1. Ruang Lingkup
2. Referensi normatif
3. Istilah dan definisi
4. Konteks organisasi
4.1. Memahami organisasi dan konteksnya
4.2. Memahami kebutuhan dan harapan pihak-pihak yang
berkepentingan
4.3. Menentukan cakupan sistem manajemen AI
4.4. Sistem manajemen AI
5. Kepemimpinan
5.1. Kepemimpinan dan komitmen
5.2. Kebijakan AI
5.3. Peran, tanggung jawab, dan wewenang
6. Perencanaan
6.1. Tindakan untuk mengatasi risiko dan peluang
6.2. Tujuan AI dan perencanaan untuk mencapainya
6.3. Perencanaan perubahan
7. Dukungan
7.1. Sumber daya
7.2. Kompetensi
7.3. Kesadaran
7.4. Komunikasi
7.5. Informasi yang didokumentasikan
8. Operasi
8.1. Perencanaan dan pengendalian operasional
8.2. Penilaian risiko AI
8.3. Perlakuan terhadap risiko AI
8.4. Penilaian dampak sistem AI
9. Evaluasi kinerja
9.1. Pemantauan, pengukuran, analisis, dan evaluasi
9.2. Audit internal
9.3. Tinjauan manajemen
10. Peningkatan
10.1. Peningkatan berkelanjutan
10.2. Ketidaksesuaian dan tindakan perbaikan
Annex A Referensi tujuan dan kontrol pengendalian
A.1 Umum
Lampiran B Panduan implementasi untuk kontrol AI
B.1. Umum
B.2. Kebijakan yang terkait dengan AI
B.3. Organisasi internal
B.4. Sumber daya untuk sistem AI
B.5. Menilai dampak dari sistem AI
B.6. Siklus hidup sistem AI
B.7. Data untuk sistem AI
B.8. Informasi untuk pihak yang berkepentingan
B.9. Penggunaan sistem AI
B.10. Hubungan dengan pihak ketiga dan pelanggan
Lampiran C Potensi tujuan organisasi terkait AI dan sumber risiko
C.1. Umum
C.2. Tujuan
C.3. Sumber risiko
Lampiran D Penggunaan sistem manajemen AI di seluruh sektor
D.1. Umum
D.2. Integrasi sistem manajemen AI dengan standar
sistem manajemen lainnya
Referensi Artikel :