PANDUAN KODE ETIK KECERDASAN BUATAN (AI)

PANDUAN KODE ETIK KECERDASAN BUATAN (ARTIFICIAL INTELLIGENCE/AI) YANG BERTANGGUNG JAWAB DAN TERPERCAYA DI INDUSTRI TEKNOLOGI FINANSIAL

A. LATAR BELAKANG 1. Artificial Intelligence (AI) atau kecerdasan buatan merupakan kombinasi dari ilmu komputer, teknologi machine learning dan big data yang dikembangkan untuk menemukan pola, melakukan prediksi, dan memberikan solusi atas suatu masalah. 2. Seluruh industri khususnya sektor financial technology yang memiliki data dalam jumlah besar (big data ) telah memulai untuk melakukan transisi kepada proses bisnis yang berbasis data (data-driven) memanfaatkan AI dan Machine Learning. Transisi ini tentunya akan meningkatkan efisiensi dalam pelaksanaan proses bisnis dan kecepatan transaksi di sektor keuangan. Namun demikian, pemanfaatan AI akan memunculkan risiko baru yang mungkin belum pernah ditemukan sebelumnya (unprecedented risk) . 3. Dalam rangka mitigasi risiko dan mengoptimalkan AI di industri Fintech, diperlukan kerangka perilaku (code of conduct) yang dapat menjadi panduan bagi Penyelenggara Fintech dan pihak terkait untuk memastikan aplikasi berbasis AI yang dimanfaatkan telah memenuhi prinsip-prinsip beneficial , fair and accountable , transparent dan explicable , and robustness dan security . Prinsip dasar tersebut berdasarkan studi atas beberapa panduan yang berlaku global diantaranya OECD AI Principle dan National Institute of Standards and Technology AI Risk Management Framework. B. Prinsip Dasar Pedoman Perilaku Kecerdasan Buatan yang Bertanggungjawab dan Dapat Dipercaya (Responsible and Trustworthy Artificial Intelligence) Dalam memanfaatkan AI, Penyelenggara Fintech sebagai salah satu pionir dalam mengembangkan bisnis model berbasis AI berpedoman pada prinsip dasar yakni: 1. Berasaskan Pancasila Penyelenggara Fintech mengawal pengembangan dan pemanfaatan AI dalam operasional bisnisnya agar selaras dengan kepentingan nasional dan memiliki tanggung jawab etika yang berlandaskan nilai-nilai Pancasila. 2. Bermanfaat (beneficial) Dalam mengoptimalkan AI yang bermanfaat bagi manusia dan lingkungan, hal-hal yang harus diperhatikan diantaranya: Penyelenggara Fintech mengupayakan pengembangan dan pemanfaatan aplikasi berbasis AI dapat memberikan nilai tambah bagi operasional bisnis dan dapat memberikan meningkatkan kesejahteraan konsumen, meningkatkan kemampuan konsumen dalam mengambil keputusan, mengurangi ketidaksetaraan, meningkatkan inklusi keuangan, serta mendukung ekonomi berkelanjutan. .

Penyelenggara Fintech mengupayakan pengembangan dan pemanfaatan aplikasi berbasis AI dilakukan dengan mengacu kepada ketentuan yang berlaku, prinsip hak asasi manusia, keberagaman, dan perlindungan konsumen atau investor. 3. Wajar dan Akuntabel (fair and accountable) Pemanfaatan aplikasi berbasis AI yang wajar dan akuntabel berkaitan dengan validitas dan akurasi yang mempertimbangkan prinsip keadilan dan non-diskriminatif, dengan memperhatikan: Penyelenggara Fintech memastikan bahwa bisnis model dan aplikasi berbasis AI yang dikembangkan dan dimanfaatkan tidak menyebabkan kerugian kepada konsumen termasuk tidak melanggar privasi dan tidak menimbulkan diskriminasi yang diakibatkan oleh ketidaktahuan konsumen terkait pemrosesan AI ( blackbox) . Penyelenggara Fintech memiliki kerangka mitigasi risiko untuk memastikan bahwa algoritma, code , data input, dan seluruh instrument pendukung aplikasi berbasis AI dapat memiliki kontribusi yang relevan dan proporsional dengan tujuan yang ingin dicapai dengan pemanfaatan aplikasi berbasis AI dimaksud. Penyelenggara Fintech memastikan bahwa data yang dipergunakan dapat dipertanggungjawabkan, valid , merupakan data yang terkini, tidak mengandung bias, dan memenuhi ketentuan yang diatur dalam peraturan terkait perlindungan data pribadi khususnya ketentuan pemrosesan secara otomatis. Penyelenggara Fintech memastikan bahwa pemrosesan yang dilakukan oleh aplikasi berbasis AI dapat mendekati akurasi dengan standard yang tertinggi melalui serangkaian uji coba (testing) atas aplikasi dimaksud. Penyelenggara Fintech memastikan bahwa aplikasi berbasis AI yang dikembangkan sesuai dengan tujuan pemanfaatan pengembangan AI dimaksud, dimana penggunaannya harus sesuai dengan nilai, etika, dan ketentuan. Penyelenggara Fintech memiliki kerangka pertanggungjawaban atas output yang dihasilkan dari aplikasi berbasis AI untuk memberikan kepastian pertanggungjawaban kepada konsumen apabila terjadi hal-hal yang merugikan. 4. Transparan dan Dapat Dijelaskan (transparent and explicable) Penyelenggara Fintech dapat menjelaskan cara kerja pemrosesan AI kepada konsumen, mulai dari input sampai dengan output yang dihasilkan. Hal ini untuk meningkatkan transparansi pemrosesan aplikasi berbasis AI dan menentukan pertanggungjawaban para pihak, dengan memperhatikan: Penyelenggara Fintech memiliki pengetahuan dan kendali atas cara kerja pemrosesan aplikasi berbasis AI dalam batas-batas tertentu yang dapat dipertanggungjawabkan (human-on-the loop) .

Dalam rangka transparansi, Penyelenggara Fintech dapat menjelaskan cara kerja pemrosesan AI dengan mengacu pada penjelasan pengembang/pemilik/vendor AI dalam mencapai sebuah output, potensi risiko atau kerugian yang dapat dialami kosumen, serta langkah mitigasi yang telah dipersiapkan apabila terjadi kegagalan dalam pemrosesan. Penyelenggara Fintech mengupayakan bahwa konsumen mendapatkan penjelasan yang mudah dipahami terkait pemrosesan oleh aplikasi berbasis AI dengan dapat mengacu pada penjelasan dari pengembang/pemilik/vendor sistem AI sehingga konsumen memiliki pemahaman atas output yang dihasilkan oleh aplikasi berbasis AI dan dapat melakukan tindakan atas output dimaksud. Terkait dengan transparansi, Penyelenggara FinTech menerapkan kerangka manajemen risiko AI yang mencakup mekanisme yang dapat dilakukan oleh penyelenggara apabila terdapat output yang tidak akurat, level of responsibility berdasarkan pedoman yang ditetapkan oleh masing-masing penyelenggara, dan recovery mechanisms yang dilakukan apabila terjadi kesalahan pemrosesan. 5. Ketangguhan dan Keamanan (robustness and security) Penyelenggara Fintech memastikan ketangguhan dan keamanan aplikasi berbasis AI yang dimanfaatkan, diantaranya dengan memperhatikan: Penyelenggara Fintech memastikan bahwa aplikasi berbasis AI yang dimanfaatkan adalah aplikasi yang robust berdasarkan parameter yang ditetapkan masing- masing Penyelenggara sesuai dengan tujuan penggunaan dan bisnis modelnya. Penyelenggara Fintech memastikan bahwa aplikasi berbasis AI yang dipergunakan tidak rentan terhadap serangan siber dan memiliki mekanisme recovery apabila terjadi serangan siber. Penyelenggara Fintech memastikan bahwa aplikasi berbasis AI yang dipergunakan merupakan hasil pengembangan perusahaan atau expert yang memiliki kemampuan atau bersertifikasi di bidang AI. Penyelenggara Fintech mengupayakan bahwa aplikasi berbasis AI yang dipergunakan telah melalui serangkaian proses pengujian dan pembelajaran yang berkelanjutan untuk menguji ketangguhannya. Penyelenggara Fintech mengupayakan bahwa aplikasi berbasis AI yang dipergunakan telah melalui serangkaian pengujian dan validasi yang menyeluruh secara teratur dan berkala dalam bentuk testing baik dari sisi teknis pemrosesan atau sisi keamanannya, sehingga dapat meminimalisir kesalahan atau ketidakkonsistenan. Penyelenggara Fintech memiliki standar yang menunjukan tingkat validitas yang dapat diukur dan dapat diuji, sehingga dapat dipertanggungjawabkan kepada konsumen sebagaimana ketentuan yang berlaku.

C. Faktor-Faktor Pendukung Responsible and Trustworthy AI Beberapa faktor yang mendukung perkembangan Responsible and Trustworthy AI di

No.

PRINSIP DASAR

FAKTOR PENDUKUNG

Berasaskan Pancasila

Pemenuhan nilai keadilan, keterwakilan, dan keragaman. Prinsip etika yang berlaku. Peningkatan kesejahteraan pengguna Peningkatan kemampuan pengambilan keputusan. Peningkatan inklusi keuangan. pertumbuhan dan tidak merugikan Peningkatan yang inklusif dan berkelanjutan.

Bermanfaat

Wajar dan Akuntabel

Konsistensi

penggunaan

data, algoritma, dan kode pemrograman.

P Kesesuaian dan pengembangan model dan algoritma engembangan produk yang responsif

pembaruan teknologi dalam rangka

dan ramah pengguna

yang berkelanjutan untuk algoritma

Testing

(continual learning for

). algorithm Integritas dan privasi data. Pengumpulan kebutuhan pemrosesan Keandalan data melalui proses pembaruan data penggunaan pemulihan data Kesetaraan dan . Keterlibatan manajemen dalam pengambilan keputusan dan pihak ketiga lainnya yang terlibat. Skalabilitas infrastruktur pendukung, data, algoritma, dan model. Keterlibatan manusia (human-on-the- loop) Pengembangan model dan algoritma yang tidak bias. Interpretabilitas model dan algoritma. dan validasi model dan algoritma. Keterlibatan pengguna Mekanisme komunikasi kepada konsumen terkait pemanfaatan AI. Keterbukaan terkait aktivitas AI model, teknologi, data input, output, dam mekanisme pemrosesan dan kebijakan perlindungan konsumen pertanggungjawaban hukum. ertimbangan kepuasan data yang sesuai dengan ketentuan privasi dan . . data, kontrol akses data, pemisahan data, . Interpretabilitas (disclosure) diantaranya mencakup Mekanisme mekanisme P serta dan pengalaman pengguna.

dapat Dijelaskan Transparan dan

Ketangguhan dan Keamanan

Keamanan Data Kebijakan pengujian dan validasi Pengujian dan validasi model dan algoritma. Pengujian dan validasi infrastruktur pendukung AI. Pengujian dan validasi insiden dan risiko.

Keandalan pembaruan dan pemulihan model dan algoritma. Keandalan pembaruan dan pemulihan infrastruktur pendukung AI. Keandalan pembaruan dan pemulihan insiden dan risiko. terhadap hasil Pembaruan teknologi dalam mendukung ketangguhan dan keamanan emitraan dengan Kesetaraan akses pengujian dan validasi. . K penyedia teknologi dan pelaku industri.

Page 1 Page 2 Page 3 Page 4 Page 5

Made with FlippingBook - Share PDF online