Dalam rangka transparansi, Penyelenggara Fintech dapat menjelaskan cara kerja pemrosesan AI dengan mengacu pada penjelasan pengembang/pemilik/vendor AI dalam mencapai sebuah output, potensi risiko atau kerugian yang dapat dialami kosumen, serta langkah mitigasi yang telah dipersiapkan apabila terjadi kegagalan dalam pemrosesan. Penyelenggara Fintech mengupayakan bahwa konsumen mendapatkan penjelasan yang mudah dipahami terkait pemrosesan oleh aplikasi berbasis AI dengan dapat mengacu pada penjelasan dari pengembang/pemilik/vendor sistem AI sehingga konsumen memiliki pemahaman atas output yang dihasilkan oleh aplikasi berbasis AI dan dapat melakukan tindakan atas output dimaksud. Terkait dengan transparansi, Penyelenggara FinTech menerapkan kerangka manajemen risiko AI yang mencakup mekanisme yang dapat dilakukan oleh penyelenggara apabila terdapat output yang tidak akurat, level of responsibility berdasarkan pedoman yang ditetapkan oleh masing-masing penyelenggara, dan recovery mechanisms yang dilakukan apabila terjadi kesalahan pemrosesan. 5. Ketangguhan dan Keamanan (robustness and security) Penyelenggara Fintech memastikan ketangguhan dan keamanan aplikasi berbasis AI yang dimanfaatkan, diantaranya dengan memperhatikan: Penyelenggara Fintech memastikan bahwa aplikasi berbasis AI yang dimanfaatkan adalah aplikasi yang robust berdasarkan parameter yang ditetapkan masing- masing Penyelenggara sesuai dengan tujuan penggunaan dan bisnis modelnya. Penyelenggara Fintech memastikan bahwa aplikasi berbasis AI yang dipergunakan tidak rentan terhadap serangan siber dan memiliki mekanisme recovery apabila terjadi serangan siber. Penyelenggara Fintech memastikan bahwa aplikasi berbasis AI yang dipergunakan merupakan hasil pengembangan perusahaan atau expert yang memiliki kemampuan atau bersertifikasi di bidang AI. Penyelenggara Fintech mengupayakan bahwa aplikasi berbasis AI yang dipergunakan telah melalui serangkaian proses pengujian dan pembelajaran yang berkelanjutan untuk menguji ketangguhannya. Penyelenggara Fintech mengupayakan bahwa aplikasi berbasis AI yang dipergunakan telah melalui serangkaian pengujian dan validasi yang menyeluruh secara teratur dan berkala dalam bentuk testing baik dari sisi teknis pemrosesan atau sisi keamanannya, sehingga dapat meminimalisir kesalahan atau ketidakkonsistenan. Penyelenggara Fintech memiliki standar yang menunjukan tingkat validitas yang dapat diukur dan dapat diuji, sehingga dapat dipertanggungjawabkan kepada konsumen sebagaimana ketentuan yang berlaku.
4
Made with FlippingBook - Share PDF online