Beyond Infinity
OJK telah merespons risiko tersebut melalui POJK No. 11/ POJK.03/2022 dan SEOJK No. 29/SEOJK.03/2022 tentang ketahanan dan keamanan siber bagi bank umum, yang menempatkan keamanan siber sebagai bagian penting dari tata kelola teknologi informasi (Otoritas Jasa Keuangan, 2022a, 2022b).
Perbedaan Kara k ter Risiko Opera sio nal dan Risiko AI
Risiko Opera sio nal
Risiko AI
Kesalahan manusi a (human error)
Bias algoritm a (algorithmic bias)
Risiko AI
Kegagalan siste m (system failure)
Pergeseran mode l (model drift)
Risiko AI umumnya muncul dari karakteristik model AI itu sendiri. Kemungkinan Bias informasi dapat terjadi ketika data tidak cukup representatif, sehingga keputusan yang diambil, misalnya dalam penilaian kredit, berpotensi menjadi diskriminatif atau salah. Kesalahan algoritma juga dapat berdampak luas mengingat keputusan dapat diproses dalam skala besar dan dalam waktu yang sangat cepat. Persoalan lain yang tidak kalah penting adalah terkait penjelasan atau dasar AI dalam memberikan rekomendasi yang bias tersebut. Ketika model kecerdasan artifisial (AI) beroperasi sebagai black box, proses pengambilan keputusan di dalam model menjadi sulit dipahami dan dijelaskan. Akibatnya, manajemen, auditor, maupun regulator menghadapi kendala dalam menilai dasar keputusan yang dihasilkan, menguji keandalan model, serta memastikan akuntabilitas atas hasil yang diberikan. Terkait hal tersebut, Bussmann et al. (2021) menunjukkan bahwa teknik machine learning yang dapat dijelaskan menjadi penting agar keputusan kredit tetap dapat diaudit dan dipertanggungjawabkan. Perhatian terhadap risiko tersebut juga terlihat dalam perkembangan regulasi global. Uni Eropa melalui Regulation (EU) 2024/1689 menggolongkan sistem AI untuk penilaian kelayakan kredit sebagai sistem berisiko tinggi. Sistem tersebut diwajibkan memiliki tata kelola data dan mitigasi bias, dokumentasi teknis, serta pengawasan manusia (European Union, 2024). Sementara itu, National Institute of Standards and Technology (2023) mengembangkan AI Risk Management Framework yang menekankan fungsi govern, map, measure, dan manage sebagai dasar pengelolaan risiko AI secara berkelanjutan. Namun, tantangannya terus berkembang. AI generatif, misalnya, menambah lapisan risiko baru melalui potensi fraud, halusinasi keluaran, dan disinformasi (Financial Stability Board, 2024).
Fraud
Keluaran keliru atau halusinasi (hallucination)
Gangguan T I (IT disru p tion)
Kegagalan eksplainabilitas (e xp lainability failure)
Sumber : diolah dari National Institute of Standards and Technology (2023) dan Financial Stability Board (2024).
Risiko P i ha k Ket i ga
Adopsi AI dan layanan digital meningkatkan ketergantungan bank pada pihak ketiga, mulai dari penyedia komputasi awan, mitra fintech, hingga ekosistem antarmuka pemrograman aplikasi (API). Financial Stability Board (2023), Melalui kerangka manajemen risiko pihak ketiga, regulator menekankan bahwa konsentrasi penggunaan layanan pada segelintir penyedia jasa kritikal dapat meningkatkan risiko konsentrasi dan menciptakan titik kegagalan tunggal (single point of failure), sehingga gangguan pada satu penyedia dapat menyebar ke berbagai institusi keuangan dan mengancam stabilitas sistem keuangan secara keseluruhan. International Monetary Fund (2024) menambahkan bahwa semakin tinggi ketergantungan bank pada penyedia teknologi yang sama dapat meningkatkan risiko bank yang juga tinggi. D alam ekosistem open banking berbasis API, titik akses ke sistem bank menjadi semakin banyak karena bank terhubung dengan berbagai pihak ketiga, seperti fintech, penyedia teknologi, dan mitra digital lainnya. Kondisi ini memperluas potensi serangan siber dan membuat sebagian risiko operasional, keamanan data, serta kepatuhan berada di luar kendali langsung bank. Memperhatikan dampak tersebut, manajemen risiko tidak cukup hanya berfokus pada sistem internal bank, tetapi juga harus mencakup pengawasan, pengujian, dan pengendalian risiko terhadap seluruh pihak ketiga yang terhubung dalam ekosistem digital tersebut. Kual i ta s Pengung k apan Risiko Ketiga rumpun risiko tersebut hanya dapat dikelola dan diawasi secara efektif apabila bank mengungkapkan informasi risikonya secara memadai. Kualitas pengungkapan risiko tidak hanya dilihat dari ada atau tidaknya informasi, tetapi juga dari kelengkapan, kedalaman analisis, dan keterbandingan antarperiode maupun antarbank. Semakin baik kualitas pengungkapan tersebut, semakin besar kemampuan pasar, investor, auditor, dan pengawas untuk menilai eksposur risiko bank secara akurat. Grassa et al. (2021) dan Mukhibad et al. (2022) menunjukkan bahwa tata kelola yang kuat dapat meningkatkan kualitas pengungkapan risiko. Namun, pengungkapan atas risiko AI, siber, dan pihak ketiga masih belum sepenuhnya baku dan terukur.
Mengapa Risiko AI Bu k an Se k adar Risiko Opera sio nal?
Risiko operasional umumnya bersumber dari kesalahan manusia, kegagalan sistem, fraud, dan gangguan teknologi yang sifatnya statis dan dapat dipetakan. Risiko AI bersumber dari model yang dapat berubah sendiri seiring munculnya data baru, sehingga sebuah model yang semula akurat dapat menyimpang tanpa ada kerusakan sistem yang kasatmata.
08 Beyond Infinity Juni 2026
Made with FlippingBook Digital Proposal Creator