Manfaat dan Tantangan Pengawasan Autonomous Finance
Adopsi teknologi keuangan otonom memberikan setidaknya empat manfaat utama bagi lembaga keuangan. Pertama, meningkatkan efisiensi waktu dalam penilaian aplikasi kredit dan klaim asuransi. Kedua, meningkatkan efisiensi biaya karena mengurangi jumlah staf untuk menangani permintaan konsumen. Ketiga, meningkatkan pelayanan konsumen dengan mengidentifikasi tren pasar dan mengantisipasi kebutuhan konsumen, serta meningkatkan akses pada produk dan jasa keuangan inovatif, misalnya robo-advisors . Keempat, meningkatkan manajemen risiko dan kepatuhan pada peraturan (Davidovic dan Tourpe, 2026). N amun demikian, regulator sektor keuangan menghadapi beberapa tantangan utama akibat kompleksnya sistem keuangan otonom. Pertama, sifat probabilistik model AI yang adaptif berpotensi bertentangan dengan aturan deterministik dan penyelesaian hukum yang disyaratkan oleh infrastruktur keuangan (Davidovic dan Tourpe, 2026) . Kedua, keuangan otonom dapat meningkatkan kerentanan makroprudensial. Karena banyak agen AI yang menggunakan pemrograman yang serupa, adanya synchronous actions dapat memicu algorithmic herding dan procyclicality (Bank of England, 202 3 ), yang dapat menyebabkan liquidity shocks dan meningkatkan volatilitas pasar (Aldasoro et al., 202 4 ), serta terganggunya sistem pembayaran (Crisanto et al., 202 4 ). Di satu sisi, meningkatnya interkonektivitas antarperusahaan penyedia AI (pihak ketiga) yang sangat terkonsentrasi dapat mengakibatkan risiko sistemik jika pihak ketiga tersebut mengalami serangan siber atau kegagalan operasional, yang dapat memengaruhi berbagai lapisan lembaga keuangan dan pasar secara simultan. Di sisi lain, cepatnya evolusi AI dan keterbatasan dalam menjelaskan dan memahami model AI yang kompleks menimbulkan tantangan tersendiri dalam manajemen risiko sistemik (Davidson dan Tourpe, 2026 ; OECD, 2026). Ketiga, tujuan. Mendelegasikan tujuan yang bersifat umum kepada agen AI tanpa adanya otorisasi manusia pada level transaksi dapat berpotensi menyebabkan instruction gap , di mana agen AI dapat melakukan kesalahan interpretasi maksud, melenceng dari tujuan, atau bahkan agen AI lebih mengoptimasi pendapatan penyedia dibandingkan konsumen (Davidson dan Tourpe, 2026). tantangan dalam penyelarasan Keempat, model pengawasan "human-in-the-loop" relatif sulit untuk didefinisikan dan dioperasionalkan secara praktis pada beragam alur kerja keuangan. Selain itu, human accountability terancam oleh automation bias , yakni kecenderungan operator untuk bergantung penuh atau memercayai hasil otomasi tanpa melakukan verifikasi independen yang memadai atas keputusan mesin (OECD, 2026 ; Parasuraman dan Man z ey, 20 1 0) . Kelima, ambiguitas aturan, identitas dan alokasi tanggung jawab. Ketika model AI memicu kesalahan fatal atau mengalami “ halusinasi ” , maka memetakan rantai tanggung jawab menjadi persoalan yang rumit bagi regulator (OECD, 2026). Isu ini memunculkan pertanyaan baru seputar otentikasi, akuntabilitas, dan kepatuhan dalam sistem pembayaran yang dirancang untuk aktor manusia (Acharya, 202 5 ).
Terakhir, tantangan keamanan siber dan batasan kapasitas pengawasan. Integrasi API multi-sistem secara signifikan memperluas cakupan serangan keamanan siber dalam memicu serangan injeksi, manipulasi model, dan potensi kebocoran data kredensial (Davidson dan Tourpe, 2026). Sementara itu, regulator menghadapi kesenjangan data, definisi dan standar yang belum seragam, dan kekurangan keahlian teknis yang terspesialisasi, yang dibutuhkan untuk mengawasi arsitektur AI yang kompleks. Selain itu, keterbatasan jangkauan pengawasan regulator pada model pihak ketiga yang sifatnya eksklusif dapat menghambat pengawasan atas risiko sistemik yang berpotensi muncul (OECD, 2026). Dalam hal ini, regulator sektor keuangan menghadapi masalah informasi asimetris yang bersumber dari ketidakjelasan intrinsik, karena model-model AI yang canggih bekerja seperti black boxes. Akibatnya, regulator sektor keuangan menghadapi blind spots dalam memantau ketahanan operasional pasar keuangan, konsentrasi pasar, dan risiko sistemik lainnya. Kerangka Manajemen Risiko Model dalam Era Autonomous Finance: Perspektif Global Berkembangnya keuangan otonom secara signifikan mengubah lanskap Manajemen Risiko Model (Model Risk Management-MRM). Mengingat model keuangan otonom telah beralih dari sekadar alat pendukung keputusan yang pasif menjadi eksekutor aktif, maka regulator juga perlu segera memodernisasi kerangka kerja MRM di sektor keuangan. Model keuangan otonom memerlukan pengawasan berkelanjutan dan real time untuk menangani kode yang berevolusi secara mandiri, sifat black-box AI yang sulit dipahami, serta siklus umpan balik instan yang dapat memicu pergeseran data (data drift) secara cepat. Otoritas sektor keuangan di berbagai negara secara berkelanjutan telah menyesuaikan kerangka MRM di negara masing-masing dalam merespons perkembangan keuangan otonom. Secara umum, kerangka MRM terbaru tersebut mengatur risiko yang proporsional di sepanjang siklus hidup model, transparansi, explainability, akuntabilitas, pengawasan kerentanan black box secara berkelanjutan, batasan otonomi model, dan persetujuan manusia (human approval). Beberapa intisari kerangka MRM di European Union, Inggris, Amerika Serikat, Swiss, Kanada, dan Singapura disajikan dalam Tabel 2.
23
Beyond Infinity September 2026
Made with FlippingBook Digital Proposal Creator