Beyond Infinity
Rekomendasi
Meskipun kerangka regulasi melalui UU P2SK dan POJK ITSK memberikan landasan hukum yang kuat bagi perkembangan ITSK, pesatnya perkembangan ekosistem keuangan otonom dan agentic AI menuntut evolusi tata kelola yang lebih lanjut. Berikut adalah beberapa rekomendasi strategis utama yang dapat dipertimbangkan.
Regulatory Sandbox perlu bertransformasi menjadi "Sandbox 2.0" yang mengintegrasikan prinsip-prinsip Model Risk Management (MRM) tingkat lanjut untuk menguji keandalan perilaku model di bawah tekanan (governability under pressure). Pengujian ini dapat dilakukan melalui proses validasi yang melibatkan banyak agen AI secara bersamaan untuk melihat bagaimana agen AI saling berinteraksi dan beradaptasi dalam kondisi tekanan ekstrem yang disimulasi dan untuk titik kegagalan sistem tersebut (multi-agent behavioral stress testing).
a.
Transisi dari paradigma "manusia sebagai pengambil keputusan langsung" (human-in-the-loop) menjadi "manusia sebagai pengawas sistem otonom" (human-on-the-loop) ini membutuhkan kolaborasi yang kuat antara regulator, industri, dan akademisi untuk memastikan agen AI tetap beroperasi dalam batas toleransi risiko yang ditetapkan. Koordinasi ini dapat dilakukan dalam merumuskan pedoman tata kelola algoritma yang mencakup pengaman otomatis (automated circuit breakers), misalnya seperti MiFID II di European Union, dan perumusan metode Know Your Agent (KYA) seperti yang sudah dirumuskan Singapura. Selain itu, aspek pembatasan wewenang agen (mandate authorization) serta pemetaan alur interaksi keputusan antaragen juga dapat diintegrasikan ke dalam kerangka regulasi.
b.
Peningkatan kapasitas (upskilling) dan penguasaan Supervisory T echnology (SupTech), terutama bagi sumber daya manusia regulator dan otoritas sektor keuangan, dapat difokuskan pada pemahaman audit algoritma, dinamika agentic A I, dan behavioral stress testing untuk memitigasi asimetri informasi dalam pengawasan keuangan otonom.
c.
Perumusan insentif AI Etis Prinsip dan perluasan perlindungan konsumen dengan mengakomodasi Right to E xplanation serta akses mekanisme koreksi (redress) atas keputusan otomatis yang berdampak signifikan.
d.
26
Beyond Infinity September 2026
Made with FlippingBook Digital Proposal Creator