Dilema Kepatuhan AI: Kepercayaan Masih Milik Manusia

Roman Eloshvili adalah pendiri dan chief executive officer dari XData Group, sebuah perusahaan pengembangan perangkat lunak B2B. Di sana, ia mengarahkan pengembangan AI di bidang perbankan sambil mengelola hubungan investor dan mendorong skalabilitas bisnis. Ia juga pendiri ComplyControl, sebuah startup RegTech berbasis di Inggris yang mengkhususkan diri dalam solusi teknologi mutakhir untuk bank.

Temukan berita dan acara fintech teratas!

Berlangganan newsletter FinTech Weekly

Dibaca oleh eksekutif di JP Morgan, Coinbase, Blackrock, Klarna dan lainnya

Bank dan fintech di seluruh dunia sedang mencari cara untuk menggunakan kecerdasan buatan dalam berbagai aspek: mempercepat operasi, mengurangi biaya, meningkatkan interaksi pelanggan, dan lainnya. Namun, ketika menyangkut kepatuhan — yang bisa dibilang salah satu bagian paling menuntut dan memakan waktu dalam keuangan — sebagian besar perusahaan masih menahan diri.

Sebuah survei yang dilakukan awal tahun 2025 menemukan bahwa hanya sebagian kecil perusahaan (kurang dari 2%) yang benar-benar mengintegrasikan AI secara penuh ke dalam alur kerja mereka. Sebagian besar dari mereka, bagaimanapun, masih berada dalam tahap awal eksplorasi dan adopsi. Jika mereka benar-benar mengadopsinya sama sekali.

Tekanan terhadap perusahaan untuk mengikuti perubahan regulasi masih sangat besar, dan semakin meningkat. Jadi mengapa kepatuhan begitu lambat menerima AI padahal bisa sangat membantu?

Mari kita coba cari tahu.

Penglihatan Manusia Tetap Penting

Mungkin hal pertama dan terpenting yang perlu diingat di sini adalah bahwa kepatuhan bukan hanya tentang mengikuti daftar periksa. Ini tentang membuat keputusan penilaian dalam situasi yang sering berada di area abu-abu. Dunia keputusan keuangan jarang sepenuhnya hitam dan putih. Regulasi berbeda di berbagai yurisdiksi, dan interpretasi aturan tersebut jarang langsung.

AI sangat hebat dalam memproses data dengan kecepatan kilat dan mendeteksi anomali. Tetapi meskipun dapat menandai transaksi yang mencurigakan berdasarkan pola yang sudah ditetapkan sebelumnya, itu tidak berarti AI dapat dengan jelas menjelaskan “mengapa” di balik kesimpulannya. Lebih penting lagi, AI kesulitan dengan nuansa. Seorang petugas kepatuhan manusia dapat mendeteksi ketika perilaku klien, meskipun tidak biasa, tidak berbahaya. AI, di sisi lain, jauh lebih mungkin hanya mengeluarkan alarm tanpa konteks.

Inilah sebabnya pemimpin kepatuhan ragu untuk menyerahkan kendali sepenuhnya. Mesin tentu bisa membantu, tetapi kebanyakan orang masih jauh lebih percaya pada kemampuan manusia untuk melihat gambaran besar dan menilai sesuai.

Efisiensi vs. Risiko Regulasi dan Reputasi

Kemampuan AI untuk menganalisis ribuan transaksi secara real-time adalah sesuatu yang tidak bisa ditandingi tim kepatuhan mana pun saat terjebak dalam mode manual. Jadi dari segi efisiensi, tidak ada yang bisa membantah bahwa AI adalah alat pendukung yang hebat, mampu mengurangi beban kerja sehingga staf manusia dapat fokus pada tugas yang lebih strategis dan bernuansa.

Namun, kepatuhan bukanlah bidang di mana kecepatan saja yang menang. Jika sistem AI membuat kesalahan dalam penilaian, itu bisa berarti denda, kerusakan reputasi, atau pengawasan regulasi. Semua hal ini bisa sangat merugikan bisnis — bahkan bisa menghancurkan. Jadi, tidak heran jika banyak yang ingin menghindari komplikasi semacam itu.

Sebagian besar regulator juga sepakat bahwa, dalam pengambilan keputusan berbasis AI, seseorang harus tetap bertanggung jawab. Jika model AI secara keliru memblokir transaksi yang sah atau melewatkan transaksi penipuan, tanggung jawab akhirnya tetap berada di tangan perusahaan. Dan petugas kepatuhan manusia yang harus menanggung tanggung jawab tersebut.

Ini menciptakan rasa hati-hati alami: pemimpin kepatuhan harus menimbang manfaat pengawasan yang lebih cepat terhadap risiko potensi penalti regulasi. Dan sampai sistem AI menjadi lebih dapat dijelaskan dan transparan, kemungkinan banyak perusahaan akan enggan membiarkan mereka membuat keputusan otomatis.

Cara Bertanggung Jawab dalam Adopsi AI

Pelajaran penting dari semua hal di atas adalah bahwa keraguan pemimpin kepatuhan tidak berarti mereka anti-AI. Faktanya, banyak yang optimis tentang peran AI di masa depan. Hal yang penting adalah menemukan cara yang tepat untuk maju.

Menurut saya, jalur paling alami dan menjanjikan yang tersedia adalah mengadopsi model hibrida. Kolaborasi antara manusia dan AI, di mana kecerdasan buatan melakukan pekerjaan berat — memindai transaksi, menandai aktivitas tidak biasa, atau menghasilkan laporan. Dan ketika hasil akhir sudah siap, manusia dapat meninjaunya, menafsirkan konteks keputusan AI, dan membuat keputusan akhir.

Namun, untuk menerapkan model seperti ini, perusahaan perlu memastikan bahwa sistem AI mereka dapat dijelaskan. Kepatuhan bukan hanya tentang mendeteksi risiko; ini tentang membuktikan bahwa keputusan adalah adil. Itulah sebabnya pasar membutuhkan lebih banyak alat AI yang dapat menjelaskan output mereka dalam istilah yang sederhana.

Ini Bukan tentang “Manusia vs. Mesin”

Secara realistis, saya tidak melihat AI membuat petugas kepatuhan menjadi usang. Kemungkinan besar, peran mereka akan berubah — dari pelaksana menjadi pengelola. Petugas akan menghabiskan lebih sedikit waktu melakukan pemeriksaan sendiri dan lebih banyak memeriksa kembali keputusan AI, menangani zona abu-abu di mana mesin masih kurang.

Pada intinya, kepatuhan adalah bisnis manusia. Dan meskipun AI dapat membuat tim kepatuhan lebih cepat dan lebih efektif, AI tidak dapat menangani tanggung jawab moral dan regulasi yang menyertainya.

Itulah sebabnya saya yakin bahwa masa depan kepatuhan akan lebih tentang “manusia dengan mesin” — bekerja sama untuk menjaga sistem keuangan tetap aman dan adil.