Pertimbangan Etis dalam Penerapan DeepSeek AI di Fintech

Devin Partida adalah Pemimpin Redaksi ReHack. Sebagai penulis, karyanya telah dimuat di Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf, dan lainnya.

Temukan berita dan acara fintech teratas!

Berlangganan newsletter FinTech Weekly

Dibaca oleh eksekutif di JP Morgan, Coinbase, Blackrock, Klarna dan lainnya

Kecerdasan buatan (AI) adalah salah satu teknologi paling menjanjikan namun unik dalam fintech saat ini. Kini, setelah DeepSeek mengirimkan gelombang kejut di seluruh ruang AI, kemungkinan dan risiko spesifiknya menuntut perhatian.

Sementara ChatGPT membawa AI generatif ke arus utama pada tahun 2022, DeepSeek membawanya ke tingkat baru saat model DeepSeek-R1 diluncurkan pada tahun 2025.

Algoritma ini bersifat open-source dan gratis tetapi telah berkinerja setara dengan alternatif berbayar yang bersifat proprietary. Oleh karena itu, ini merupakan peluang bisnis yang menggoda bagi perusahaan fintech yang berharap memanfaatkan AI, tetapi juga menimbulkan beberapa pertanyaan etis.

Bacaan yang direkomendasikan:

*   **Model R1 DeepSeek Memicu Perdebatan tentang Masa Depan Pengembangan AI**
*   **Model AI DeepSeek: Peluang dan Risiko untuk Perusahaan Teknologi Kecil**

Privasi Data

Seperti banyak aplikasi AI lainnya, privasi data menjadi perhatian. Model bahasa besar (LLMs) seperti DeepSeek membutuhkan sejumlah besar informasi, dan dalam sektor seperti fintech, sebagian besar data ini mungkin bersifat sensitif.

DeepSeek memiliki komplikasi tambahan karena merupakan perusahaan Tiongkok. Pemerintah Tiongkok dapat mengakses semua informasi dari pusat data milik Tiongkok atau meminta data dari perusahaan di dalam negeri. Akibatnya, model ini dapat menimbulkan risiko terkait spionase asing dan propaganda.

Kebocoran data dari pihak ketiga juga menjadi kekhawatiran. DeepSeek telah mengalami kebocoran yang mengungkapkan lebih dari 1 juta catatan, yang dapat meragukan keamanan alat AI tersebut.

Bias AI

Model pembelajaran mesin seperti DeepSeek rentan terhadap bias. Karena model AI sangat mahir dalam mengenali dan belajar dari pola halus yang mungkin terlewatkan manusia, mereka dapat mengadopsi prasangka tak sadar dari data pelatihan mereka. Saat mereka belajar dari informasi yang condong ini, mereka dapat memperkuat dan memperburuk masalah ketidaksetaraan.

Ketakutan semacam ini sangat menonjol dalam bidang keuangan. Karena lembaga keuangan secara historis menahan peluang dari minoritas, sebagian besar data historis mereka menunjukkan bias yang signifikan. Melatih DeepSeek dengan dataset ini dapat menyebabkan tindakan bias lebih lanjut seperti AI menolak pinjaman atau hipotek berdasarkan etnis seseorang daripada kelayakan kredit.

Kepercayaan Konsumen

Seiring isu terkait AI semakin sering muncul di berita, masyarakat umum menjadi semakin curiga terhadap layanan ini. Hal ini dapat menyebabkan berkurangnya kepercayaan antara perusahaan fintech dan pelanggannya jika mereka tidak mengelola kekhawatiran ini secara transparan.

DeepSeek mungkin menghadapi hambatan unik di sini. Perusahaan dilaporkan membangun modelnya hanya dengan biaya 6 juta dolar dan, sebagai perusahaan Tiongkok yang berkembang pesat, mungkin mengingatkan orang pada kekhawatiran privasi yang pernah melanda TikTok. Masyarakat mungkin tidak antusias untuk mempercayai model AI berbiaya rendah dan dikembangkan dengan cepat dengan data mereka, terutama ketika pemerintah Tiongkok mungkin memiliki pengaruh tertentu.

Cara Menjamin Penggunaan DeepSeek yang Aman dan Etis

Pertimbangan etis ini tidak berarti perusahaan fintech tidak dapat menggunakan DeepSeek dengan aman, tetapi menekankan pentingnya penerapan yang hati-hati. Organisasi dapat menerapkan DeepSeek secara etis dan aman dengan mengikuti praktik terbaik ini.

Jalankan DeepSeek di Server Lokal

Salah satu langkah terpenting adalah menjalankan alat AI ini di pusat data domestik. Meskipun DeepSeek adalah perusahaan Tiongkok, bobot modelnya terbuka, sehingga memungkinkan dijalankan di server AS dan mengurangi kekhawatiran tentang pelanggaran privasi dari pemerintah Tiongkok.

Namun, tidak semua pusat data sama andalnya. Idealnya, perusahaan fintech akan menghosting DeepSeek di perangkat keras mereka sendiri. Jika itu tidak memungkinkan, pimpinan harus memilih penyedia hosting dengan hati-hati, hanya bermitra dengan yang memiliki jaminan uptime tinggi dan standar keamanan seperti ISO 27001 dan NIST 800-53.

Kurangi Akses ke Data Sensitif

Saat membangun aplikasi berbasis DeepSeek, perusahaan fintech harus mempertimbangkan jenis data yang dapat diakses model. AI harus hanya dapat mengakses data yang diperlukan untuk menjalankan fungsinya. Membersihkan data yang dapat diakses dari informasi pribadi yang tidak diperlukan juga sangat dianjurkan.

Ketika DeepSeek menyimpan lebih sedikit detail sensitif, pelanggaran data akan berdampak lebih kecil. Mengurangi pengumpulan PII juga kunci untuk tetap mematuhi hukum seperti Regulasi Perlindungan Data Umum (GDPR) dan Gramm-Leach-Bliley Act (GLBA).

Implementasikan Kontrol Keamanan Siber

Peraturan seperti GDPR dan GLBA biasanya mewajibkan langkah-langkah perlindungan untuk mencegah pelanggaran sejak awal. Bahkan di luar legislasi tersebut, riwayat kebocoran DeepSeek menyoroti perlunya langkah-langkah keamanan tambahan.

Setidaknya, perusahaan fintech harus mengenkripsi semua data yang dapat diakses AI saat disimpan dan saat dalam transmisi. Pengujian penetrasi secara rutin untuk menemukan dan memperbaiki kerentanan juga sangat dianjurkan.

Organisasi fintech juga harus mempertimbangkan pemantauan otomatis terhadap aplikasi DeepSeek mereka, karena otomatisasi ini dapat menghemat 2,2 juta dolar dalam biaya pelanggaran data secara rata-rata, berkat respons yang lebih cepat dan efektif.

Audit dan Pantau Semua Aplikasi AI

Bahkan setelah mengikuti langkah-langkah ini, tetap penting untuk tetap waspada. Audit aplikasi berbasis DeepSeek sebelum digunakan untuk mencari tanda-tanda bias atau kerentanan keamanan. Ingat bahwa beberapa masalah mungkin tidak langsung terlihat, sehingga review berkelanjutan sangat diperlukan.

Buatlah tim khusus untuk memantau hasil dari solusi AI dan memastikan tetap etis serta sesuai regulasi. Juga, bersikap transparan kepada pelanggan tentang praktik ini. Rasa percaya ini dapat membantu membangun kepercayaan di bidang yang seharusnya diragukan ini.

Perusahaan Fintech Harus Mempertimbangkan Etika AI

Data fintech sangat sensitif, jadi semua organisasi di sektor ini harus memperlakukan alat berbasis data seperti AI dengan serius. DeepSeek bisa menjadi sumber daya bisnis yang menjanjikan, tetapi hanya jika penggunaannya mengikuti pedoman etika dan keamanan yang ketat.

Setelah para pemimpin fintech memahami perlunya perhatian seperti itu, mereka dapat memastikan investasi DeepSeek dan proyek AI lainnya tetap aman dan adil.