AI, Kepercayaan, dan Mereka yang Kurang Terlayani - Wawancara dengan Paula Grieco, SVP di Commonwealth

Paula Grieco adalah Wakil Presiden Senior di Commonwealth.

Temukan berita dan acara fintech teratas!

Berlangganan newsletter FinTech Weekly

Dibaca oleh eksekutif di JP Morgan, Coinbase, Blackrock, Klarna, dan lainnya

AI Keuangan masih memiliki perjalanan panjang — tidak hanya dari segi kecepatan, akurasi, atau bahkan regulasi, tetapi juga dalam cara AI mendapatkan kepercayaan. Terutama dari mereka yang secara tradisional bukan yang pertama kali mendapatkan manfaat dari teknologi baru saat diluncurkan.

Di FinTech Weekly, kami mengikuti pekerjaan dari Commonwealth, sebuah organisasi nirlaba yang fokus membangun keamanan keuangan bagi rumah tangga berpenghasilan rendah dan menengah (LMI). Penelitian lapangan mereka, yang dibahas dalam editorial terbaru kami, mengungkapkan ketegangan yang jelas: sementara pengguna LMI terbuka terhadap alat seperti chatbot, mereka masih menunggu pengalaman yang benar-benar melayani mereka — bukan hanya fitur yang dikemas ulang untuk orang lain.

Minggu ini, kami mendalami lebih jauh.

Kami berbicara dengan Paula Grieco, Wakil Presiden Senior di Commonwealth, untuk memahami apa yang benar-benar dibutuhkan agar AI efektif — dan aman — bagi komunitas yang kurang terlayani. Dari prinsip desain hingga kepercayaan yang diperoleh, dari co-pilot hingga kelelahan chatbot, dia berbagi mengapa niat lebih penting daripada inovasi semata.

Ini adalah pandangan yang berakar dan penuh pemikiran tentang seperti apa teknologi keuangan inklusif — dan seharusnya — terlihat.

Baca wawancara lengkapnya di bawah.

2.  Kolaborasi Commonwealth baru-baru ini dengan JPMorganChase memberikan wawasan penting tentang peran AI dalam meningkatkan keamanan keuangan bagi rumah tangga LMI. Apa temuan paling mengejutkan atau berdampak dari penelitian ini?

Penelitian kami menyoroti potensi besar AI, khususnya chatbot, untuk memberikan panduan dan dukungan yang dipersonalisasi kepada komunitas berpenghasilan rendah — jika chatbot dirancang dengan cermat mempertimbangkan kebutuhan dan perspektif kelompok ini.

Dua temuan utama:

*   Pelanggan umumnya melihat chatbot sebagai alat positif untuk meningkatkan kesejahteraan keuangan mereka. Data kami menunjukkan bahwa 57% responden mengatakan penggunaan chatbot meningkatkan situasi keuangan mereka. Penelitian juga menunjukkan bahwa orang berpenghasilan rendah hingga menengah (LMI) menginginkan fitur pembangunan kredit, penganggaran, dan pengelolaan utang.

*   Responden menghargai ruang tanpa penilaian dengan chatbot untuk mengajukan pertanyaan keuangan sensitif tanpa khawatir tentang rasa malu atau rasa tidak percaya diri yang mungkin menyertai percakapan tersebut secara langsung dengan perwakilan manusia.

3.  Bagaimana Anda melihat evolusi AI percakapan dalam layanan keuangan, khususnya untuk komunitas yang kurang terlayani?

Idealnya, generasi berikutnya dari chatbot yang didukung oleh AI generatif akan menjadi asisten keuangan AI yang lebih baik dalam mendukung aktivitas keuangan rumah tangga ini, dan mendapatkan kepercayaan dari populasi yang seringkali waspada terhadap keterlibatan dengan sistem keuangan dan berbagi data secara online. Ada peluang besar bagi penyedia layanan keuangan untuk menyediakan kemampuan yang lebih kompleks, bernuansa, dan berorientasi tindakan untuk chatbot mereka.

Saat pelanggan menggunakan chatbot keuangan saat ini, mereka terutama mencari informasi akun atau mencoba menyelesaikan masalah. Kurang dari 20% dari responden survei nasional kami pernah menggunakan chatbot untuk nasihat dan edukasi keuangan, rekomendasi produk, pengajuan kredit atau pinjaman, serta pembukaan atau penutupan rekening. Namun, penelitian kami menemukan adanya permintaan untuk chatbot yang dapat membantu dengan tindakan perbankan tersebut. Fokus pada fitur-fitur ini saat mengembangkan chatbot dapat meningkatkan penggunaannya dan manfaatnya bagi pelanggan ini.

Bagi bank dan lembaga keuangan yang belum siap meluncurkan co-pilot keuangan berbasis AI generatif langsung ke konsumen, teknologi ini dapat mendukung karyawan bank seperti perwakilan pelanggan untuk memberikan respons yang lebih baik, lebih akurat, dan lebih cepat selama interaksi.

4.  Apa tantangan terbesar dalam memastikan alat keuangan berbasis AI adil dan efektif untuk rumah tangga yang dipimpin oleh orang kulit hitam, Latinx, dan perempuan?

Dengan semua teknologi baru, diperlukan upaya yang disengaja untuk memastikan bahwa kebutuhan mereka yang berpenghasilan rendah hingga menengah termasuk dalam proses pengembangan dan pengambilan keputusan desain. Kami menemukan bahwa kemitraan swasta/filantropi dengan lembaga keuangan sejak awal membantu membangun momentum untuk upaya ini. Dengan memperkuat basis bukti, kami juga membantu membangun dasar bisnisnya.

Kami melihat potensi besar dalam panduan desain terkait peningkatan kepercayaan yang diperoleh, yang dapat memungkinkan AI percakapan mendukung kesehatan keuangan tanpa biaya besar.

5.  Berdasarkan penelitian Anda, apa prinsip desain utama yang harus dipertimbangkan penyedia layanan keuangan saat mengintegrasikan AI untuk mendukung pengguna LMI?

Commonwealth telah membuat sumber daya, Panduan AI Keuangan untuk Kebaikan, untuk memberikan panduan desain yang dapat ditindaklanjuti kepada penyedia layanan keuangan yang melayani populasi LMI. Kami mengembangkan rekomendasi ini berdasarkan penelitian komprehensif dengan lembaga keuangan, penyedia chatbot, dan orang yang hidup dengan LMI.

Panduan ini diorganisasi berdasarkan empat tujuan utama desain. Berikut beberapa contohnya:

*   Membangun kepercayaan: Kekhawatiran utama dari mayoritas responden penelitian kami saat menggunakan chatbot adalah keamanan. Di sinilah lembaga keuangan dapat menekankan keamanan data melalui pesan awal tentang langkah-langkah yang diambil bank serta memberi pengguna kendali atas data apa yang disimpan.
*   Meningkatkan keterlibatan: Ciptakan pengalaman di mana pengguna tahu apa yang dapat dilakukan alat ini dan kapan, dengan menciptakan kejelasan tentang fungsi mereka. Juga, kejar “proaktivitas cerdas.” Misalnya, integrasikan chatbot yang muncul saat paling dibutuhkan, tanpa terlalu memaksa atau agresif, yang bisa terkesan spam.
*   Meningkatkan nilai: Antisipasi kebutuhan pelanggan Anda. Akses terbatas ke cabang fisik menciptakan peluang bagi chatbot untuk menyelesaikan tindakan kecil yang biasanya harus dilakukan di bank. Seimbangkan otomatisasi dan kendali dengan memungkinkan pengguna mengaktifkan dan menonaktifkan fitur keuangan otomatis, serta sertakan fitur “jaring pengaman” yang menghentikan otomatisasi transfer uang jika saldo turun di bawah batas tertentu.
*   Meningkatkan aksesibilitas: Tawarkan dukungan multibahasa dan panduan yang sesuai dengan basis pelanggan Anda, serta fokus pada fitur yang ramah mobile. Penelitian kami menunjukkan bahwa lebih dari setengah responden lebih suka mengakses layanan perbankan melalui ponsel mereka.

6.  Bisakah Anda berbagi kisah sukses atau studi kasus di mana AI percakapan secara signifikan meningkatkan kesejahteraan keuangan bagi individu LMI?

Apa yang kami ketahui adalah bahwa 57% pengguna dalam studi pengujian lapangan kami menyatakan bahwa penggunaan chatbot keuangan berdampak positif pada situasi keuangan mereka. Meskipun hasil awal ini menjanjikan, alat AI generatif masih dalam tahap awal, dan penelitian kami yang berkelanjutan akan terus membangun basis bukti tentang efektivitasnya dalam meningkatkan kesejahteraan keuangan bagi individu LMI.

7.  Risiko atau konsekuensi tak terduga apa yang harus diperhatikan lembaga keuangan saat menerapkan alat keuangan berbasis AI?

Yang penting adalah agar mereka yang berpenghasilan LMI tidak tertinggal. Saat mengembangkan alat, penting untuk memahami peluang dan cara melayani basis pelanggan LMI secara inherent.

Ada banyak badan yang fokus secara khusus pada risiko dan konsekuensi alami dari alat berbasis AI, serta bias dan akurasi model bahasa besar. Selain itu, kita harus memastikan bahwa rekomendasi keuangan relevan dengan situasi keuangan individu pengguna. Lembaga keuangan dapat meningkatkan keterlibatan pelanggan dan mendapatkan kepercayaan mereka dengan memastikan informasi yang diberikan akurat dan transparan.

AI menawarkan peluang luar biasa bagi orang berpenghasilan LMI untuk mengakses nasihat dan alat yang sebelumnya tidak tersedia, baik alat investasi maupun pengelolaan keuangan pribadi. Alat ini dapat dipersonalisasi dan disesuaikan dengan situasi unik mereka. Ini adalah peluang besar bagi penyedia keuangan untuk memperluas basis pelanggan mereka.

8.  Bagaimana lembaga keuangan dapat mengukur dampak nyata dari alat berbasis AI terhadap keamanan dan kesejahteraan keuangan pengguna?

Fundamental kesejahteraan keuangan: Apakah ada peningkatan tabungan, pengurangan utang, peningkatan skor kredit saat menggunakan alat ini?

Kami juga dapat melakukan survei pengalaman interaksi dengan chatbot — apakah kepercayaan meningkat? Apakah ada minat yang meningkat terhadap produk yang dapat membantu meningkatkan kesejahteraan keuangan? Setelah menerima nasihat, apakah ada tindakan yang diambil?

Bank juga dapat melakukan pengujian A/B di antara berbagai kelompok konsumen yang berinteraksi dengan chatbot versus yang tidak, untuk melihat apakah ada perbedaan yang dapat diukur.

9.  Peran pengawasan manusia dalam penerapan alat keuangan berbasis AI apa, dan bagaimana penyedia dapat menemukan keseimbangan yang tepat antara otomatisasi dan dukungan manusia?

Salah satu cara meningkatkan kepercayaan yang diperoleh terhadap AI adalah memastikan ada manusia yang dapat diakses pada waktu yang tepat selama interaksi. Di sinilah penggunaan co-pilot oleh karyawan bank yang berhadapan langsung dengan pelanggan dapat bermanfaat. Akses ke manusia langsung saat dibutuhkan meningkatkan kepercayaan dan pengalaman terhadap alat AI.

Menggunakan AI percakapan akan memungkinkan perwakilan layanan pelanggan untuk melayani kebutuhan kompleks pelanggan mereka dengan lebih baik dan cepat, sambil tetap memberikan sentuhan manusia di titik-titik penting dalam interaksi saat diperlukan.

Transparansi juga sangat penting untuk membangun kepercayaan dalam setiap interaksi. Anda harus tahu, misalnya, apakah Anda sedang berbicara dengan chatbot atau orang nyata.

10.  Melihat ke depan, peluang paling menarik apa yang dimiliki AI dalam inklusi keuangan selama lima tahun ke depan?

AI generatif mewakili evolusi berikutnya dalam dukungan AI percakapan yang menawarkan keterlibatan yang dipersonalisasi dan kontekstual pada tingkat yang jauh lebih mendekati dukungan manusia dibandingkan struktur pohon keputusan dari kebanyakan chatbot keuangan saat ini. Aplikasi awal AI generatif di bidang keuangan sebagian besar difokuskan pada aplikasi back-office, di mana ada peluang mendukung agen layanan pelanggan. Mengidentifikasi bagaimana AI generatif dapat memberikan dukungan yang dipersonalisasi secara skala dalam konteks keuangan adalah peluang utama untuk mendorong pengembangan di sektor ini.

Pembangunan kepercayaan yang diperoleh akan sangat penting untuk adopsi yang lebih luas dari AI generatif, yang dalam pengujian lapangan dan diskusi kelompok fokus kami masih lebih skeptis dibandingkan chatbot tradisional. Namun, manfaat potensial dari menyediakan tingkat dukungan yang lebih canggih di berbagai aplikasi layanan keuangan menjadikan AI generatif teknologi yang paling menarik untuk diamati di sektor keuangan. Mereka yang mampu mengembangkan dukungan AI generatif yang terpercaya dan andal akan berada di garis depan era baru membangun hubungan pelanggan secara besar-besaran.

Beberapa peluang spesifik lain yang kami lihat adalah co-pilot dan asisten pribadi yang dapat memberikan panduan keuangan komprehensif yang disesuaikan dengan kebutuhan individu, seperti pelatih keuangan pribadi. Kami juga mengantisipasi kemajuan dalam AI percakapan yang akan berperan penting dalam mempromosikan kesehatan keuangan pekerja dengan menyediakan informasi dan panduan untuk menavigasi sistem manfaat karyawan yang kompleks.

11.  Bagaimana Anda melihat peran organisasi nirlaba seperti Commonwealth dalam membentuk penggunaan AI yang bertanggung jawab dalam layanan keuangan?

Secara historis, desain teknologi baru lebih berfokus pada adopsi oleh konsumen berpenghasilan tinggi, sementara mengabaikan kebutuhan rumah tangga berpenghasilan rendah dan menengah. Melalui inisiatif Emerging Tech for All (ETA), kami berfokus memastikan bahwa kebutuhan orang yang rentan secara finansial dipahami, terlihat, diperkenalkan dalam percakapan yang relevan, dan diintegrasikan ke dalam solusi. Kami berada di titik balik penting dalam memperluas penggunaan AI, dan percaya bahwa sangat mendesak untuk terus melakukan penelitian dan mengidentifikasi cara AI dapat berdampak positif bagi populasi ini.

Saat ini, sedikit penelitian dan adopsi di lapangan terkait topik ini, dan beberapa penyedia yang kami wawancarai menyebutkan perlunya studi berskala lebih besar untuk membangun bukti yang dapat mereka gunakan untuk memperkuat argumen internal tentang desain semacam ini. Kami berupaya mengatasi tantangan ini dengan menghasilkan penelitian yang berdampak dan pengujian lapangan yang menunjukkan bagaimana AI generatif dapat mendukung kesejahteraan keuangan rumah tangga berpenghasilan rendah dan menengah serta memperkuat dasar bisnis untuk merancang lebih aktif segmen konsumen yang kurang terlayani ini.

Melihat ke masa depan, dampak sistemik dari desain teknologi inklusif akan bergantung pada skala penerapan wawasan ini oleh aktor utama di layanan keuangan. Bagi kami, membawa desain inklusif ke skala besar akan bergantung pada pemanfaatan penelitian kami untuk bermitra dengan organisasi besar yang ingin memanfaatkan kemajuan AI guna mendukung kesehatan keuangan pelanggan dan pekerja mereka.

12.  Apa saran yang akan Anda berikan kepada lembaga keuangan yang ingin memanfaatkan AI sambil menjaga kepercayaan dan transparansi dengan pelanggan mereka?

Rumah tangga berpenghasilan rendah dan menengah lebih tertarik berbankan langsung dengan orang, tetapi memiliki akses paling sedikit ke cabang fisik. Celah ini menyoroti peluang utama bagi AI untuk menyediakan dukungan yang dipersonalisasi sesuai yang dicari rumah tangga berpenghasilan rendah tanpa perlu menambah jumlah cabang atau staf layanan pelanggan.

Namun, untuk mendorong adopsi yang lebih luas, lembaga keuangan harus membangun dan mendapatkan kepercayaan lebih besar terhadap chatbot dari orang berpenghasilan rendah dan menengah — sebagian ini terkait pengalaman chatbot, sementara sebagian lagi bersifat industri secara umum seiring AI mendapatkan penerimaan yang lebih luas dan meningkatnya keamanan serta kualitasnya.

Kekhawatiran utama orang yang berinteraksi dengan chatbot adalah keamanan dan privasi. Secara umum, mereka kurang percaya bahwa AI percakapan dapat membantu, melindungi data mereka, atau bertindak demi kepentingan terbaik mereka. Meskipun banyak pelaku industri bersemangat tentang potensi AI, orang yang berpenghasilan rendah dan menengah cenderung melihatnya dengan skeptisisme sebagai teknologi baru yang belum menunjukkan nilai langsung bagi mereka.

Kebijakan data yang transparan, branding dan pesan yang menenangkan, serta menjaga koneksi dengan agen manusia sebagai cadangan akan membantu membangun dan mendapatkan kepercayaan. Mengembangkan interaksi yang berguna dan dipersonalisasi melalui AI generatif yang melampaui sekadar menyediakan informasi dasar seperti saldo rekening dan transaksi terbaru, juga akan membantu menunjukkan nilai teknologi ini.

Penting juga untuk menekankan konsep kepercayaan yang diperoleh. Tujuannya bukan sekadar meyakinkan orang untuk percaya pada chatbot, tetapi merancang chatbot sedemikian rupa sehingga kepercayaan tersebut memang layak diberikan.