7cloud.asia – Penggunaan financial technology (fintech) seperti perangkat teknologi yang berbasis algoritme (AI, pemelajaran mesin, dan sains data) memiliki konsekuensi merugikan jika tidak dikelola dengan baik dan didukung oleh regulasi yang jelas.
Penggunaan sistem algoritme ini berpotensi melanggar aspek-aspek etika seperti privasi, bias, dan akuntabilitas. Perusahaan-perusahaan yang mengumpulkan data-data pribadi dan rahasia dari pelanggan mereka harus berhati-hati mengelola, menganalisis dan menjaga keamanannya.
Kecerobohan perusahaan bisa menimbulkan masalah kebocoran data dan profiling yang tidak seharusnya (bias).
Profiling merujuk pada penggunaan algoritme untuk menilai atau memprediksi aspek-aspek pribadi seperti perilaku, keadaan ekonomi, kesehatan, kepribadian, preferensi–biasanya untuk menentukan layak tidaknya seseorang menerima pinjaman.
Penggunaan algoritme AI untuk menentukan apakah calon debitor memiliki potensi gagal atau sukses bayar, juga berpotensi bias–baik karena datanya maupun algoritmenya.
Bias ini dapat memperburuk ketimpangan kelompok mayoritas dengan kelompok minoritas karena kurangnya representasi data mereka.
Di Indonesia, bias dalam penggunaan algoritme layanan fintech ini memang belum terliput oleh media dan menjadi kasus. Namun, di Amerika Serikat, kasus ini sudah terjadi.
Studi yang dilakukan oleh University of California, Berkeley terhadap lembaga pemberi pinjaman, baik daring maupun luring memperlihatkan bahwa mereka cenderung membebankan suku bunga yang lebih tinggi kepada peminjam dari ras Afrika-Amerika dan Latin.
Baca: Yuk kenali fintech yang bukan hanya pinjol
Sebab, sistem algoritme dilatih dengan data yang bias dan tidak seimbang: data ras kulit putih yang bisa dianalisis secara digital lebih banyak dari data ras Afrika-Amerika dan Latin.
Studi lain di sektor asuransi menunjukkan adanya bias terhadap kelompok minoritas dan gender dalam penetapan premi asuransi.
Bias juga bisa terjadi karena adanya variabel proksi yang membuat algoritme AI melakukan diskriminasi. Variabel proksi punya korelasi dengan variabel lain, terutama yang bersifat pribadi atau yang seharusnya diproteksi (ras, gender, agama, dan lain sebagainya).
Karena korelasinya kuat, variabel proksi bisa saja mengungkapkan atau memprediksi data privasi seseorang ketika digunakan untuk melatih AI. Misalnya, kode pos di area tertentu bisa mengungkap apakah seseorang merupakan ras atau etnik tertentu.
Jika tidak dikelola dengan saksama, bias akan mengakibatkan diskriminasi digital di antara kelompok masyarakat.
Mitigasi risiko fintech
Dalam menjelajahi potensi fintech, pemerintah dan perusahaan perlu memperhatikan empat dimensi kritis, yaitu tata kelola, etika, hukum, dan dampak sosial.
Informasi yang dihasilkan dari sistem algoritme harus bisa dijelaskan (explainable). Proses pengambilan keputusan oleh sistem itu juga harus transparan.
Sebab, jika terjadi masalah hukum, mekanisme penjelasan dan transparansi ini menjadi bukti untuk menentukan bagaimana permasalahan sistem algoritme ini harus diselesaikan.
Baca: Izin 66 penyelenggara fintech P2P lending dicabut dalam 4 tahun terakhir
Sebagai contoh, jika terjadi bias yang mengakibatkan seorang nasabah mendapatkan diskriminasi dan berdampak ekonomi, sistem peradilan harus bisa menentukan siapa yang bertanggung jawab dan bagaimana mekanisme penyelesaian hukum dan kompensasi harus dilakukan.
Di sisi teknis, ada beberapa cara yang bisa digunakan untuk memitigasi resiko etika dan bias di algoritme. Contohnya dengan penggunaan teknik mitigasi bias algoritme AI;
Juga dokumentasi tata kelola dan analisis data seperti transparansi dalam pengumpulan, penyimpanan dan penggunaan dataset untuk melatih algoritme AI; juga antisipasi mengenai kemungkinan bias-bias yang bisa terjadi karena penggunaan algoritme seperti prediksi, klasifikasi, dan klusterisasi.
Di sisi regulasi, pemerintah harus berfokus kepada mitigasi risiko teknologi, perlindungan terhadap konsumen, dan aturan yang ketat terhadap penggunaan sistem algoritme.
Uni Eropa, misalnya, sedang mengajukan usulan undang-undang kecerdasan buatan untuk menjamin kepastian hukum penggunaan teknologi yang berbasis algoritme.
Alih-alih memperkuat keuangan inklusif, pengabaian aspek tata kelola, etika, hukum, dan dampak sosial bisa memicu kesenjangan sosial. Warga negara juga bisa kehilangan kesempatan mendapatkan layanan keuangan yang lebih baik.
Artikel ini telah terbit di The Conversation, Penulis: Arif Perdana (Associate Professor Digital Strategy and Data Science, Monash University)
Leave a Reply