Mengamankan Inovasi AI dalam Keuangan: Melawan Penipuan dan Kerentanan

Teknologi kecerdasan buatan generatif kini semakin banyak digunakan para penipu untuk meniru suara dan video yang sulit dibedakan dengan aslinya. Hal ini menyebabkan kerugian besar bagi bank-bank di Amerika Serikat, dengan angka yang diperkirakan naik dari 12,3 miliar dolar pada 2023 menjadi 40 miliar dolar pada 2027. Regulator dan perusahaan keuangan harus segera mencari cara agar mampu melawan ancaman ini yang terus berkembang. Salah satu metode penting adalah penggunaan autentikasi suara multi-faktor, yang menggabungkan biometrik suara dengan kode PIN, pertanyaan keamanan, dan biometrik perilaku. Selain itu, sistem autentikasi konteks juga dipakai agar bisa memeriksa siapa yang menelepon, kapan, dan dari mana asal panggilan tersebut, untuk mendeteksi panggilan mencurigakan yang berpotensi penipuan. Robocall atau panggilan otomatis yang digunakan untuk menipu juga terus menjadi masalah. Namun, berbagai perusahaan mendapatkan manfaat dengan menggunakan kecerdasan buatan untuk memantau dan menganalisis pola panggilan secara real-time. AI dapat membantu memperkirakan dan mencegah ancaman sebelum mereka menyebar lebih luas. Selain teknologi, faktor manusia juga sangat penting. Pelatihan dan pendidikan tentang skenario penipuan dan penggunaan deepfake harus diberikan kepada eksekutif dan agen call center agar tahu cara mengenali serta menangani penipuan berbasis suara. Keamanan data suara pun perlu diperketat dengan enkripsi dan kontrol akses agar tidak mudah disalahgunakan. Kesimpulannya, meskipun penipuan berbasis AI menimbulkan risiko besar, dengan investasi strategis pada autentikasi, deteksi, edukasi, serta kemitraan antar lembaga, perusahaan keuangan dapat mengubah risiko menjadi peluang untuk menciptakan lingkungan finansial yang lebih aman dan terpercaya di masa depan.

Model bahasa besar seperti ChatGPT dirancang untuk mencegah pengguna mendapat informasi berbahaya dengan menggunakan filter eksternal yang mencegah prompt tertentu mencapai model. Namun, filter ini sering kali lebih kecil dan kurang kuat dibandingkan model utama sehingga rentan terhadap eksploitasi. Para peneliti mengadaptasi teknik kriptografi sederhana seperti substitution cipher untuk menyembunyikan pesan berbahaya dalam bentuk teka-teki yang bisa dipecahkan oleh model bahasa, namun tidak dikenali oleh filter. Ini membuka celah keamanan yang mereka sebut controlled-release prompting. Selain substitution cipher, mereka juga menguji konsep time-lock puzzle yang menggunakan operasi matematika berat untuk membuat pesan berbahaya tersembunyi dalam bentuk angka acak. Dengan memasukkan angka ini sebagai seed acak, prompt berbahaya bisa disamarkan di balik permintaan prompt yang netral seperti membuat puisi. Riset ini menunjukkan bahwa selama filter memiliki sumber daya komputasi lebih kecil dibanding model yang dilindunginya, celah keamanan seperti jailbreak akan selalu ada. Hal ini menjadi bukti bahwa filter eksternal tidak cukup untuk menyelaraskan model besar secara sempurna. Kesimpulannya, tantangan ke depan adalah mengembangkan teknik penyelarasan AI yang lebih mendalam dan mengerti cara kerja internal model, bukan hanya menyandarkan pada filter eksternal. Ini penting agar teknologi AI dapat dipercaya dan aman tanpa risiko bocor informasi berbahaya.

Banyak proyek AI di bidang keuangan gagal bukan karena masalah teknis seperti data atau model, tetapi karena mereka dibangun untuk menyelesaikan masalah yang kurang tepat. Sering kali tim hanya bertanya apa yang bisa dilakukan AI daripada apa hasil bisnis yang ingin dicapai, sehingga solusi yang dibuat tidak sesuai kebutuhan. Sebuah riset menunjukkan bahwa 90% pengambil keputusan di bidang keuangan kini menggunakan AI dalam pengambilan keputusan. Meski begitu, keberhasilan tidak bisa diukur dari adopsi AI saja, melainkan bagaimana AI berinteraksi dengan pengalaman dan pengetahuan manusia dalam proses bisnis. Desain AI yang baik harus menentukan dengan jelas kapan AI bekerja sendiri, kapan hanya memberikan rekomendasi, dan kapan melibatkan manusia sebagai pengambil keputusan terakhir. Contohnya untuk keputusan kredit, AI dapat menyetujui transaksi standar tapi harus mengeskalasikan kasus-kasus yang kompleks untuk dicek manusia. Selain itu, penting untuk membangun mekanisme umpan balik agar AI belajar dari keputusan manusia dan justifikasi saat manusia memilih untuk menolak rekomendasi AI. Ini membantu meningkatkan akurasi dan juga membangun kepercayaan tim terhadap AI. Agar sukses, perusahaan harus merombak cara kerja mereka, melatih tim untuk berpikir kritis, dan melibatkan mereka sejak awal dalam desain AI. Fokus utama adalah menggunakan AI untuk mengotomatisasi tugas rutin sehingga manusia dapat fokus pada pengambilan strategi dan keputusan yang lebih kompleks.