Terlepas dari semua kesalahan AI—seperti mendorong orang untuk memakan jamur yang mematikan—terkadang AI dapat digunakan untuk tujuan yang baik. O2, operator jaringan seluler terbesar di Inggris, telah menerapkan chatbot AI berbasis suara untuk membujuk para penipu telepon agar melakukan percakapan yang berbelit-belit dan tidak membuahkan hasil. Disebut Daisy, atau “dAIsy”, chatbot ini meniru suara orang lanjut usia, yang merupakan target paling umum bagi penipu telepon.
Tujuan Daisy adalah untuk mengotomatiskan “scambaiting,” atau praktik sengaja membuang-buang waktu penipu telepon untuk menjauhkan mereka dari calon korban sebenarnya selama mungkin. Para penipu menggunakan rekayasa sosial untuk mengeksploitasi kenaifan para lansia, dengan meyakinkan mereka, misalnya, bahwa mereka berhutang pajak dan akan ditangkap jika mereka tidak segera mengirimkan dana.
Namun, ketika seorang penipu menelepon Daisy, mereka terlibat dalam percakapan panjang yang pada akhirnya tidak akan berhasil. Jika mereka sampai pada titik di mana penipu meminta informasi pribadi, seperti rincian bank, Daisy akan membuat informasi palsu. O2 mengatakan bahwa mereka dapat menjangkau penipu dengan menambahkan nomor telepon Daisy ke daftar “target mudah” yang digunakan penipu untuk mendapatkan prospek.
Dalam video yang menunjukkan Daisy, potongan suara dari percakapan nyata menunjukkan para penipu menjadi semakin jengkel, terus menelepon selama lebih dari 40 menit, dan berharap mereka akan mendapatkan nomor kartu kredit atau rincian bank. Model AI yang dibuat O2 terdengar sangat meyakinkan—ia melakukan semua pemrosesan secara real-time, namun untungnya hal ini menjadi lebih mudah karena orang lanjut usia cenderung berbicara cukup lambat.
Tentu saja, kekhawatiran dari chatbot seperti Daisy adalah bahwa teknologi yang sama dapat digunakan untuk tujuan yang berlawanan—kita telah melihat contoh di mana orang-orang nyata, seperti CEO perusahaan besar, menyuarakan pendapat mereka secara mendalam untuk mengelabui orang lain agar mengirimkan uang. kepada penipu. Para lansia sudah cukup rentan. Jika mereka mendapat telepon dari seseorang yang terdengar seperti cucu, mereka hampir pasti percaya bahwa itu nyata.
Pada akhirnya, memblokir panggilan telepon palsu dan menutup organisasi yang menjalankan penipuan ini akan menjadi solusi ideal. Operator seluler sudah semakin baik dalam mengidentifikasi penipu dan memblokir nomor mereka, namun ini masih merupakan permainan kucing-kucingan. Penipu memanfaatkan alat panggilan otomatis yang memungkinkan mereka memanggil nomor secara berurutan dan diberi tahu oleh alat tersebut hanya ketika mendapat jawaban. Bot AI yang membuat frustrasi penipu dengan menjawab dan membuang-buang waktu lebih baik daripada tidak sama sekali.