Penipuan penculikan palsu saat suara putri dikloning oleh AI

Telepon Jennifer DeStefano berdering pada suatu sore ketika dia keluar dari mobilnya di luar studio dansa tempat putrinya yang lebih muda, Aubrey, berlatih. Penelepon muncul sebagai tidak dikenal, dan dia sempat berpikir untuk tidak mengangkatnya.

Tetapi putrinya yang lebih tua, Brianna yang berusia 15 tahun, sedang berlatih untuk lomba ski dan DeStefano khawatir itu bisa menjadi keadaan darurat medis.

“Halo?” dia menjawab melalui telepon speaker sambil mengunci mobilnya dan membawa dompet dan tas laptopnya ke dalam studio.

Dia disambut dengan teriakan dan isak tangis.

“Bu! Aku mengacau!” teriak suara seorang gadis.

“Apa yang kamu lakukan?!? Apa yang terjadi?!?” tanya DeStefano.

“Suaranya terdengar seperti Brie, infleksinya, semuanya,” katanya kepada CNN. “Kemudian, tiba-tiba, saya mendengar seorang pria berkata, ‘Berbaringlah, tundukkan kepalamu.’ Saya pikir dia sedang digiring dari gunung, yang biasa terjadi dalam bermain ski. Jadi saya mulai panik.”

Saat teriakan minta tolong berlanjut di latar belakang, suara laki-laki yang dalam mulai mengeluarkan perintah: “Dengar. Aku punya putrimu. Kamu panggil polisi, panggil siapa saja, aku akan memberinya sesuatu yang penuh obat-obatan. Aku Aku akan pergi bersamanya lalu mengantarnya ke Meksiko, dan kamu tidak akan pernah melihatnya lagi.”

DeStefano membeku. Kemudian dia berlari ke studio tari, gemetar dan berteriak minta tolong. Dia merasa seperti tiba-tiba tenggelam.

Setelah serangkaian peristiwa yang kacau dan cepat yang mencakup permintaan tebusan $ 1 juta, panggilan 911, dan upaya panik untuk menghubungi Brianna, “penculikan” itu terungkap sebagai penipuan. Brianna yang bingung menelepon untuk memberi tahu ibunya bahwa dia tidak tahu apa yang diributkan itu dan semuanya baik-baik saja.

Namun DeStefano, yang tinggal di Arizona, tidak akan pernah melupakan empat menit penuh teror dan kebingungan itu — dan suara menakutkan dari suara yang familier itu.

“Seorang ibu mengenal anaknya,” katanya kemudian. “Kamu bisa mendengar anakmu menangis di seberang gedung, dan kamu tahu itu milikmu.”

AI TELAH MEMBUAT PENIPUAN PENculikan LEBIH DIPERCAYA

Telepon masuk pada 20 Januari sekitar pukul 16:55 DeStefano baru saja berhenti di luar studio tari di Scottsdale, dekat Phoenix.

DeStefano sekarang yakin dia adalah korban penipuan penculikan virtual yang menargetkan orang-orang di seluruh negeri, menakut-nakuti mereka dengan audio yang diubah dari suara orang yang dicintai dan meminta uang. Di Amerika Serikat, keluarga kehilangan rata-rata $11.000 dalam setiap penipuan penculikan palsu, kata Siobhan Johnson, agen khusus dan juru bicara FBI di Chicago.

Secara keseluruhan, orang Amerika kehilangan $2,6 miliar tahun lalu dalam penipuan palsu, menurut data dari Federal Trade Commission.

Dalam audio panggilan 911 yang disediakan oleh Departemen Kepolisian Scottsdale, seorang ibu di studio tari mencoba menjelaskan kepada operator apa yang terjadi.

“Jadi, seorang ibu baru saja masuk, dia menerima telepon dari seseorang yang memiliki putrinya … seperti penculik di telepon mengatakan dia menginginkan satu juta dolar,” kata ibu lainnya. “Dia tidak akan membiarkan dia berbicara dengan putrinya.”

Di latar belakang, DeStefano terdengar berteriak, “Saya ingin berbicara dengan putri saya!”

Petugas operator segera mengidentifikasi panggilan itu sebagai tipuan.

“Jadi itu penipuan yang sangat populer,” katanya. “Apakah mereka memintanya untuk mengambil kartu hadiah dan hal-hal seperti itu?”

Penipuan penipu telah ada selama bertahun-tahun. Terkadang, penelepon menghubungi kakek-nenek dan mengatakan bahwa cucu mereka mengalami kecelakaan dan membutuhkan uang. Penculik palsu telah menggunakan rekaman generik dari orang-orang yang berteriak.

Tetapi pejabat federal memperingatkan skema semacam itu semakin canggih, dan beberapa yang baru-baru ini memiliki satu kesamaan: suara yang dikloning. Pertumbuhan program kecerdasan buatan (AI) yang murah dan dapat diakses telah memungkinkan penipu untuk mengkloning suara dan membuat potongan dialog yang terdengar seperti tawanan mereka.

“Ancamannya tidak hipotetis – kita melihat scammer mempersenjatai alat ini,” kata Hany Farid, seorang profesor ilmu komputer di University of California, Berkeley dan anggota Lab Kecerdasan Buatan Berkeley.

“Kloning yang cukup bagus dapat dibuat dengan audio kurang dari satu menit dan beberapa mengklaim bahwa bahkan beberapa detik saja sudah cukup,” tambahnya. “Tren selama beberapa tahun terakhir adalah semakin sedikit data yang diperlukan untuk membuat pemalsuan yang meyakinkan.”

Dengan bantuan perangkat lunak AI, kloning suara dapat dilakukan hanya dengan $5 per bulan, membuatnya mudah diakses oleh siapa saja, kata Farid.

Komisi Perdagangan Federal memperingatkan bulan lalu bahwa scammer bisa mendapatkan klip audio dari postingan media sosial korban.

“Seorang scammer dapat menggunakan AI untuk mengkloning suara orang yang Anda cintai,” kata agensi tersebut dalam sebuah pernyataan. “Yang dia butuhkan hanyalah klip audio pendek dari suara anggota keluarga Anda – yang bisa dia dapatkan dari konten yang diposting online – dan program kloning suara. Ketika scammer menelepon Anda … (itu akan) terdengar seperti orang yang Anda cintai. “

Hingga hari itu, DeStefano belum pernah mendengar skema penculikan virtual. Penegakan hukum belum memverifikasi apakah AI digunakan dalam kasusnya, tetapi DeStefano yakin penipu mengkloning suara putrinya.

Dia hanya tidak yakin bagaimana mereka mendapatkannya.

Brianna hadir di media sosial — akun TikTok pribadi dan akun Instagram publik dengan foto dan video dari acara balap ski miliknya. Tapi pengikutnya kebanyakan adalah teman dekat dan keluarga, kata DeStefano.

“Itu jelas suara suaranya,” katanya. “Itu adalah tangisan, itu adalah tangisan. Apa yang benar-benar membuatku sedih adalah bahwa dia bukan orang yang meratap. Dia bukan orang yang suka berteriak. Dia bukan orang yang aneh. Dia lebih bersifat internal, mencoba-untuk-menahan, mencoba-untuk- mengelola orang. Itulah yang membuat saya kesal. Itu adalah suaranya, cocok dengan tangisan.”

Hari itu di sanggar tari, DeStefano membujuk penelepon untuk menurunkan jumlah uang tebusan. Dia meminta putrinya, Aubrey, menggunakan teleponnya untuk menelepon Brianna atau ayahnya, yang bersamanya di sebuah resor ski 110 mil jauhnya di Arizona utara.

Jennifer DeStefano melakukan pertukaran pesan teks ini dengan putranya, Alex, ketika dia sedang berbicara di telepon dengan penculik yang mengaku. (Sumber Jennifer Destefano melalui CNN)

Aubrey, 13 tahun, gemetar dan menangis saat mendengarkan jeritan yang dia yakini sebagai jeritan saudara perempuannya.

“Aubrey … mendengar semua kekasaran tentang apa yang akan mereka lakukan dengan saudara perempuannya. Banyak sumpah serapah, ancaman,” kata DeStefano.

Ibu lain mengambil ponsel Aubrey dan mencoba menghubungi suami DeStefano dan Brianna. Saat itu, ancaman itu masih tampak nyata.

BANYAK SCAM TERSEBUT BERASAL DI MEKSIKO: FBI

Tidak ada data yang tersedia tentang berapa banyak orang yang menjadi sasaran penculik virtual setiap tahunnya.

Sebagian besar panggilan berasal dari Meksiko dan menargetkan AS barat daya, di mana terdapat komunitas Latin yang besar, kata Johnson, agen khusus FBI.

Di tengah-tengah telepon yang menyusahkan, orang tua atau kerabat yang putus asa sering kali tidak mempertanyakan apakah itu suara langsung dari orang yang mereka cintai, kata Johnson.

FBI belum memperhatikan peningkatan jumlah penculikan virtual di era baru AI, tetapi secara rutin mengeluarkan pengingat untuk mendidik orang tentang penipuan, kata Johnson.

“Kami tidak ingin orang panik. Kami ingin orang bersiap. Ini adalah kejahatan yang mudah digagalkan jika Anda tahu apa yang harus dilakukan sebelumnya,” kata Johnson.

Meskipun teknologi telah membuat deepfake menjadi perhatian utama, AI bukanlah masalahnya, tambahnya — masalahnya adalah para penjahat yang menggunakannya.

Farid, pakar AI, mengatakan bahwa sejauh yang dia tahu, perangkat lunak AI versi saat ini tidak dapat mengkloning suara untuk menampilkan berbagai macam emosi — seperti anak yang ketakutan.

Tapi dia mengatakan dia tidak bisa sepenuhnya mengesampingkan suara teriakan atau isak tangis sebagai buatan AI.

“Bisa jadi kloning bersuara berteriak sudah dekat dan/atau saya hanya tidak mengetahui beberapa teknologi yang memungkinkan untuk ini,” katanya.

PENELEPON MENURUNKAN TEBUSAN MENJADI $50K

Di studio dansa, beberapa menit yang menegangkan berlalu sebelum siapa pun dapat menghubungi Brianna, ayah atau kakaknya. Setelah DeStefano mengatakan bahwa dia tidak memiliki $1 juta, penelepon mengurangi uang tebusan menjadi $50.000, dan diskusi beralih ke petunjuk tentang cara mentransfer uang tersebut.

Ibu yang menelepon 911 mencoba meyakinkan DeStefano bahwa panggilan itu adalah penipuan, tetapi dia terlalu bingung untuk mempercayainya.

“Bantahan saya kepadanya adalah, ‘Itu Brie menangis.’ Kedengarannya seperti dia,” kata DeStefano. “Saya tidak percaya padanya, karena … suara (putri saya) sangat nyata, dan dia menangis dan semuanya begitu nyata.”

Penelepon kemudian memberi tahu dia karena kabel US$50.000 dapat dilacak, dia akan menjemputnya dengan van putih, meletakkan tas di atas kepalanya dan mengantarnya ke lokasi di mana dia bisa menyerahkan uangnya. “Kamu lebih baik memiliki semua uang tunai, atau kamu dan putrimu mati,” katanya.

DeStefano mencoba mengulur cukup waktu untuk kedatangan polisi.

“Dia bisu, saya melakukan percakapan ini dengan orang lain, dan kemudian saya akan membunyikannya dan berkata, ‘Halo, maaf, saya mencoba mencari cara untuk memberi Anda uang. Saya mencoba untuk melihat dari mana saya bisa menariknya – Anda tahu, apa pun yang bisa saya lakukan untuk membuat percakapan tetap berjalan.”

Ketika mereka berbicara tentang cara menukar uang, seseorang menyerahkan telepon kepada DeStefano. Itu adalah Brianna di ujung sana.

“Dia seperti, ‘Bu, aku di tempat tidur. Aku tidak tahu apa yang terjadi. Aku aman. Tidak apa-apa.'”

DeStefano yang marah menangis dan mengecam penelepon karena berbohong. Dia bersikeras dia memiliki putrinya dan melanjutkan tuntutannya akan uang. Dia menutup teleponnya dan memanggil polisi.

TIPS UNTUK MENGGAGAL PENCURI PALSU

DeStefano mengatakan hari itu mengubah cara dia menjawab panggilan telepon. Dia berhati-hati dalam menjawab panggilan yang tidak dikenal dan jarang mengucapkan sepatah kata pun sampai penelepon melakukannya karena takut suaranya akan dikloning untuk penculikan virtual di masa mendatang. Dia mencoba mencari tahu bagaimana penculik virtual mendapatkan suara putrinya, dan telah mempertimbangkan beberapa skenario.

“Mereka bisa saja meneleponnya. Dia bisa saja menjawab telepon, berkata, ‘halo! Saya pernah menerima panggilan telepon itu sebelumnya ketika tidak ada orang di sana, dan Anda seperti,’ halo, halo! Otak saya sangat kacau. banyak, saya tidak bisa mengetahuinya,” katanya.

Namun tidak semua orang mampu menggagalkan penculikan palsu seperti yang dilakukan DeStefano. Johnson dari FBI membagikan beberapa tip tentang cara menghindari penipuan:

Jangan memposting informasi tentang perjalanan yang akan datang di media sosial — ini memberikan kesempatan bagi penipu untuk menargetkan keluarga Anda. “Jika Anda di udara, ibumu tidak bisa menelepon untuk memastikan Anda baik-baik saja,” kata Johnson.

Buat kata sandi keluarga. Jika seseorang menelepon dan mengatakan bahwa mereka telah menculik anak Anda, Anda dapat memberi tahu mereka untuk menanyakan kata sandi kepada anak tersebut.

Jika Anda mendapat telepon seperti itu, beri diri Anda waktu ekstra untuk membuat rencana dan memberi tahu penegak hukum. “Tulis catatan untuk orang lain di rumah dan beri tahu mereka apa yang terjadi. Hubungi seseorang,” kata Johnson.

Jika Anda berada di tengah-tengah penculikan virtual dan ada orang lain di rumah itu, minta mereka menelepon 911 dan mendesak operator untuk memberi tahu FBI.

Berhati-hatilah dalam memberikan informasi keuangan kepada orang asing melalui telepon. Penculik virtual sering kali meminta uang tebusan melalui layanan transfer kawat, mata uang kripto, atau kartu hadiah.

Yang terpenting, jangan percaya suara yang Anda dengar saat menelepon. Jika Anda tidak dapat menghubungi orang yang Anda kasihi, mintalah anggota keluarga, teman, atau orang lain di ruangan untuk mencoba menghubungi mereka untuk Anda.