Pada minggu ketiga perang Rusia di Ukraina, Volodymyr Zelensky muncul dalam sebuah video, mengenakan kemeja hijau tua, berbicara perlahan dan sengaja sambil berdiri di belakang podium kepresidenan putih yang menampilkan lambang negaranya. Kecuali kepalanya, tubuh presiden Ukraina hampir tidak bergerak saat dia berbicara. Suaranya terdengar terdistorsi dan hampir serak saat ia muncul untuk memberitahu Ukraina untuk menyerah ke Rusia.
“Saya meminta Anda untuk meletakkan senjata Anda dan kembali ke keluarga Anda,” katanya dalam bahasa Ukraina klip, yang dengan cepat diidentifikasi sebagai deepfake. “Perang ini tidak layak untuk mati. Saya menyarankan Anda untuk terus hidup, dan saya akan melakukan hal yang sama.”
Lima tahun yang lalu, tidak ada yang pernah mendengar tentang deepfake, file video dan audio yang tampak persuasif tetapi palsu yang dibuat dengan bantuan kecerdasan buatan. Sekarang, mereka digunakan untuk mempengaruhi jalannya perang. Selain video palsu Zelesnky, yang menjadi viral minggu lalu, ada video deepfake lain yang beredar luas yang menggambarkan Presiden Rusia Vladimir Putin yang diduga menyatakan perdamaian dalam perang Ukraina.
Pakar dalam disinformasi dan otentikasi konten telah mengkhawatirkan selama bertahun-tahun tentang potensi untuk menyebarkan kebohongan dan kekacauan melalui deepfake, terutama karena semakin terlihat realistis. Secara umum, deepfake telah meningkat pesat dalam waktu yang relatif singkat. Video viral tentang Tom Cruise palsu yang melakukan flip koin dan mengcover lagu-lagu Dave Matthews Band tahun lalu, misalnya, menunjukkan bagaimana deepfake dapat tampak nyata secara meyakinkan.
Tak satu pun dari video Zelensky atau Putin baru-baru ini yang mendekati nilai produksi tinggi TikTok Tom Cruise (mereka memiliki resolusi yang sangat rendah, untuk satu hal, yang merupakan taktik umum untuk menyembunyikan kekurangan.) Tapi para ahli masih menganggapnya berbahaya. Itu karena mereka menunjukkan kecepatan cahaya yang dengannya disinformasi berteknologi tinggi sekarang dapat menyebar ke seluruh dunia. Karena semakin umum, video deepfake mempersulit untuk membedakan fakta dari fiksi secara online, dan terlebih lagi selama perang yang sedang berlangsung secara online dan penuh dengan informasi yang salah. Bahkan deepfake yang buruk berisiko memperkeruh perairan lebih jauh.
“Begitu garis ini terkikis, kebenaran itu sendiri tidak akan ada,” kata Wael Abd-Almaged, profesor peneliti di University of Southern California dan direktur pendiri Laboratorium Analisis Visual dan Multimedia Sekolah. “Jika Anda melihat sesuatu dan Anda tidak bisa mempercayainya lagi, maka semuanya menjadi salah. Ini tidak seperti semuanya akan menjadi kenyataan. Hanya saja kita akan kehilangan kepercayaan pada apa saja dan segalanya.”
DEEPFAKE SELAMA PERANG
Kembali pada tahun 2019, ada kekhawatiran bahwa deepfake akan mempengaruhi pemilihan presiden AS 2020, termasuk peringatan pada saat itu dari Dan Coats, Direktur Intelijen Nasional AS saat itu. Tetapi itu tidak terjadi.
Siwei Lyu, direktur visi komputer dan lab pembelajaran mesin di Universitas di Albany, berpikir ini karena teknologinya “belum ada”. Tidak mudah untuk membuat deepfake yang bagus, yang membutuhkan pemulusan tanda-tanda yang jelas bahwa sebuah video telah diutak-atik (seperti kegugupan visual yang tampak aneh di sekitar bingkai wajah seseorang) dan membuatnya terdengar seperti orang di dalam video. video mengatakan apa yang tampaknya mereka katakan (baik melalui versi AI dari suara mereka yang sebenarnya atau aktor suara yang meyakinkan).
Sekarang, lebih mudah untuk membuat deepfake yang lebih baik, tetapi mungkin yang lebih penting, keadaan penggunaannya berbeda. Fakta bahwa mereka sekarang digunakan dalam upaya untuk mempengaruhi orang selama perang sangat merusak, para ahli mengatakan kepada CNN Business, hanya karena kebingungan yang mereka tabur bisa berbahaya.
Dalam keadaan normal, kata Lyu, deepfake mungkin tidak memiliki banyak dampak selain menarik minat dan mendapatkan daya tarik online. “Tetapi dalam situasi kritis, selama perang atau bencana nasional, ketika orang benar-benar tidak dapat berpikir secara rasional dan mereka hanya memiliki rentang perhatian yang sangat pendek, dan mereka melihat sesuatu seperti ini, saat itulah itu menjadi masalah,” dia menambahkan.
Membasmi misinformasi secara umum telah menjadi lebih kompleks selama perang di Ukraina. Invasi Rusia ke negara itu disertai dengan banjir informasi real-time yang menghantam platform sosial seperti Twitter, Facebook, Instagram, dan TikTok. Banyak dari itu nyata, tetapi beberapa palsu atau menyesatkan. Sifat visual dari apa yang dibagikan — bersama dengan seberapa sering emosional dan mendalamnya — dapat mempersulit untuk membedakan dengan cepat mana yang asli dan mana yang palsu.
Nina Schick, penulis “Deepfakes: The Coming Infocalypse,” melihat deepfake seperti Zelensky dan Putin sebagai tanda-tanda masalah disinformasi online yang jauh lebih besar, yang menurutnya perusahaan media sosial tidak cukup untuk menyelesaikannya. Dia berpendapat bahwa tanggapan dari perusahaan seperti Facebook, yang cepat berkata itu telah menghapus video Zelensky, sering “daun ara.”
“Anda sedang membicarakan satu video,” katanya. Masalah yang lebih besar tetap ada.
“BENAR-BENAR TIDAK ADA YANG MENGALAHKAN MATA MANUSIA”
Ketika deepfake menjadi lebih baik, para peneliti dan perusahaan berusaha mengikuti alat untuk menemukannya.
Abd-Almaged dan Lyu menggunakan algoritme untuk mendeteksi deepfake. Solusi Lyu, yang diberi nama DeepFake-o-meter, memungkinkan siapa saja mengunggah video untuk memeriksa keasliannya, meskipun ia mencatat bahwa perlu beberapa jam untuk mendapatkan hasilnya. Dan beberapa perusahaan, seperti penyedia perangkat lunak keamanan siber Zemana, juga sedang mengerjakan perangkat lunak mereka sendiri.
Namun, ada masalah dengan deteksi otomatis, seperti semakin rumit saat deepfake meningkat. Pada tahun 2018, misalnya, Lyu mengembangkan cara untuk menemukan video deepfake dengan melacak ketidakkonsistenan cara orang dalam video itu berkedip; kurang dari sebulan kemudian, seseorang membuat deepfake dengan kedipan realistis.
Lyu percaya bahwa orang pada akhirnya akan lebih baik dalam menghentikan video semacam itu daripada perangkat lunak. Dia akhirnya ingin melihat (dan tertarik untuk membantu) semacam program pemburu hadiah palsu yang muncul, di mana orang dibayar untuk membasmi mereka secara online. (Di Amerika Serikat, ada juga beberapa undang-undang untuk mengatasi masalah ini, seperti undang-undang California yang disahkan pada tahun 2019 yang melarang distribusi video atau audio yang menipu dari kandidat politik dalam waktu 60 hari setelah pemilihan.)
“Kami akan melihat ini lebih sering, dan mengandalkan perusahaan platform seperti Google, Facebook, Twitter mungkin tidak cukup,” katanya. “Tidak ada yang benar-benar mengalahkan mata manusia.”
Posted By : angka keluar hk