WASHINGTON –
Insinyur komputer dan ilmuwan politik yang cenderung teknologi telah memperingatkan selama bertahun-tahun bahwa alat kecerdasan buatan yang murah dan kuat akan segera memungkinkan siapa pun membuat gambar, video, dan audio palsu yang cukup realistis untuk menipu pemilih dan mungkin mempengaruhi pemilihan.
Gambar sintetik yang muncul seringkali kasar, tidak meyakinkan, dan mahal untuk diproduksi, terutama ketika jenis misinformasi lainnya begitu murah dan mudah disebarkan di media sosial. Ancaman yang ditimbulkan oleh AI dan apa yang disebut deepfake selalu tampak satu atau dua tahun lagi.
Tidak lagi.
Alat AI generatif yang canggih kini dapat membuat kloning suara manusia dan gambar, video, dan audio hiper-realistis dalam hitungan detik, dengan biaya minimal. Ketika diikat ke algoritme media sosial yang kuat, konten palsu dan dibuat secara digital ini dapat menyebar jauh dan cepat dan menargetkan audiens yang sangat spesifik, berpotensi membawa trik kotor kampanye ke titik terendah baru.
Implikasinya untuk kampanye dan pemilu 2024 sama besarnya dengan meresahkan: Generatif AI tidak hanya dapat dengan cepat menghasilkan email, teks, atau video kampanye yang ditargetkan, tetapi juga dapat digunakan untuk menyesatkan pemilih, meniru identitas kandidat, dan merusak pemilu dalam skala dan di kecepatan yang belum terlihat.
“Kami tidak siap untuk ini,” AJ Nash memperingatkan, wakil presiden intelijen di perusahaan keamanan siber ZeroFox. “Bagi saya, lompatan besar ke depan adalah kemampuan audio dan video yang telah muncul. Ketika Anda bisa melakukannya dalam skala besar, dan mendistribusikannya di platform sosial, itu akan berdampak besar.”
Pakar AI dapat dengan cepat mengungkapkan sejumlah skenario yang mengkhawatirkan di mana AI generatif digunakan untuk membuat media sintetis untuk tujuan membingungkan pemilih, memfitnah kandidat, atau bahkan menghasut kekerasan.
Berikut beberapa di antaranya: Pesan robocall otomatis, dengan suara kandidat, menginstruksikan pemilih untuk memberikan suara pada tanggal yang salah; rekaman audio seorang kandidat yang mengaku melakukan kejahatan atau mengungkapkan pandangan rasis; rekaman video yang menunjukkan seseorang memberikan pidato atau wawancara yang tidak pernah mereka berikan. Gambar palsu yang dirancang agar terlihat seperti laporan berita lokal, secara keliru mengklaim seorang kandidat keluar dari pencalonan.
“Bagaimana jika Elon Musk secara pribadi menelepon Anda dan menyuruh Anda memilih kandidat tertentu?” kata Oren Etzioni, CEO pendiri Allen Institute for AI, yang mengundurkan diri tahun lalu untuk memulai AI2 nirlaba. “Banyak orang akan mendengarkan. Tapi itu bukan dia.”
Mantan presiden AS Donald Trump, yang mencalonkan diri pada tahun 2024, telah membagikan konten buatan AI kepada para pengikutnya di media sosial. Video yang dimanipulasi dari pembawa acara CNN Anderson Cooper yang dibagikan Trump di platform Truth Social miliknya pada hari Jumat, yang mendistorsi reaksi Cooper terhadap balai kota CNN minggu lalu dengan Trump, dibuat menggunakan alat kloning suara AI.
Sebuah iklan kampanye distopia yang dirilis bulan lalu oleh Komite Nasional Partai Republik menawarkan gambaran sekilas tentang masa depan yang dimanipulasi secara digital ini. Iklan online, yang muncul setelah Presiden Joe Biden mengumumkan kampanye pemilihannya kembali, dan dimulai dengan gambar Biden yang aneh dan sedikit menyesatkan serta teks “Bagaimana jika presiden terlemah yang pernah kita miliki terpilih kembali?”
Serangkaian gambar yang dihasilkan AI mengikuti: Taiwan diserang; menutup etalase toko di Amerika Serikat saat ekonomi runtuh; tentara dan kendaraan militer lapis baja berpatroli di jalan-jalan lokal saat penjahat bertato dan gelombang imigran menciptakan kepanikan.
“Pandangan yang dihasilkan oleh AI ke dalam kemungkinan masa depan negara jika Joe Biden terpilih kembali pada tahun 2024,” bunyi deskripsi iklan dari RNC.
RNC mengakui penggunaan AI, tetapi yang lain, termasuk kampanye politik jahat dan musuh asing, tidak akan melakukannya, kata Petko Stoyanov, kepala petugas teknologi global di Forcepoint, sebuah perusahaan keamanan siber yang berbasis di Austin, Texas. Stoyanov meramalkan bahwa kelompok yang ingin mencampuri demokrasi AS akan menggunakan AI dan media sintetik sebagai cara untuk mengikis kepercayaan.
“Apa yang terjadi jika entitas internasional –penjahat dunia maya atau negara bangsa– menyamar sebagai seseorang. Apa dampaknya? Apakah kita punya jalan lain?” kata Stoyanov. “Kita akan melihat lebih banyak informasi yang salah dari sumber internasional.”
Disinformasi politik yang dihasilkan oleh AI telah menjadi viral secara online menjelang pemilihan 2024, dari video yang direkayasa dari Biden yang tampaknya memberikan pidato yang menyerang orang transgender hingga gambar anak-anak yang dihasilkan oleh AI yang seharusnya mempelajari satanisme di perpustakaan.
Gambar AI yang muncul untuk menunjukkan tembakan mug Trump juga menipu beberapa pengguna media sosial meskipun mantan presiden tidak mengambilnya ketika dia dipesan dan didakwa di pengadilan pidana Manhattan karena memalsukan catatan bisnis. Gambar lain yang dihasilkan AI menunjukkan Trump menolak penangkapan, meskipun pembuatnya dengan cepat mengakui asal usulnya.
Undang-undang yang mengharuskan kandidat untuk memberi label iklan kampanye yang dibuat dengan AI telah diperkenalkan di DPR oleh Rep. Yvette Clarke, DN.Y., yang juga mensponsori undang-undang yang mengharuskan siapa pun yang membuat gambar sintetik untuk menambahkan tanda air yang menunjukkan fakta.
Beberapa negara bagian telah menawarkan proposal mereka sendiri untuk mengatasi kekhawatiran tentang deepfake.
Clarke mengatakan ketakutan terbesarnya adalah bahwa AI generatif dapat digunakan sebelum pemilu 2024 untuk membuat video atau audio yang memicu kekerasan dan membuat orang Amerika saling bermusuhan.
“Penting bagi kami untuk mengikuti perkembangan teknologi,” kata Clarke kepada The Associated Press. “Kita harus memasang beberapa pagar pembatas. Orang bisa ditipu, dan itu hanya butuh sepersekian detik. Orang-orang sibuk dengan kehidupan mereka dan mereka tidak punya waktu untuk memeriksa setiap informasi. AI dipersenjatai, di musim politik, itu bisa sangat mengganggu.”
Awal bulan ini, sebuah asosiasi perdagangan untuk konsultan politik di Washington mengutuk penggunaan deepfake dalam iklan politik, menyebut mereka “penipuan” dengan “tidak ada tempat dalam kampanye yang sah dan etis.”
Bentuk kecerdasan buatan lainnya selama bertahun-tahun telah menjadi fitur kampanye politik, menggunakan data dan algoritme untuk mengotomatiskan tugas seperti menargetkan pemilih di media sosial atau melacak donor. Ahli strategi kampanye dan pengusaha teknologi berharap inovasi terbaru juga akan menawarkan beberapa hal positif di tahun 2024.
Mike Nellis, CEO dari agensi digital progresif Authentic, mengatakan dia menggunakan ChatGPT “setiap hari” dan mendorong stafnya untuk menggunakannya juga, selama konten apa pun yang disusun dengan alat tersebut ditinjau oleh mata manusia sesudahnya.
Proyek terbaru Nellis, bermitra dengan Higher Ground Labs, adalah alat AI bernama Quiller. Itu akan menulis, mengirim, dan mengevaluasi keefektifan email penggalangan dana — semua tugas yang biasanya membosankan dalam kampanye.
“Idenya adalah setiap ahli strategi Demokrat, setiap kandidat Demokrat akan memiliki kopilot di sakunya,” katanya.
——
Swenson melaporkan dari New York.
——
Associated Press menerima dukungan dari beberapa yayasan swasta untuk meningkatkan liputan penjelasannya tentang pemilu dan demokrasi. AP bertanggung jawab penuh atas semua konten.
Toto HK hari ini dan di awalnya yang sudah kami catat terhadap tabel knowledge sgp prize paling lengkap ini tentu punyai banyak kegunaan bagi pemain. Dimana lewat information sgp harian ini pemain bisa melihat ulang semua hasil pengeluaran sgp tercepat dan paling baru hari ini. Bahkan togelmania sanggup memandang kembali seluruh nomor pengeluaran togel singapore yang sudah dulu berlangsung sebelumnya. Data sgp paling lengkap sajian kami ini tentu selalu mencatat seluruh nomor pengeluaran singapore yang sah bagi pemain.
Dengan menggunakan informasi knowledge pengeluaran sgp prize paling lengkap ini, Tentu para pemain memperoleh kemudahan mencari sebuah nomer hoki. Pasalnya pengeluaran sgp hari ini terhadap tabel knowledge togel singapura paling lengkap ini kerap digunakan pemain untuk memenangkan togel singapore hari ini. Namun selalu saja para togelers kudu lebih waspada di dalam melacak Info knowledge togel singapore pools ini. Pasalnya tidak semua web site pengeluaran sgp teranyar menyajikan knowledge singapore yang sebenarnya. Kesalahan Info togel singapore ini tentu mampu menyebabkan prediksi sgp jitu menjadi tidak akurat bagi para pemain.
sydney togel 2022 sebetulnya miliki kegunaan mutlak sehingga selamanya dicari oleh para pemain togel singapore. Dimana para master prediksi togel jitu sekalipun termasuk selamanya butuh knowledge sgp prize 2022 paling lengkap. Pasalnya untuk membuat sebuah angka main togel singapore yang jitu, Dibutuhkan sumber Info hasil keluaran sgp sah hari ini. Itulah mengapa seluruh web site keluaran sgp tercepat maupun bandar togel singapore online harus jalankan pengkinian no singapore berdasarkan singaporepools. Seperti yang kita ketahui, Satu-satunya pihak yang mengendalikan togel sgp di dunia adalah website resmi singapore pools itu sendiri.