YORK BARU –
Mantan presiden AS Donald Trump dihadang geng oleh petugas polisi Kota New York yang berpakaian anti huru hara. Presiden Rusia Vladimir Putin di penjara berwarna abu-abu di balik jeruji sel beton yang remang-remang.
Gambar-gambar yang sangat detail dan sensasional telah membanjiri Twitter dan platform lainnya dalam beberapa hari terakhir, di tengah berita bahwa Trump menghadapi kemungkinan tuntutan pidana dan Pengadilan Kriminal Internasional telah mengeluarkan surat perintah penangkapan untuk Putin.
Tapi tidak ada visual yang nyata. Gambar-gambar tersebut — dan sejumlah variasi yang berserakan di media sosial — diproduksi menggunakan generator gambar yang semakin canggih dan dapat diakses secara luas yang diberdayakan oleh kecerdasan buatan.
Pakar informasi yang salah memperingatkan bahwa gambar-gambar itu adalah pertanda dari realitas baru: gelombang foto dan video palsu membanjiri media sosial setelah acara berita besar dan lebih lanjut mengaburkan fakta dan fiksi pada saat-saat penting bagi masyarakat.
“Itu menambah kegaduhan selama peristiwa krisis. Itu juga meningkatkan tingkat sinisme,” kata Jevin West, seorang profesor di University of Washington di Seattle yang berfokus pada penyebaran informasi yang salah. “Anda mulai kehilangan kepercayaan pada sistem dan informasi yang Anda peroleh.”
Meskipun kemampuan untuk memanipulasi foto dan membuat gambar palsu bukanlah hal baru, alat pembuat gambar AI oleh Midjourney, DALL-E, dan lainnya lebih mudah digunakan. Mereka dapat dengan cepat menghasilkan gambar yang realistis — lengkap dengan latar belakang mendetail — dalam skala massal hanya dengan sedikit perintah teks sederhana dari pengguna.
Beberapa gambar baru-baru ini telah didorong oleh rilis bulan ini dari model sintesis teks-ke-gambar Midjourney bulan ini, yang dapat, antara lain, sekarang menghasilkan gambar yang meyakinkan meniru gaya foto kantor berita.
Dalam salah satu utas Twitter yang beredar luas, Eliot Higgins, pendiri Bellingcat, sebuah kolektif jurnalisme investigasi yang berbasis di Belanda, menggunakan versi terbaru alat tersebut untuk memunculkan sejumlah gambar dramatis penangkapan fiksi Trump.
Visual, yang telah dibagikan dan disukai puluhan ribu kali, menunjukkan kerumunan petugas berseragam menangkap miliarder Republik itu dan dengan kasar menariknya ke trotoar.
Higgins, yang juga berada di balik serangkaian gambar penangkapan Putin, diadili dan kemudian dipenjara, mengatakan bahwa dia memposting gambar tersebut tanpa niat buruk. Dia bahkan menyatakan dengan jelas di utas Twitter-nya bahwa gambar-gambar itu dihasilkan oleh AI.
Tetap saja, gambar-gambar itu cukup untuk membuatnya terkunci dari server Midjourney, menurut Higgins. Laboratorium penelitian independen yang berbasis di San Francisco tidak menanggapi email yang meminta komentar.
“Gambar penangkapan Trump benar-benar hanya dengan santai menunjukkan betapa baik dan buruknya Midjourney dalam menampilkan adegan nyata,” tulis Higgins dalam email. “Gambar-gambar itu mulai membentuk semacam narasi saat saya memasukkan petunjuk ke Midjourney, jadi saya merangkainya menjadi sebuah narasi, dan memutuskan untuk menyelesaikan ceritanya.”
Dia menunjukkan bahwa gambar-gambar itu jauh dari sempurna: di beberapa tempat, Trump terlihat, anehnya, mengenakan sabuk pengaman polisi. Di tempat lain, wajah dan tangan terdistorsi dengan jelas.
Tetapi tidak cukup bahwa pengguna seperti Higgins dengan jelas menyatakan dalam postingan mereka bahwa gambar-gambar tersebut dibuat oleh AI dan semata-mata untuk hiburan, kata Shirin Anlen, teknolog media di Witness, sebuah organisasi hak asasi manusia berbasis di New York yang berfokus pada bukti visual.
Terlalu sering, visual dengan cepat dibagikan ulang oleh orang lain tanpa konteks penting itu, katanya. Memang, sebuah posting Instagram yang membagikan beberapa gambar Higgins tentang Trump seolah-olah itu asli mengumpulkan lebih dari 79.000 suka.
“Anda hanya melihat sebuah gambar, dan begitu Anda melihat sesuatu, Anda tidak dapat mengabaikannya,” kata Anlen.
Dalam contoh lain baru-baru ini, pengguna media sosial membagikan gambar sintetik yang diduga menangkap Putin sedang berlutut dan mencium tangan pemimpin China Xi Jinping. Gambar yang beredar saat presiden Rusia menyambut Xi ke Kremlin minggu ini, dengan cepat menjadi meme kasar.
Tidak jelas siapa yang membuat gambar itu atau alat apa yang mereka gunakan, tetapi beberapa petunjuk mengungkap pemalsuan itu. Misalnya, kepala dan sepatu kedua pemimpin sedikit terdistorsi, dan interior ruangan tidak cocok dengan ruangan tempat pertemuan sebenarnya berlangsung.
Dengan gambar sintetik yang semakin sulit dibedakan dari aslinya, cara terbaik untuk memerangi misinformasi visual adalah kesadaran dan pendidikan publik yang lebih baik, kata para ahli.
“Ini menjadi sangat mudah dan sangat murah untuk membuat gambar-gambar ini sehingga kita harus melakukan apapun yang kita bisa untuk membuat publik sadar betapa bagusnya teknologi ini,” kata West.
Higgins menyarankan perusahaan media sosial dapat fokus pada pengembangan teknologi untuk mendeteksi gambar yang dihasilkan AI dan mengintegrasikannya ke dalam platform mereka.
Twitter memiliki kebijakan yang melarang “media sintetis, yang dimanipulasi, atau di luar konteks” yang berpotensi menipu atau merugikan. Anotasi dari Catatan Komunitas, proyek pemeriksaan fakta yang bersumber dari kerumunan Twitter, dilampirkan ke beberapa tweet untuk menyertakan konteks bahwa gambar Trump dihasilkan oleh AI.
Ketika dihubungi untuk memberikan komentar pada hari Kamis, perusahaan hanya mengirim email balasan otomatis.
Meta, perusahaan induk Facebook dan Instagram, menolak berkomentar. Beberapa gambar Trump palsu diberi label sebagai “salah” atau “konteks yang hilang” melalui program pemeriksaan fakta pihak ketiga, di mana AP adalah salah satu pesertanya.
Arthur Holland Michel, seorang rekan di Carnegie Council for Ethics in International Affairs di New York yang fokus pada teknologi baru, mengatakan dia khawatir dunia belum siap menghadapi banjir yang akan datang.
Dia bertanya-tanya bagaimana deepfake yang melibatkan orang biasa — foto palsu berbahaya dari mantan pasangan atau kolega, misalnya — akan diatur.
“Dari perspektif kebijakan, saya tidak yakin kita siap menghadapi skala disinformasi ini di setiap lapisan masyarakat,” tulis Michel dalam email. “Menurut saya, dibutuhkan terobosan teknis yang belum terbayangkan untuk menghentikan ini secara definitif.”
——
Reporter Associated Press David Klepper di Washington berkontribusi pada cerita ini.
toto hk hari ini dan sebelumnya yang sudah kami catat terhadap tabel information sgp prize paling lengkap ini pasti memiliki banyak manfaat bagi pemain. Dimana lewat information sgp harian ini pemain bisa lihat lagi semua hasil pengeluaran sgp tercepat dan terbaru hari ini. Bahkan togelmania dapat menyaksikan ulang seluruh nomor pengeluaran togel singapore yang udah dulu terjadi sebelumnya. Data sgp paling lengkap sajian kita ini pasti selalu mencatat semua nomor pengeluaran singapore yang sah bagi pemain.
Dengan memakai informasi knowledge pengeluaran sgp prize paling lengkap ini, Tentu para pemain meraih kemudahan melacak sebuah nomer hoki. Pasalnya pengeluaran sgp hari ini pada tabel knowledge Pengeluaran Sydney paling lengkap ini sering digunakan pemain untuk memenangkan togel singapore hari ini. Namun selalu saja para togelers perlu lebih berhati-hati didalam melacak informasi data togel singapore pools ini. Pasalnya tidak semua web site pengeluaran sgp terbaru menyajikan knowledge singapore yang sebenarnya. Kesalahan Info togel singapore ini pasti bisa mengakibatkan prediksi sgp jitu jadi tidak akurat bagi para pemain.
keluar hk 2022 memang miliki kegunaan mutlak sehingga tetap dicari oleh para pemain togel singapore. Dimana para master prediksi togel jitu samasekali juga senantiasa memerlukan information sgp prize 2022 paling lengkap. Pasalnya untuk sebabkan sebuah angka main togel singapore yang jitu, Dibutuhkan sumber Info hasil keluaran sgp sah hari ini. Itulah mengapa seluruh web site keluaran sgp tercepat maupun bandar togel singapore online harus melaksanakan pengkinian nomer singapore berdasarkan singaporepools. Seperti yang kita ketahui, Satu-satunya pihak yang mengendalikan togel sgp di dunia adalah situs resmi singapore pools itu sendiri.