Science

Kelimpahan posting media sosial, perpecahan politik menjadi tantangan bagi moderator konten

TORONTO –

Leigh Adams telah melihat peningkatan materi yang stabil untuk ditinjau sejak dia mulai memoderasi komentar pengguna di situs web kira-kira 14 tahun yang lalu, tetapi dia mengatakan volumenya hanya meledak dalam beberapa tahun terakhir karena sifat konten menjadi sangat memecah belah, hanya ada satu kata untuk itu: “Boker.”

Informasi yang salah, trolling, dan yang lebih buruk selalu ada secara online, tetapi Adams mengatakan dia melihat perubahan setelah AS memilih presiden Donald Trump pada tahun 2016 yang mencapai puncak baru ketika George Floyd, seorang pria kulit hitam di Minneapolis, terbunuh dalam tahanan polisi pada Mei 2020, memicu ketegangan rasial saat dunia dikunci karena pandemi COVID-19.

“Itu benar-benar badai yang sempurna … Internet sudah berjuang pada waktu itu dengan, ‘Bagaimana kita mendamaikan anonimitas dan akuntabilitas? Bagaimana kita memastikan untuk memperkuat suara mereka yang mungkin tidak terdengar?”‘ kata Adams , direktur layanan moderasi di Viafoura, bisnis Toronto yang meninjau konten pengguna untuk penerbit.

“Kami belum menyelesaikannya dan kami masih belum menyelesaikannya, tetapi kemudian Anda memiliki (peristiwa) ini di atasnya, itu hanya memperburuk situasi yang buruk.”

Adams melihat Trump keluar dari kantor dan kembalinya kegiatan pra-pandemi sedikit memadamkan “retorika yang meradang” yang dilihat oleh lebih dari 800 klien Viafoura, yang meliputi merek media CBC, Postmedia, dan Sportsnet.

Tapi dia mengharapkan “pembengkakan” di masa depan dan perusahaan moderasi konten lainnya mengatakan mereka tidak mendeteksi tanda-tanda signifikan dari serangan gencar surut. Sepertinya mengikuti volume akan berarti mengatasi serangkaian tantangan yang terus berkembang.

Moderator memperkirakan kesalahan informasi kesehatan terus menyebar dengan merajalela, poster yang meragukan menjadi lebih canggih dalam upaya mereka untuk mengganggu platform dan banyak peraturan baru yang menargetkan bahaya online di Kanada dan luar negeri.

“Saya tidak melihat permintaan menurun dalam waktu dekat, terlepas dari semua pembicaraan tentang resesi,” kata Siobhan Hanna, direktur pelaksana Telus International dan wakil presiden global kecerdasan buatan.

“Baik atau buruk, kebutuhan moderasi konten ini akan terus tumbuh, tetapi kebutuhan akan solusi mitigasi risiko yang lebih cerdas, efisien, bijaksana, representatif, dan representatif untuk menangani peningkatan permintaan.”

Hanna mengatakan video menjadi salah satu area yang paling menantang karena moderator tidak lagi hanya meninjau klip yang menggambarkan kekerasan, ketidaksenonohan, atau bahaya lain yang mungkin sulit untuk ditonton.

Sekarang ada juga yang disebut deep fakes — video di mana wajah atau tubuh seseorang telah disambungkan secara digital ke dalam bingkai sehingga mereka tampak melakukan atau mengatakan hal-hal yang tidak pernah mereka lakukan.

Teknologi ini muncul secara mencolok di TikTok, ketika artis efek visual Chris Ume menyebarkan klip yang mengaku sebagai aktor Tom Cruise bermain trik kartu, makan permen lolipop dan menampilkan lagu Dave Matthews Band “Crash Into Me.”

“Saya tidak berpikir siapa pun akan dirugikan oleh … video yang dia buat, tetapi itu juga membuat kita semua terbiasa dengan kepalsuan yang mendalam ini dan mungkin mengalihkan perhatian kita dari aplikasi yang lebih jahat, di mana itu dapat memengaruhi jalannya pemilihan, atau itu bisa mempengaruhi hasil perawatan kesehatan atau keputusan yang dibuat seputar kejahatan,” kata Hanna.

Di Irlandia misalnya, video yang diduga menggambarkan kandidat politik Diane Forsythe dan Cara Hunter melakukan tindakan seksual beredar saat mereka mencalonkan diri awal tahun ini.

“Saya tidak pernah berhenti terkejut,” kata Adams. “Anda melihat hal terburuk dan kemudian sesuatu yang lain muncul, Anda berpikir, ‘apa yang mungkin terjadi selanjutnya?”‘

Timnya baru-baru ini menemukan foto yang tampak seperti matahari terbenam pada pandangan pertama, tetapi 17 lapisan di belakang, menunjukkan seorang wanita telanjang.

“Jika kita tidak memiliki lima orang yang melihat itu, itu akan hidup dan di atas sana,” katanya.

“Ini semakin canggih dan Anda harus menemukan alat kecerdasan buatan (AI) baru yang akan terus menggali lebih dalam.”

Sebagian besar perusahaan mengandalkan campuran moderator manusia dan sistem berbasis AI untuk meninjau konten, tetapi banyak seperti Google telah mengakui sistem berbasis mesin “tidak selalu seakurat atau sedetail dalam analisis konten mereka seperti pengulas manusia.”

Adams melihat kebodohan AI ketika orang menemukan dan mempopulerkan istilah baru — “seggs” alih-alih seks, “tidak hidup” daripada mati dan “tidak melihat” alih-alih “Nazi” — untuk menghindari ditandai oleh moderator, filter keamanan, dan pengawasan orang tua.

“Dalam jumlah waktu yang dibutuhkan mesin untuk mempelajarinya, siklus berita itu sudah berakhir dan kita menuju sesuatu yang lain karena mereka menemukan cara baru untuk mengatakannya,” kata Adams.

Tetapi manusia juga tidak sempurna dan seringkali tidak dapat mengikuti volume konten saja.

Two Hat, perusahaan moderasi Kelowna, BC yang digunakan oleh merek game Nintendo Switch dan Rovio dan dimiliki oleh Microsoft, berubah dari memproses 30 miliar komentar dan percakapan sebulan sebelum krisis kesehatan menjadi 90 miliar pada April 2020. Microsoft Kanada tidak memberikan informasi terbaru. angka, dengan juru bicara Lisa Gibson mengatakan perusahaan tidak dapat membahas tren saat ini.

Facebook, Instagram, Twitter, YouTube, dan Google memperingatkan pengguna pada tahun 2020 bahwa mereka membutuhkan waktu lebih lama untuk menghapus posting berbahaya ketika pandemi dimulai dan staf mundur, di mana melihat konten sensitif lebih sulit dan dalam beberapa kasus, dilarang karena alasan keamanan.

Ketika ditanya apakah backlog telah dihapus, Twitter menolak berkomentar dan Facebook dan Instagram tidak menanggapi. Google untuk sementara mengandalkan lebih banyak teknologi untuk menghapus konten yang melanggar pedomannya saat pandemi dimulai, yang menyebabkan peningkatan total penghapusan video, kata juru bicara Zaitoon Murji. Perusahaan mengharapkan untuk melihat penurunan penghapusan video karena mengurangi teknologi itu karena lebih banyak moderator kembali ke kantor, tambahnya.

Saat backlog terbentuk, negara-negara memperkuat sikap mereka terhadap konten berbahaya.

Uni Eropa baru-baru ini mencapai kesepakatan penting yang mengharuskan penghapusan segera bahan berbahaya secara online, sementara Kanada berjanji untuk segera mengajukan RUU memerangi kebencian online, setelah iterasi sebelumnya ditangguhkan di tengah pemilihan federal.

Adams mengatakan konvergensi COVID-19, kebangkitan Trump, dan pembunuhan Floyd membuat penerbit lebih bersedia mengambil sikap menentang konten bermasalah seperti ujaran kebencian dan misinformasi kesehatan. Perundang-undangan, yang dapat bervariasi di berbagai negara dan sering dibiarkan sampai interpretasi, dapat mengakibatkan perusahaan memiliki toleransi yang lebih sedikit dan mengambil apa pun yang berisiko dianggap bermasalah, katanya.

Taruhannya tinggi karena membiarkan terlalu banyak konten bermasalah pada platform dapat membuatnya tidak aman, tetapi menghapus terlalu banyak juga dapat mengganggu kebebasan berbicara, kata Anatoliy Gruzd, profesor manajemen teknologi informasi Universitas Metropolitan Toronto.

“Dari sisi pengguna, itu mungkin terasa seperti tidak ada cukup upaya untuk membuat platform menjadi tempat yang ramah dan aman bagi semua orang, dan sebagian itu karena platform menjadi sangat besar, dengan jutaan dan miliaran pengguna sekaligus,” katanya.

Gruzd tidak melihat keseimbangan antara keamanan dan kebebasan menjadi lebih mudah seiring berkembangnya tambal sulam kebijakan, tetapi percaya masyarakat akan bergerak ke arah mempertimbangkan batasan dan apa yang dapat diterima atau tidak untuk diekspos.

Dia berkata, “Beberapa orang akan memilih dengan penggunaan mereka, apakah mereka berhenti menggunakan Facebook atau Twitter untuk hal-hal tertentu, mereka mungkin memutuskan untuk pergi ke platform lain dengan atau tanpa terlalu banyak moderasi atau mereka mungkin memutuskan untuk berhenti menggunakan media sosial sepenuhnya.”


Laporan The Canadian Press ini pertama kali diterbitkan pada 22 Mei 2022.

Data Keluaran HK hari ini dan pada mulanya yang sudah kami catat terhadap tabel information sgp prize paling lengkap ini pasti memiliki banyak kegunaan bagi pemain. Dimana melalui data sgp harian ini pemain mampu memandang kembali semua hasil pengeluaran sgp tercepat dan terbaru hari ini. Bahkan togelmania sanggup menyaksikan kembali seluruh nomor pengeluaran togel singapore yang udah dulu terjadi sebelumnya. Data sgp paling lengkap sajian kita ini pasti selamanya mencatat seluruh nomor pengeluaran singapore yang sah bagi pemain.

Dengan memanfaatkan informasi knowledge pengeluaran sgp prize paling lengkap ini, Tentu para pemain mendapatkan kemudahan melacak sebuah nomor hoki. Pasalnya pengeluaran sgp hari ini terhadap tabel information paito hk 2022 paling lengkap ini sering digunakan pemain untuk memenangkan togel singapore hari ini. Namun selalu saja para togelers harus lebih berhati-hati di dalam mencari Info knowledge togel singapore pools ini. Pasalnya tidak semua situs pengeluaran sgp terakhir menyajikan information singapore yang sebenarnya. Kesalahan Info togel singapore ini tentu sanggup sebabkan prediksi sgp jitu jadi tidak akurat bagi para pemain.

keluar hk 2022 2022 sebenarnya mempunyai kegunaan penting sehingga selamanya dicari oleh para pemain togel singapore. Dimana para master prediksi togel jitu samasekali termasuk selamanya membutuhkan knowledge sgp prize 2022 paling lengkap. Pasalnya untuk mengakibatkan sebuah angka main togel singapore yang jitu, Dibutuhkan sumber Info hasil keluaran sgp sah hari ini. Itulah mengapa seluruh situs keluaran sgp tercepat maupun bandar togel singapore online harus melakukan pengkinian nomor singapore berdasarkan singaporepools. Seperti yang kami ketahui, Satu-satunya pihak yang mengendalikan togel sgp di dunia adalah web site formal singapore pools itu sendiri.