Pelecehan menjadi perhatian yang berkembang dalam realitas virtual

Jika Anda percaya Mark Zuckerberg, masa depan adalah virtual.

Tahun lalu, Meta menggelontorkan US$10 miliar ke Facebook Reality Labs, bagian dari perusahaan yang mengembangkan gadget dan perangkat lunak virtual dan augmented-reality. Divisi ini bertanggung jawab untuk mewujudkan visi pendiri Facebook tentang dunia di mana realitas virtual dan augmented reality mengubah segalanya, mulai dari berbelanja bahan makanan hingga berkumpul dengan teman-teman.

Zuckerberg melangkah lebih jauh dengan mengubah nama perusahaan perusahaan dari Facebook menjadi Meta tahun lalu — sebuah langkah yang mencerminkan fokusnya dalam membangun apa yang disebut metaverse, yang merupakan konsep sci-fi yang pada dasarnya membayangkan versi internet yang imersif. Dan Meta telah mengatakan akan menginvestasikan lebih dari US$10 miliar untuk beberapa tahun ke depan.

Sebagai salah satu pemenang besar Web 2.0 — dengan rampasan termasuk sumber daya yang sangat besar dan miliaran pengguna — Meta diposisikan secara unik untuk membentuk apa yang akan terjadi selanjutnya di internet. Dan itu berusaha untuk menjaga visi metaverse di depan dan di tengah: Zuckerberg mengatakan minggu lalu bahwa perusahaan akan meluncurkan versi desktop dari aplikasi VR sosial andalannya, Horizon Worlds, akhir tahun ini sehingga orang dapat mengalaminya tanpa headset (perusahaan telah juga berbicara tentang versi seluler aplikasi). Dia menambahkan bahwa, di masa depan, Anda akan diwujudkan oleh Meta avatar Anda — versi kartun yang dapat disesuaikan dari diri Anda yang digunakan untuk menavigasi aplikasi — tepat saat Anda memakai headset, “siap untuk berinteraksi di Horizon dengan teman-teman Anda.”

Dengan pergeseran ke metaverse ini, perusahaan harus melihat awal yang baru dari kesalahan masa lalu, seperti skandal Cambridge Analytica dan misinformasi yang merajalela mengganggu Facebook. Tapi sudah ada satu masalah yang dilaporkan beberapa pengguna muncul di ruang yang baru lahir: pelecehan dan perilaku yang tidak diinginkan lainnya, terutama di aplikasi dan game VR sosial, termasuk di Horizon Worlds. Insiden yang baru-baru ini dilaporkan termasuk komentar menjengkelkan dan rasis yang dilontarkan oleh avatar orang lain, serta meraba-raba dan mencium.

Pelecehan memiliki sejarah panjang di ruang digital, tetapi media VR secara harfiah dapat membuatnya terasa jauh lebih nyata daripada di layar datar. Dan perusahaan di balik beberapa aplikasi VR sosial paling populer tidak ingin membicarakannya: Meta, bersama dengan aplikasi sosial realitas virtual populer VRChat dan Rec Room, menolak permintaan wawancara CNN Business tentang bagaimana mereka memerangi pelecehan di VR.

Tetapi masalahnya hampir pasti akan menjadi lebih umum karena headset yang lebih murah dan lebih kuat memacu semakin banyak orang untuk keluar dari teknologi: Anda saat ini dapat membeli Quest 2 seharga $ 299, membuatnya lebih murah (dan lebih mudah ditemukan) daripada Sony PlayStation 5.

“Menurut saya [harassment] adalah masalah yang harus kita tangani dengan serius di VR, terutama jika kita ingin menjadi ruang online yang ramah, ruang online yang beragam,” kata Daniel Castro, wakil presiden di Yayasan Teknologi & Inovasi Informasi. “Meskipun Anda melihat sangat buruk perilaku terjadi di dunia nyata, saya pikir itu bisa menjadi lebih buruk secara online.”

GELEMBUNG, BLOK, DAN MUTES

VR tidak dapat diakses oleh massa dalam semalam: Untuk Meta, ini dimulai dengan pembelian Oculus VR oleh perusahaan pada tahun 2014, dan pada tahun-tahun sejak perusahaan telah meluncurkan serangkaian headset yang semakin mampu, terjangkau, dan portabel. Pekerjaan itu membuahkan hasil, karena headset Meta’s Quest membentuk sekitar 80% dari headset VR yang dikirimkan tahun lalu, menurut Jitesh Ubrani, manajer riset di peneliti pasar teknologi IDC.

Dan karena semakin banyak orang menghabiskan waktu di VR, perilaku buruk yang dapat terjadi semakin fokus. Sulit untuk mengatakan seberapa luas pelecehan VR, tetapi laporan bulan Desember dari Center for Countering Digital Hate nirlaba memberikan gambaran tentang prevalensinya di VRChat. Di sana, peneliti mengidentifikasi 100 potensi pelanggaran kebijakan VR Meta, termasuk pelecehan dan pelecehan seksual, selama 11 jam dan 30 menit yang dihabiskan untuk merekam aktivitas pengguna. (Sementara VRChat menolak wawancara, Charles Tupper, kepala komunitas VRChat, memberikan perincian melalui email tentang alat keamanannya dan mengatakan bahwa perusahaan tersebut secara teratur memiliki lebih dari 80.000 orang yang menggunakan VRChat — mayoritas dari mereka dengan headset VR — selama waktu sibuk di akhir pekan. )

Dengan harapan menghentikan dan mencegah perilaku buruk, aplikasi VR sosial cenderung menawarkan sejumlah alat umum yang dapat digunakan orang. Alat-alat ini berkisar dari kemampuan untuk membuat gelembung ruang pribadi yang tidak terlihat di sekitar Anda untuk mencegah avatar lain datang terlalu dekat dengan Anda, hingga membisukan orang yang tidak ingin Anda dengar, hingga memblokir mereka sepenuhnya sehingga mereka tidak dapat melihat atau mendengar Anda dan sebaliknya.

Melaporkan perilaku buruk dan praktik moderasi yang diterapkan di VR bisa serupa dengan yang ada di game online. Pengguna terkadang dapat memilih untuk menendang seseorang keluar dari ruang VR — Saya mengalami ini secara langsung baru-baru ini ketika saya diminta untuk memilih apakah akan mengeluarkan seseorang dari alun-alun Meta’s Horizon Worlds setelah mereka berulang kali mendekati saya dan pengguna lain, dengan mengatakan, “Dengan bagaimana, aku lajang.” (Pengguna itu mendapatkan boot.) Moderator manusia juga digunakan untuk menanggapi keluhan perilaku buruk, dan aplikasi dapat menangguhkan atau melarang pengguna jika perilaku mereka cukup buruk.

Horizon Worlds, VRChat, dan Rec Room semuanya menawarkan fitur keamanan semacam ini. Horizon Worlds menambahkan zona penyangga standar empat kaki di sekitar avatar pengguna pada bulan Februari, sekitar tiga bulan setelah aplikasi diluncurkan. VRChat dan Rec Room, yang telah ada selama bertahun-tahun, juga memulai pengguna dengan zona buffer default.

“Langkah-langkah itu adalah arah yang benar,” kata Castro, meskipun dia menyadari bahwa berbagai aplikasi dan platform — serta ruang VR publik tempat siapa pun dapat mampir, versus ruang pribadi di mana undangan terbatas — akan datang dengan tantangan moderasi konten yang berbeda.

Alat-alat ini juga pasti akan berkembang seiring waktu, karena semakin banyak orang yang menggunakan VR. Dalam sebuah pernyataan, Bill Stillwell, manajer produk untuk integritas VR di Meta, mengatakan, “Kami akan terus melakukan peningkatan saat kami mempelajari lebih lanjut tentang bagaimana orang berinteraksi di ruang ini.”

BEBAN PADA KORBAN

Sementara beberapa alat saat ini dapat digunakan secara proaktif, banyak di antaranya hanya berguna setelah Anda dilecehkan, kata Guo Freeman, asisten profesor komputasi yang berpusat pada manusia di Universitas Clemson yang mempelajari game dan VR sosial. Karena itu, dia merasa mereka membebani korban.

Salah satu upaya untuk mempermudah menemukan dan melaporkan pelecehan datang dari perusahaan bernama Modulate. Perangkat lunaknya, yang dikenal sebagai ToxMod, menggunakan kecerdasan buatan untuk memantau dan menganalisis apa yang dikatakan pengguna, kemudian memprediksi ketika seseorang melontarkan bahasa yang melecehkan atau rasis, misalnya, dan tidak hanya terlibat dalam pembicaraan sampah. ToxMod kemudian dapat memperingatkan moderator manusia atau, dalam beberapa kasus, secara otomatis menonaktifkan pengguna yang menyinggung. Rec Room sedang mencobanya di beberapa ruang publik aplikasi VR.

Masuk akal bahwa pembuat aplikasi bergulat dengan tantangan moderasi yang datang dengan peningkatan, dan mempertimbangkan apakah jenis otomatisasi baru dapat membantu: Pasar VR masih kecil dibandingkan dengan video game konsol, tetapi berkembang pesat. IDC memperkirakan hampir 11 juta headset VR dikirimkan pada tahun 2021, yang merupakan lompatan 96% dari 5,6 juta yang dikirimkan setahun sebelumnya, kata Ubrani. Dalam kedua tahun tersebut, headset Meta’s Quest merupakan mayoritas dari pengiriman tersebut.

Dalam beberapa hal, ToxMod mirip dengan berapa banyak perusahaan media sosial yang telah memoderasi platform mereka, dengan kombinasi manusia dan AI. Tetapi perasaan kehadiran akut yang cenderung dialami pengguna di VR — dan fakta bahwa itu sangat bergantung pada komunikasi lisan, daripada komunikasi tertulis — dapat membuat beberapa orang merasa seolah-olah sedang dimata-matai. (Modulasi pengguna tersebut diberi tahu ketika mereka memasuki ruang virtual tempat ToxMod mungkin digunakan, dan ketika aplikasi atau game baru mulai menggunakan ToxMod, manajer komunitas Modulate biasanya akan berkomunikasi dengan pengguna secara online — seperti melalui saluran Discord game — untuk menjawab pertanyaan tentang cara kerjanya.)

“Ini jelas sesuatu yang kami menghabiskan banyak waktu untuk memikirkannya,” kata CEO Modulate Mike Pappas.

TIDAK ADA NORMA YANG DIDIRIKAN

Tantangan menyeluruh dalam menangani pelecehan VR adalah kurangnya kesepakatan tentang apa yang bahkan dianggap sebagai pelecehan di ruang virtual versus yang fisik. Sebagian, itu karena sementara VR itu sendiri bukanlah hal baru — sudah ada dalam inkarnasi yang berbeda selama beberapa dekade — itu baru sebagai media massa, dan hasilnya berubah sepanjang waktu.

Kebaruan ini berarti tidak ada norma yang ditetapkan, yang dapat menyulitkan siapa pun di belakang headset untuk mengetahui apa yang boleh atau tidak boleh dilakukan saat berinteraksi dengan orang lain di VR. Semakin banyak anak-anak yang datang ke ruang virtual juga, dan, seperti yang ditunjukkan Freeman, apa yang dilihat anak-anak sebagai bermain (seperti berlarian dan bertingkah liar) mungkin dilihat orang dewasa sebagai pelecehan.

“Sering kali dalam penelitian kami, peserta merasa sangat bingung apakah ini perilaku main-main atau pelecehan,” kata Freeman.

Pelecehan dalam VR juga dapat mengambil bentuk baru yang mungkin tidak dimiliki orang secara offline. Kelly Guillory, ilustrator buku komik dan editor majalah online tentang VR, memiliki pengalaman ini tahun lalu setelah memblokir mantan teman di VRChat yang mulai bertindak mengendalikan dan memiliki ledakan emosi.

Begitu dia memblokirnya, dia tidak bisa lagi melihat atau mendengarnya di VRChat. Tapi Guillory, secara menakutkan, masih bisa merasakan kehadirannya di dekatnya. Pada beberapa kesempatan saat dia terlibat dengan teman-teman di aplikasi, avatar pelaku pelecehan akan mendekati grup. Dia percaya bahwa dia mencurigai avatarnya ada di sana, karena teman-temannya sering menyebut namanya dengan keras. Dia akan bergabung dalam percakapan, berbicara dengan orang lain yang berinteraksi dengannya. Tapi karena Guillory tidak bisa melihat atau mendengar avatarnya, sepertinya teman-temannya sedang melakukan percakapan sepihak. Bagi Guillory, seolah-olah pelecehnya berusaha menghindari bloknya dan memaksakan kehadiran virtualnya padanya.

“Beberapa kali pertama itu terjadi itu menjengkelkan,” katanya. “Tapi kemudian itu terus terjadi.”

ITU BISA TERASA NYATA

Pengalaman seperti itu di VR bisa terasa sangat nyata. Freeman mengatakan bahwa dalam penelitiannya orang-orang melaporkan bahwa avatar mereka ditangkap oleh avatar orang lain terasa realistis, terutama jika mereka menggunakan pelacakan seluruh tubuh untuk mereproduksi gerakan anggota tubuh mereka. Seorang wanita melaporkan bahwa pengguna VR lain akan mendekati wajahnya, tampak seolah-olah mereka menciumnya — tindakan yang membuatnya merasa takut, katanya kepada Freeman, karena rasanya mirip dengan seseorang yang melakukan hal yang sama di dunia offline.

“Karena imersif, fitur yang diwujudkan dari VR sosial, perilaku itu terasa realistis, yang berarti bisa terasa merusak karena terasa fisik, ancaman,” kata Freeman.

Ini adalah kasus Guillory: Dia mengembangkan kecemasan karenanya dan kehilangan kepercayaan pada orang-orang online, katanya. Dia akhirnya berbicara di Twitter tentang pelecehan itu, yang membantu.

“Saya masih suka di sini, tapi saya ingin orang-orang berbuat lebih baik,” katanya.