REPUBLIKA.CO.ID, SAN FRANCISCO -- Pertumbuhan Clubhouse, jaringan sosial berbasis audio menarik perhatian atas bagaimana aplikasi menangani konten bermasalah, ujaran kebencian hingga informasi yang salah. Memoderasi diskusi secara real-time merupakan tantangan bagi berbagai platform yang menggunakan obrolan live voice chat, dari layanan video-game centric seperti Discord hingga fitur live audio Twitter Inc, Spaces.
“Audio menghadirkan serangkaian tantangan yang berbeda secara fundamental untuk moderasi daripada komunikasi berbasis teks. Ini lebih singkat dan lebih sulit untuk penelitian dan tindakan,” kata kepala petugas hukum Discord, Clint Smith dalam sebuah wawancara, dilansir dari Japan Today, Ahad (28/2).
Alat untuk mendeteksi konten audio yang bermasalah tertinggal dari yang digunakan untuk mengidentifikasi teks. Memeriksa obrolan suara yang direkam adalah proses yang lebih rumit bagi manusia dan mesin. Kurangnya petunjuk tambahan, seperti sinyal visual dari video atau komentar teks yang menyertai, juga dapat membuatnya lebih menantang.
“Sebagian besar dari apa yang Anda miliki dalam hal alat moderasi konten benar-benar dibangun di sekitar teks,” kata Direktur Asosiasi Pusat Teknologi dan Masyarakat Anti-Defamation League, Daniel Kelley.
Tidak semua perusahaan membuat atau menyimpan rekaman suara untuk menyelidiki laporan pelanggaran aturan. Meskipun Twitter menyimpan audio Spaces selama 30 hari atau lebih jika ada insiden.
Clubhouse mengatakan akan menghapus rekamannya jika sesi live berakhir tanpa laporan pengguna langsung. Sedangkan aplikasi Discord tidak merekam sama sekali.
Sebaliknya, Discord, yang menghadapi tekanan untuk mengekang konten menyesatkan seperti pelecehan dan materi supremasi kulit putih dalam obrolan teks dan suara, memberi pengguna kontrol untuk membisukan atau memblokir orang mengandalkan mereka untuk menandai audio yang bermasalah. Model komunitas seperti itu dapat memberdayakan pengguna, tetapi dapat dengan mudah disalahgunakan dan tunduk pada bias.
Sisi lain, platform daring juga telah lama berjuang untuk mengekang konten live yang berbahaya atau grafis di situs mereka. Pada 2020, live video tentang bunuh diri di Facebook Inc. Tersebar di berbagai situs. Pada 2019, penembakan di sinagoga Jerman disiarkan langsung di situs gim milik Amazon Inc, Twitch.
“Sangat penting bagi layanan ini untuk belajar dari peluncuran streaming video untuk memahami bahwa mereka akan menghadapi semua jenis pertanyaan yang sama. Apa yang yang terjadi ketika orang ingin menggunakan layanan Anda untuk menyiarkan langsung audio pertemuan dengan polisi atau serangan kekerasan?” kata anggota Dewan Penasihat Keamanan Twitch, Emma Llanso.
Ikuti Whatsapp Channel Republika