Rabu 29 Nov 2023 21:30 WIB

Gara-Gara Anak, Pengguna Ini Diblokir dari Semua Produk Google

Sistem AI milik Google mampu mengenali foto dan video anak-anak tanpa busana.

Rep: Adysha Citra Ramadani/ Red: Natalia Endah Hapsari
Google memiliki kebijakan tanpa kompromi yang memungkinkan mereka untuk menutup akun-akun yang diduga menyebarkan konten kekerasan terhadap anak.
Foto: twitter
Google memiliki kebijakan tanpa kompromi yang memungkinkan mereka untuk menutup akun-akun yang diduga menyebarkan konten kekerasan terhadap anak.

REPUBLIKA.CO.ID, JAKARTA---Google memiliki kebijakan tanpa kompromi yang memungkinkan mereka untuk menutup akun-akun yang diduga menyebarkan konten kekerasan terhadap anak. Namun terkadang, sanksi tersebut bisa menyasar akun Google yang sebenarnya tidak mengunggah atau menyebarkan konten kekerasan terhadap anak.

Seorang pekerja medis, Jennifer Watkins, merupakan salah satu pemilik akun Google yang pernah terdampak oleh sanksi tersebut. Watkins mulanya mendapatkan pesan dari YouTube yang menyatakan bahwa kanal YouTube miliknya akan ditutup.

Baca Juga

Saat menerima pesan tersebut, Watkins tidak begitu peduli karena dia tidak menggunakan kanal tersebut sama sekali. Akan tetapi, anak kembar Watkins kerap menggunakan akun Google miliknya untuk menonton dan mengunggah video di YouTube.

Anak kembar Watkins yang berusia 7 tahun biasanya hanya membuat video tarian konyol untuk bersenang-senang. Video-video tersebut biasanya hanya mendapatkan jumlah views yang sedikit, tidak lebih dari lima views.

Watkins mulai menyadari ada masalah yang lebih besar setelah dia tidak bisa mengakses semua akun yang terhubung dengan akun Google-nya. Semua foto, dokumen, hingga email yang tersimpan di akun Google-nya selama bertahun-tahun kini tak bisa diakses.

Tak hanya itu, Watkins juga tidak bisa membuka pesan yang berkaitan dengan pekerjaannya dan mengecek laporan dari bank. Bahkan, Watkins tak bisa memesan makanan lewat aplikasi restoran cepat saji yang terhubung dengan akun Google miliknya. Yang lebih mengkhawatirkan, Watkins mendapatkan informasi bahwa akun Google miliknya akan dihapus secara permanen.

Setelah menelusuri lebih lanjut, Watkins mendapati bahwa sanksi yang dia terima dari Google disebabkan oleh sebuah video yang diunggah di kanal YouTube milik Watkins sepengetahuannya. Video tersebut merupakan sebuah video tantangan yang dibuat oleh salah satu anak kembarnya. Di video tersebut, sang anak tampak memperlihatkan bagian bokongnya dengan sengaja.

"Dia ditantang oleh teman sekelasnya untuk membuat video tanpa busana," jelas Watkins, seperti dilansir The New York Times pada Rabu (29/11/23).

Video tersebut berhasil terdeteksi oleh sistem AI milik Google yang mampu mengenali foto dan video anak-anak tanpa busana. Sistem tersebut lalu menandai video dalam kanal YouTube Watkins sebagai video yang dicurigai memuat konten eksploitasi seksual pada anak.

Konten eksploitasi seksual pada anak merupakan bentuk pelanggaran berat dalam kebijakan Google. Pelaku pelanggaran akan dikenakan sanksi yang berat, dan bahkan bisa berurusan dengan kepolisian. Sanksi berat inilah yang harus diterima oleh Watkins karena anaknya mengunggah video tantangan tanpa busana. "Ini merugikan saya secara finansial," ungkap Watkins.

Watkins mengungkapkan bahwa dia mendapatkan opsi untuk mengajukan banding agar akun Google miliknya tidak dihapus dan bisa kembali digunakan. Sayangnya, upaya banding yang diajukan oleh Watkins berulang kali tidak membuahkan hasil. Google tetap menganggap bahwa Watkins melakukan pelanggaran meski anaknya yang membuat konten tersebut.

Watkins merasa sanksi yang diberikan Google sangat merugikan dirinya dan tidak adil. Terlebih, Watkins sama sekali tidak mendapatkan pesan peringatan sebelum akses ke semua akun Google-nya terputus.

Setelah menemui jalan buntu, Watkins berusaha mencari bantuan dengan menghubungi The Times. Hanya selang satu hari setelah reporter The Times mengangkat kasus tersebut, Google mengembalikan seluruh akun Watkins.

Google mengungkapkan bahwa tindakan tegas yang mereka ambil merupakan bentuk perlindungan untuk anak-anak. Mereka tidak ingin platform Google digunakan oleh orang tak bertanggung jawab untuk membahayakan atau mengeksploitasi anak.

Namun, Google juga menyadari kesalahan yang mereka lakukan dalam kasus Watkins. Google mengembalikan akun Watkins setelah mereka menyadari bahwa konten yang diunggah dalam kanal YouTube Watkins tidak memiliki maksud terselubung.

"Dalam kasus ini, kami memahami bahwa konten yang melanggar aturan tersebut tidak diunggah dengan tujuan jahat," ujar Google dalam keterangan resminya melalui surel kepada reporter The Times.

Situasi ini juga memberikan pelajaran berharga bagi Watkins terkait pengawasan orang tua terhadap aktivitas anak di dunia maya. Selain itu, Watkins juga menyadari bahwa akun Google pribadi orang tua tidak seharusnya digunakan oleh anak-anak untuk berselancar di internet. 

Advertisement
Berita Lainnya
Advertisement
Advertisement
Advertisement