PIKIRAN RAKYAT – TikTok baru-baru ini didesak oleh berbagai pihak untuk memperketat moderasi konten yang berhubungan dengan gangguan makan dan kecenderungan bunuh diri. Sebelumnya sebuah studi menunjukkan bahwa algoritma TikTok akan merekomendasikan konten-konten semacam itu kepada pengguna remaja yang menampilkan ketertarikan pada topik tersebut.
Dilansir dari The Guardian, The Center of Countering Digital Hate (CCDH) menemukan bahwa TikTok cenderung mempromosikan diet ketat yang berbahaya, romantisasi keinginan bunuh diri, dan konten yang pro self-harm (melukai diri sendiri) kepada pengguna di bawah usia 18 tahun.
Riset tersebut dilakukan di Amerika Serikat, Inggris, Kanada, dan Australia dengan mendaftarkan akun pengguna di kisaran usia 13 tahun. Nama akunnya kemudian diberi embel-embel loseweight.
Saat menonton konten yang berhubungan dengan gangguan makan dan penyakit mental, akun itu akan berpura-pura melakukan pause lalu menyukai videonya.
Baca Juga: TikTok Segera Hadirkan Fitur Ramah Remaja, Salah Satunya Kontrol Orangtua
Hasilnya, dalam waktu 30 menit sejak akun dibuat, algoritma TikTok langsung merekomendasikan banyak konten serupa.
National Society for the Prevention of Cruelty to Children (NSPCC) dan Molly Rose Foundation adalah dua organisasi yang mengeklaim TikTok tak bergegas menangani masalah konten tersebut.
Dalam sebuah surat yang ditujukan kepada kepala tim keamanan TikTok, lembaga-lembaga ini meminta perusahaan untuk mengambil langkah nyata.
Beberapa langkah yang disarankan termasuk: meningkatkan moderasi konten gangguan makan dan bunuh diri; bekerja sama dengan ahli untuk membuat pendekatan komprehensif demi menghapus konten berbahaya; mendukung pengguna yang memiliki gangguan mental; dan secara rutin melaporkan tindakan yang sudah diambil untuk menangani masalah-masalah tersebut.