Topcareer.id – Menurut laporan Center for Countering Digital Hate pada Rabu (14/12/2022), algoritma TikTok mempromosikan video tentang menyakiti diri sendiri dan gangguan makan kepada remaja yang rentan.
Laporan itu menyoroti kekhawatiran tentang media sosial dan dampaknya terhadap kesehatan mental remaja. Para peneliti membuat akun TikTok untuk persona remaja fiksi di Amerika Serikat, Inggris, Kanada, dan Australia.
Para peneliti yang mengoperasikan akun tersebut kemudian “menyukai” video tentang menyakiti diri sendiri dan gangguan makan untuk melihat bagaimana algoritma TikTok merespons.
Dalam beberapa menit, platform yang sangat populer itu merekomendasikan video tentang menurunkan berat badan dan menyakiti diri sendiri, termasuk yang menampilkan gambar model dan tipe tubuh ideal, gambar silet, dan diskusi tentang bunuh diri.
Ketika para peneliti membuat akun dengan nama pengguna yang menyarankan kerentanan tertentu terhadap gangguan makan – nama yang menyertakan kata “menurunkan berat badan” misalnya – akun tersebut diberi konten yang lebih berbahaya.
“Ini seperti terjebak di aula cermin yang terdistorsi di mana kamu terus-menerus diberi tahu bahwa kamu jelek, kamu tidak cukup baik, mungkin kamu harus bunuh diri,” kata CEO Imran Ahmed mengutip laman Channel News Asia.
“Ini benar-benar memompa pesan yang paling berbahaya kepada kaum muda.”
Algoritme media sosial bekerja dengan mengidentifikasi topik dan konten yang menarik bagi pengguna, yang kemudian dikirim lebih banyak sebagai cara untuk memaksimalkan waktu mereka di situs.
Baca juga: Waspada, Kominfo Blokir 7.089 Fintech Pinjol Ilegal Sejak 2017
Tetapi kritikus media sosial mengatakan algoritma yang sama yang mempromosikan konten tentang tim olahraga tertentu, hobi atau kegemaran nge-dance dapat mengirim pengguna ke lubang kelinci dari konten berbahaya.
Josh Gloin, Direktur eksekutif Fairplay, sebuah organisasi nirlaba yang mendukung perlindungan online yang lebih besar untuk anak-anak, mengatakan bahwa ini masalah khusus bagi remaja dan anak-anak, yang cenderung menghabiskan lebih banyak waktu online dan lebih rentan terhadap perundungan, tekanan teman sebaya atau konten negatif tentang gangguan makan atau bunuh diri.
Dia menambahkan bahwa TikTok bukan satu-satunya platform yang gagal melindungi pengguna muda dari konten berbahaya dan pengumpulan data yang agresif.
Dalam sebuah pernyataan dari juru bicara perusahaan, TikTok membantah temuan tersebut, mencatat bahwa para peneliti tidak menggunakan platform seperti pengguna biasa, dan mengatakan bahwa hasilnya miring. Perusahaan juga mengatakan nama akun pengguna tidak boleh memengaruhi jenis konten yang diterima pengguna.
TikTok melarang pengguna yang berusia di bawah 13 tahun, dan aturan resminya melarang video yang mendorong gangguan makan atau bunuh diri.
