Awal tahun ini, TikTok mengatakan sedang mengembangkan sistem baru yang akan membatasi jenis konten dewasa tertentu untuk dilihat oleh pengguna remaja. Hari ini, perusahaan memperkenalkan versi pertama dari sistem ini, yang disebut “Tingkat Konten”, yang akan diluncurkan dalam hitungan minggu. Ini juga mempersiapkan peluncuran alat baru yang memungkinkan pengguna untuk memfilter video dengan kata-kata atau tagar tertentu agar tidak muncul di umpan mereka.
Bersama-sama, fitur-fitur tersebut dirancang untuk memberi pengguna lebih banyak kontrol atas pengalaman TikTok mereka sambil membuat aplikasi lebih aman, terutama untuk pengguna yang lebih muda. Ini adalah area di mana TikTok saat ini menghadapi peningkatan pengawasan — tidak hanya dari regulator dan anggota parlemen yang ingin memperketat cengkeraman mereka pada platform media sosial secara umum, tetapi juga dari mereka yang mencari keadilan atas kerugian media sosial.
Misalnya, sekelompok orang tua baru-baru ini menggugat TikTok setelah anak-anak mereka meninggal setelah mencoba tantangan berbahaya yang diduga mereka lihat di TikTok. Sementara itu, mantan moderator konten menggugat perusahaan karena kegagalannya mendukung kesehatan mental mereka, meskipun pekerjaan mereka bersifat mengerikan.
Dengan alat baru, TikTok bertujuan untuk memberikan lebih banyak kontrol moderasi ke tangan pengguna dan pembuat konten.
Sistem Level Konten yang akan datang dimaksudkan untuk menyediakan sarana untuk mengklasifikasikan konten pada aplikasi, mirip dengan bagaimana film, acara TV, dan video game juga menampilkan peringkat usia.
Kredit Gambar: Level Konten TikTok
Meskipun konten dewasa dilarang, TikTok mengatakan beberapa konten di aplikasinya mungkin berisi “tema dewasa atau kompleks yang mungkin mencerminkan pengalaman pribadi atau peristiwa dunia nyata yang ditujukan untuk audiens yang lebih tua.” Sistem Tingkat Kontennya akan berfungsi untuk mengklasifikasikan konten ini dan menetapkan skor kedewasaan.
Dalam beberapa minggu mendatang, TikTok akan memperkenalkan versi awal sistem Tingkat Konten yang dirancang untuk mencegah konten dengan tema yang terlalu dewasa menjangkau pengguna berusia 13 hingga 17 tahun. Video dengan tema dewasa — seperti adegan fiksi yang mungkin terlalu menakutkan atau intens bagi pengguna yang lebih muda — akan diberi skor kedewasaan agar tidak terlihat oleh pengguna TikTok di bawah 18 tahun. Sistem ini akan diperluas dari waktu ke waktu untuk menawarkan opsi pemfilteran untuk seluruh komunitas, bukan hanya remaja.
Skor kedewasaan akan ditetapkan oleh moderator Trust and Safety untuk video yang semakin populer atau yang telah dilaporkan di aplikasi, kami diberitahu.
Sebelumnya, TikTok mengatakan pembuat konten mungkin diminta untuk menandai konten mereka juga, tetapi belum merinci aspek ini. Namun, seorang juru bicara mengatakan itu adalah upaya terpisah dari apa yang diumumkan hari ini.
Kredit Gambar: TIK tok
Selain itu, TikTok akan segera meluncurkan alat lain untuk memfilter konten dari umpan Untuk Anda dan Mengikuti Anda.
Fitur ini akan memungkinkan pengguna secara manual memblokir video dengan kata-kata atau tagar tertentu dari feed mereka. Ini tidak perlu digunakan untuk memfilter konten yang berpotensi bermasalah atau memicu — ini juga dapat digunakan untuk menghentikan algoritme menampilkan topik yang tidak Anda pedulikan atau bosan melihatnya. TikTok menyarankan Anda dapat menggunakannya untuk memblokir resep susu atau daging jika Anda menjadi vegan, misalnya, atau untuk berhenti melihat tutorial DIY setelah Anda menyelesaikan proyek rumah yang dirujuk.
Kredit Gambar: Filter konten TikTok
Terkait dengan fitur-fitur baru ini, perusahaan mengatakan sedang memperluas pengujian sistem yang ada yang berfungsi untuk mendiversifikasi rekomendasi untuk mencegah pengguna berulang kali terpapar konten yang berpotensi bermasalah — seperti video tentang diet ekstrem atau kebugaran, kesedihan, atau putus cinta.
Tes ini diluncurkan tahun lalu di AS setelah penyelidikan Kongres tahun 2021 terhadap aplikasi sosial seperti TikTok dan lainnya tentang bagaimana sistem rekomendasi algoritmik mereka dapat mempromosikan konten gangguan makan yang berbahaya kepada pengguna yang lebih muda.
TikTok mengakui sistem masih membutuhkan beberapa pekerjaan karena nuansa yang terlibat. Misalnya, mungkin sulit untuk memisahkan konten yang berfokus pada pemulihan dari gangguan makan, yang dapat memiliki tema sedih dan menggembirakan. Perusahaan mengatakan sedang melatih sistem ini untuk mendukung lebih banyak bahasa untuk ekspansi di masa depan ke pasar baru.
Seperti yang dijelaskan, trio alat ini dapat menjadi cara yang lebih sehat untuk terlibat dengan aplikasi — tetapi pada kenyataannya, sistem otomatis seperti ini cenderung mengalami kegagalan.
Sejauh ini, TikTok belum mampu meredam konten bermasalah dalam beberapa kasus — apakah itu anak-anak yang menghancurkan kamar mandi sekolah umum, saling menembak dengan senjata pelet atau melompat dari peti susu, di antara tantangan berbahaya dan aksi viral lainnya. Itu juga memungkinkan konten kebencian yang melibatkan misogini, supremasi kulit putih, atau pernyataan transfobia kadang-kadang jatuh melalui celah, bersama dengan informasi yang salah.
Sejauh mana alat baru TikTok benar-benar berdampak pada siapa yang melihat konten apa yang masih harus dilihat.
“Seiring kami terus membangun dan meningkatkan sistem ini, kami senang dengan peluang untuk berkontribusi pada tantangan industri yang sudah berjalan lama dalam hal membangun untuk berbagai audiens dan dengan sistem pemberi rekomendasi,” tulis Head of Trust and Safety TikTok Cormac Keenan dalam posting blog. “Kami juga mengakui bahwa apa yang ingin kami capai adalah kompleks dan kami mungkin membuat beberapa kesalahan,” tambahnya.