Di tengah pertanyaan tentang penggunaan biometrik TikTok dalam sidang Kongres hari ini, CEO TikTok Shou Zi Chew menawarkan beberapa wawasan tentang bagaimana perusahaan tersebut memeriksa potensi pengguna di bawah umur di platformnya. Setelah menolak aplikasi mengumpulkan data tubuh, wajah, atau suara untuk mengidentifikasi penggunanya – di luar apa yang diperlukan agar filter AR dalam aplikasi berfungsi, yaitu – eksekutif ditanyai bagaimana TikTok menentukan usia penggunanya.
Jawaban awal Chew sudah diharapkan: aplikasi menggunakan batasan usia. Ini mengacu pada metode yang umum digunakan yang hanya meminta pengguna memberikan tanggal lahir mereka untuk menentukan usia mereka. Di TikTok, ada tiga pengalaman berbeda untuk pengguna di bawah 13 tahun, remaja yang lebih muda, dan dewasa berusia 18 tahun ke atas, dan pengalaman mana yang diterima pengguna berdasarkan masukan usia ini.
Mengandalkan metode ini saja sudah menjadi masalah, tentu saja, karena anak-anak sering berbohong tentang usianya saat mendaftar ke aplikasi dan situs media sosial.
Ternyata, TikTok melakukan lebih dari sekadar melihat usia yang dimasukkan ke dalam kotak teks.
Dalam sidang tersebut, Chew menambahkan bahwa TikTok memindai video pengguna untuk menentukan usia mereka.
“Kami juga telah mengembangkan beberapa alat di mana kami melihat profil publik mereka, menelusuri video yang mereka posting untuk melihat apakah…,” Chew memulai, sebelum disela oleh Rep. Buddy Carter (R-GA), yang menyela, “ itu mengerikan. Ceritakan lebih banyak tentang itu.”
Saat Chew bisa melanjutkan, dia menjelaskan, “Ini untuk umum. Jadi, jika Anda memposting video, Anda memilih video itu untuk dipublikasikan — begitulah cara membuat orang melihat video Anda. Kami melihat mereka untuk melihat apakah itu cocok dengan usia yang Anda bicarakan, ”katanya.
“Sekarang, ini merupakan tantangan nyata bagi industri kami karena privasi versus jaminan usia adalah masalah yang sangat besar,” kata Chew.
Pertanyaan tindak lanjut yang menarik untuk tanggapan CEO adalah menanyakan bagaimana TikTok memindai video ini, pengenalan wajah spesifik apa atau teknologi lain yang digunakannya, dan apakah teknologi tersebut dibuat sendiri atau jika mengandalkan teknologi pengenalan wajah. dibangun oleh pihak ketiga. Kemudian, tentu saja, apakah ada data yang mengaitkan usia dengan pengguna disimpan secara permanen, daripada digunakan untuk mem-boot pengguna dari streaming TikTok LIVE, misalnya.
Sayangnya bagi kami, Carter tidak melanjutkan pertanyaan ini.
Sebaliknya, dia mengecam CEO karena mengabaikan verifikasi usia sebagai masalah industri.
“Kita berbicara tentang anak-anak yang sekarat !,” serunya, merujuk pada tantangan berbahaya yang diizinkan aplikasi seperti TikTok dan lainnya untuk menjadi viral, seperti tantangan pemadaman listrik. (Tantangan itu mengakibatkan TikTok menghapus sekitar setengah juta akun di Italia untuk memblokir pengguna di bawah umur dari platformnya, sebenarnya atas permintaan regulator lokal.)
Kenyataannya adalah verifikasi usia itu adalah kekhawatiran di seluruh industri dan kurangnya undang-undang AS seputar penggunaan media sosial oleh anak-anak membuat perusahaan seperti TikTok dan lainnya mengembangkan proses mereka sendiri.
Misalnya, Instagram mulai memverifikasi usia pengguna tahun lalu dengan menawarkan tiga pilihan kepada pengguna. Pengguna dapat mengunggah ID, merekam video selfie, atau meminta teman bersama untuk memverifikasi usia mereka atas nama mereka. Yang terakhir relatif mudah dilewati jika Anda memiliki teman baik yang bersedia berbohong untuk Anda.
Awal bulan ini, Instagram meluncurkan alat verifikasi usianya di Kanada dan Meksiko, selain dukungan yang sudah ada di AS, Brasil, dan Jepang. Perusahaan sebelumnya mengatakan telah bermitra dengan startup identitas digital yang berbasis di London Yoti untuk bagian video selfie dari proses verifikasi usia.
Instagram sebelumnya juga telah menjelaskan pada tingkat tinggi bagaimana mengidentifikasi pengguna mana yang dicurigai di bawah umur.
Selain menyelidiki akun yang ditandai, perusahaan mengklaim telah mengembangkan teknologi AI yang digunakannya untuk menyimpulkan usia seseorang. Modelnya memiliki pemahaman tentang bagaimana orang-orang dalam kelompok usia yang sama cenderung berinteraksi dengan konten. Dan salah satu cara lain untuk mengidentifikasi pengguna di bawah umur yang berbohong tentang usia mereka adalah dengan memindai komentar pada postingan “Selamat Ulang Tahun” yang merujuk pada usia pengguna. Plus, Instagram mengatakan mungkin mencoba mencocokkan usia pengguna di Facebook dengan usia yang mereka nyatakan di Instagram, bersama dengan penggunaan “banyak sinyal lain” yang tidak diungkapkan.
Teknik TikTok kurang jelas. Perusahaan memang mendokumentasikan cara memverifikasi usia Anda jika salah mengidentifikasi Anda – misalnya, jika Anda dikeluarkan dari LIVE karena terlihat terlalu muda. (Musim gugur yang lalu, TikTok mengumumkan akan menaikkan persyaratan usia untuk menggunakan layanan streaming langsung dalam aplikasinya, TikTok LIVE menjadi 18, naik dari 16).
Tahun lalu, Bloomberg melaporkan bahwa TikTok bertemu dengan dua penyedia perangkat lunak perkiraan usia wajah pada tahun 2021. Kedua perusahaan menawarkan perangkat lunak yang dapat membedakan antara anak-anak dan orang dewasa, tetapi seorang eksekutif TikTok membatalkan kesepakatan tersebut karena khawatir pemindaian wajah seperti ini akan menyebabkan untuk kekhawatiran bahwa China memata-matai pengguna anak, kata laporan itu.
Hari ini, AS memiliki CEO TikTok di kursi panas, siap untuk menjelaskan teknik sebenarnya yang digunakan TikTok untuk menentukan usia, dan yang kami dapatkan hanyalah berteriak, para politisi yang menggertak melakukan pertunjukan alih-alih mendapatkan jawaban yang sebenarnya.