Akun 13 Tahun Masih Bisa Unduh Puluhan Aplikasi ‘Nudify’

Kontrol orang tua di App Store dan Google Play masih bisa melewatkan puluhan aplikasi yang mengubah foto menjadi gambar bernuansa seksual. Dalam pengujian Tech Transparency Project (TTP), akun uji berusia 13 tahun menemukan 135 aplikasi “nudify”. Akun yang kontrol orang tuanya aktif tetap bisa mengunduh 24 aplikasi dari App Store dan 51 dari Google Play. Angka 135 adalah jumlah aplikasi unik dari empat akun uji, bukan jumlah per akun.

Foto ilustrasi, bukan bagian dari pengujian TTP. Foto: atelierbyvineeth/Unsplash, digunakan sesuai Unsplash License.

135 aplikasi dari empat akun

TTP membuat dua akun Apple dan dua akun Google dengan profil pengguna laki-laki berusia 13 tahun di AS. Satu akun di tiap platform memakai pengaturan bawaan, satu lagi mengaktifkan kontrol orang tua. Peneliti mencari aplikasi penyunting foto dan video dengan sejumlah kata kunci, lalu menguji hasil teratas serta iklan yang muncul.

Jumlah per akun menurut TTP. Aplikasi yang sama bisa muncul pada lebih dari satu akun; tes dilakukan di AS dan bukan audit seluruh katalog toko aplikasi.

TTP mencatat 61 aplikasi pada akun Apple tanpa kontrol orang tua dan 24 pada akun yang kontrolnya aktif. Di Google Play, angkanya 47 dan 51. Karena hasil antarakun saling tumpang tindih, angka itu tidak dijumlahkan untuk menghasilkan 135.

Ada satu batas penting pada angka tersebut. TTP menggolongkan aplikasi sebagai “nudify” jika bisa menampilkan perempuan telanjang atau sebagian terbuka, termasuk dalam bikini atau pakaian dalam. Apple menyanggah bahwa sebagian aplikasi yang masuk hitungan itu memiliki kemampuan nudify; perusahaan menyebut beberapa di antaranya sebagai alat edit foto dan video dengan fungsi umum. Jadi, 135 adalah hasil klasifikasi dan pencarian TTP, bukan daftar 135 aplikasi pornografi yang semuanya tersedia di setiap akun.

Peneliti memakai foto perempuan dewasa hasil AI untuk menguji aplikasi, bukan foto anak atau orang sungguhan. Hasil uji itu menunjukkan apa yang bisa dilakukan aplikasi, tetapi tidak mengukur berapa banyak anak yang benar-benar memakainya. Katalog yang diuji juga berada di AS, jadi jumlah dan ketersediaannya belum tentu sama di Indonesia.

Rating usia jadi titik lemah

Menurut TTP, Apple dan Google banyak mengandalkan informasi yang diberikan pengembang untuk menetapkan rating usia aplikasi. Jika fitur yang berisiko tidak dilaporkan dengan benar, aplikasi dapat terlihat sesuai untuk usia 13 tahun dan lolos dari batas yang dipasang orang tua. Akun yang diawasi peneliti pun dapat mengunduh aplikasi semacam itu karena ratingnya menyatakan aplikasi cocok untuk usia tersebut.

Apple memperbarui Panduan Peninjauan App Store pada 16 Oktober. Panduan itu kini secara eksplisit mewajibkan aplikasi mencegah dan menghapus gambar intim tanpa persetujuan, termasuk yang dibuat dengan AI, serta melarang aplikasi menyembunyikan fitur berbahaya dari proses peninjauan. Apple mengatakan kepada The Guardian bahwa sejumlah aplikasi dalam laporan TTP adalah alat penyunting umum dan menyatakan telah mengambil tindakan terhadap aplikasi yang disebut.

Google mengatakan telah menangguhkan aplikasi yang melanggar kebijakannya dan membatasi kata pencarian terkait di Play Store. Namun, TTP juga mendapati bahwa aplikasi yang sudah dihapus dari toko tetap bisa dipakai di ponsel uji setelah terpasang. Menghapus halaman aplikasi tidak otomatis menonaktifkan salinan yang sudah diunduh.

Bagi pengembang aplikasi foto dan video, persoalannya bukan hanya rating yang dipilih di formulir toko. Fitur baru, perubahan setelah aplikasi disetujui, dan moderasi hasil buatan pengguna ikut menentukan apakah label keamanan itu sesuai dengan perilaku aplikasi sebenarnya. Laporan TTP ramai dibahas di r/apple, tetapi hitungan dan kesimpulannya tetap perlu dibaca dengan metode serta batas uji yang dijelaskan di atas.