Apple resmi memperbarui pedoman App Store untuk melarang aplikasi “nudify” yang menyamar sebagai aplikasi biasa demi lolos proses review. Perusahaan juga menegaskan bahwa aplikasi berbasis AI yang tidak memoderasi konten ofensif tidak boleh ada di App Store. Langkah ini menutup celah yang selama ini dimanfaatkan developer nakal untuk menyebarkan aplikasi berbahaya.
Apa Itu Aplikasi Nudify dan Kenapa Berbahaya?
Buat kamu yang belum familiar, aplikasi nudify adalah aplikasi berbasis AI yang bisa mengubah foto seseorang jadi tampak telanjang alias deepfake nude. Ini bukan cuma masalah etis, rek. Teknologinya sering dipakai untuk pelecehan, perundungan siber, dan eksploitasi—terutama terhadap perempuan dan anak-anak. Fenomena ini udah jadi perhatian serius di banyak negara, dan sejumlah legislasi mulai melarang pembuatan serta distribusi deepfake seksual non-konsensual.
Trik Menyamar yang Dipakai Developer Nakal
Yang bikin Apple geram adalah modus penyamaran. Aplikasi nudify ini sering masuk App Store dengan disguise yang rapi:
- Deskripsi tidak jujur. Aplikasi didaftarkan sebagai foto editor atau aplikasi utilitas biasa, tanpa menyebut fitur utamanya yang berbahaya.
- Fitur tersembunyi. Fungsi nudify baru muncul setelah aplikasi di-review, misalnya lewat update atau konten yang diunduh setelah instalasi.
- Review gating. Developer kadang menampilkan versi “aman” saat proses review berlangsung, lalu membuka fitur terlarang setelah approved.
Isi Pembaruan Pedoman Apple
Sesuai laporan TechCrunch oleh Ivan Mehta, Apple menegaskan dua hal utama:
- Aplikasi AI yang tidak menyediakan moderasi konten ofensif dilarang tayang di App Store.
- Aplikasi yang menyamar sebagai aplikasi biasa untuk melewati review akan kena tindakan tegas.
Dengan kata lain, developer aplikasi AI sekarang wajib punya mekanisme content moderation yang jelas—entah lewat filter input, filter output, atau sistem pelaporan konten. Kalau tidak? Siap-siap dihapus dari App Store.
Konteks Bulan yang Sibuk Buat Apple
Pembaruan ini bukan hal yang datang tiba-tiba. Apple lagi dalam tekanan besar soal keamanan anak di platformnya. Dalam kasus gugatan terkait penyalahgunaan materi seksual anak di berbagai platform, perusahaan semacam Apple disebut berkepentingan dengan alasan tertentu—meski Apple sendiri menolak klaim tersebut dan bersikeras ingin menghapus material semacam itu. Pokoknya, tekanan regulasi dan publik bikin langkah ini makin masuk akal, bro.
Apa Artinya Buat Developer dan Pengguna?
Untuk Developer
Kalau kamu membangun aplikasi AI, ini pesannya jelas: sediakan content moderation dari hari pertama. Jangan cuma andalkan disclaimer atau syarat dan ketentuan. Apple makin teliti soal apa yang benar-benar dilakukan aplikasimu, bukan cuma yang tertulis di deskripsi.
Untuk Pengguna
Tetap waspada, rek. Aplikasi berbahaya bisa saja lolos di platform lain atau lewat situs web. Beberapa langkah proteksi yang bisa kamu lakukan:
- Periksa review dan rating aplikasi sebelum instal, terutama yang meminta akses ke galeri foto.
- Hindari aplikasi AI editing yang asal-usulannya tidak jelas atau developer-nya tidak punya reputasi.
- Laporkan aplikasi mencurigakan lewat fitur “Report a Problem” di App Store.
- Kalau kamu jadi korban deepfake, dokumentasikan bukti dan laporkan ke pihak berwenang—banyak negara kini punya dasar hukum untuk kasus ini.
Penutup: Langkah kecil, dampak besar?
Pembaruan pedoman ini penting sebagai sinyal: Apple nggak mau App Store jadi jalur distribusi teknologi eksploitasi. Tapi efektivitasnya tetap tergantung eksekusi review di lapangan—dan selama aplikasi semacam ini masih bisa dibuat di tempat lain, masyarakat perlu tetap sigap. Langkahmu selanjutnya? Cek kembali aplikasi AI yang terpasang di perangkatmu dan pastikan semuanya dari sumber yang terpercaya.