Wanita berambut merah berdiri di bulan, wajahnya dikaburkan. Tubuh telanjangnya terlihat seperti poster yang akan Anda temukan di dinding kamar tidur remaja hormonal — yaitu, sampai Anda mencapai tubuhnya, di mana tiga lengan keluar dari bahunya.
Sistem bertenaga AI seperti Stable Diffusion, yang menerjemahkan petunjuk teks menjadi gambar, telah digunakan oleh merek dan seniman untuk membuat gambar konsep, cetakan pemenang penghargaan (meskipun kontroversial), dan kampanye pemasaran besar-besaran.
Tetapi beberapa pengguna, yang berniat menjelajahi sisi gelap sistem, telah mengujinya untuk jenis kasus penggunaan yang berbeda: porno.
Porno AI sama meresahkan dan tidak sempurna seperti yang Anda harapkan (bahwa berambut merah di bulan kemungkinan tidak dihasilkan oleh seseorang dengan jimat lengan ekstra). Tetapi ketika teknologi terus meningkat, itu akan menimbulkan pertanyaan yang menantang bagi ahli etika AI dan pekerja seks.
Pornografi yang dibuat menggunakan sistem penghasil gambar terbaru pertama kali muncul melalui forum diskusi 4chan dan Reddit awal bulan ini, setelah seorang anggota 4chan membocorkan sistem Stable Diffusion open source sebelum rilis resminya. Kemudian, minggu lalu, apa yang tampaknya menjadi salah satu situs web pertama yang didedikasikan untuk generasi porno AI kesetiaan tinggi diluncurkan.
Disebut Porn Pen, situs web ini memungkinkan pengguna untuk menyesuaikan penampilan model telanjang yang dihasilkan AI — semuanya adalah wanita — menggunakan tag yang dapat diubah seperti “babe”, “model pakaian dalam”, “chubby”, etnisitas (misalnya “Rusia” dan “ Latina”) dan latar belakang (misalnya “kamar tidur”, “mandi” dan wildcard seperti “bulan”). Tombol menangkap model dari depan, belakang, atau samping, dan mengubah tampilan foto yang dihasilkan (mis. “foto film”, “selfie cermin”). Pasti ada bug pada selfie cermin, karena dalam umpan gambar yang dibuat pengguna, beberapa cermin tidak benar-benar mencerminkan seseorang — tetapi tentu saja, model ini bukan orang sama sekali. Porn Pen berfungsi seperti “Orang Ini Tidak Ada”, hanya saja NSFW-nya.
Di forum Berita Peretas Y Combinator, seorang pengguna yang mengaku sebagai pencipta menggambarkan Porn Pen sebagai “eksperimen” menggunakan model teks-ke-gambar mutakhir. “Saya secara eksplisit menghapus kemampuan untuk menentukan teks khusus untuk menghindari gambar berbahaya yang dihasilkan,” tulis mereka. “Tag baru akan ditambahkan setelah algoritme rekayasa cepat disempurnakan lebih lanjut.” Pembuatnya tidak menanggapi permintaan komentar gerakanpintar.com.
Tapi Porn Pen menimbulkan sejumlah pertanyaan etis, seperti bias dalam sistem yang menghasilkan citra dan sumber data dari mana mereka muncul. Di luar implikasi teknis, orang bertanya-tanya apakah teknologi baru untuk membuat porno yang disesuaikan — dengan asumsi itu menarik — dapat melukai pembuat konten dewasa yang mencari nafkah dengan melakukan hal yang sama.
“Saya pikir agak tidak terhindarkan bahwa ini akan ada ketika [OpenAI’s] DALL-E melakukannya, ”Os Keyes, kandidat PhD di Universitas Seattle, mengatakan kepada gerakanpintar.com melalui email. “Tapi masih menyedihkan bagaimana opsi dan default mereplikasi pandangan yang sangat heteronormatif dan laki-laki.”
Ashley, seorang pekerja seks dan peer organizer yang menangani kasus-kasus yang melibatkan moderasi konten, berpendapat bahwa konten yang dihasilkan oleh Porn Pen bukanlah ancaman bagi pekerja seks dalam kondisi saat ini.
“Ada banyak media di luar sana,” kata Ashley, yang tidak ingin nama belakangnya dipublikasikan karena takut dilecehkan untuk pekerjaan mereka. “Tetapi orang-orang membedakan diri mereka tidak hanya dengan membuat media terbaik, tetapi juga dengan menjadi orang yang menarik dan dapat diakses. Butuh waktu lama sebelum AI bisa menggantikannya.”
Di situs porno yang dapat dimonetisasi seperti OnlyFans dan ManyVids, pembuat konten dewasa harus memverifikasi usia dan identitas mereka sehingga perusahaan mengetahui bahwa mereka menyetujui orang dewasa. Model porno yang dibuat dengan AI tidak dapat melakukan ini, tentu saja, karena mereka tidak nyata.
Namun Ashley khawatir, jika situs porno menindak pornografi AI, hal itu dapat menyebabkan pembatasan yang lebih keras bagi pekerja seks, yang sudah menghadapi peningkatan regulasi dari undang-undang seperti SESTA/FOSTA. Kongres memperkenalkan Undang-Undang Studi Pekerja Seks Aman pada tahun 2019 untuk memeriksa dampak undang-undang ini, yang membuat pekerjaan seks online lebih sulit. Studi ini menemukan bahwa “organisasi masyarakat” [had] melaporkan peningkatan tunawisma pekerja seks” setelah kehilangan “stabilitas ekonomi yang disediakan oleh akses ke platform online.”
“SESTA dijual untuk memerangi perdagangan seks anak, tetapi itu menciptakan undang-undang pidana baru tentang prostitusi yang tidak mengenal usia,” kata Ashley.
Saat ini, beberapa undang-undang di seluruh dunia terkait dengan pornografi deepfaked. Di AS, hanya Virginia dan California yang memiliki peraturan yang membatasi penggunaan media pornografi palsu dan deepfaked tertentu.
Sistem seperti Difusi Stabil “belajar” untuk menghasilkan gambar dari teks dengan contoh. Memberi miliaran gambar yang diberi label dengan anotasi yang menunjukkan kontennya — misalnya, gambar anjing berlabel “Dachshund, lensa sudut lebar” — sistem mempelajari bahwa kata dan frasa tertentu merujuk pada gaya seni, estetika, lokasi, dan lain-lain tertentu .
Ini bekerja relatif baik dalam praktiknya. Prompt seperti “lukisan burung dalam gaya Van Gogh” diprediksi akan menghasilkan gambar ala Van Gogh yang menggambarkan seekor burung. Tapi itu menjadi lebih sulit ketika petunjuknya tidak jelas, merujuk pada stereotip atau berurusan dengan materi pelajaran yang tidak dikenal oleh sistem.
Misalnya, Porn Pen terkadang menghasilkan gambar tanpa orang sama sekali — mungkin kegagalan sistem untuk memahami perintahnya. Di lain waktu, seperti yang disinggung sebelumnya, itu terlihat secara fisik mustahil model, biasanya dengan anggota badan ekstra, puting di tempat yang tidak biasa dan daging berkerut.
“Menurut definisi [these systems are] akan mewakili mereka yang tubuhnya diterima dan dihargai di masyarakat arus utama,” kata Keyes, mencatat bahwa Porn Pen hanya memiliki kategori untuk orang-orang cisnormatif. “Tidak mengherankan bagi saya bahwa Anda akan berakhir dengan jumlah wanita yang tidak proporsional, misalnya.”
Sementara Stable Diffusion, salah satu sistem yang kemungkinan mendukung Porn Pen, memiliki gambar “NSFW” yang relatif sedikit dalam set data pelatihannya, eksperimen awal dari Redditor dan pengguna 4chan menunjukkan bahwa itu cukup kompeten dalam menghasilkan deepfake porno selebriti (Porn Pen — mungkin tidak secara kebetulan — memiliki opsi “selebriti”). Dan karena ini open source, tidak ada yang bisa mencegah pembuat Porn Pen untuk menyempurnakan sistem pada gambar telanjang tambahan.
“Ini jelas tidak bagus untuk dihasilkan [porn] dari orang yang ada,” kata Ashley. “Itu bisa digunakan untuk melecehkan mereka.”
Porno deepfake sering dibuat untuk mengancam dan melecehkan orang. Gambar-gambar ini hampir selalu dikembangkan tanpa persetujuan subjek karena niat jahat. Pada tahun 2019, perusahaan riset Sensity AI menemukan bahwa 96% video deepfake online adalah pornografi non-konsensual.
Mike Cook, seorang peneliti AI yang merupakan bagian dari Knives and Paintbrushes kolektif, mengatakan bahwa ada kemungkinan dataset termasuk orang-orang yang tidak menyetujui gambar mereka digunakan untuk pelatihan dengan cara ini, termasuk pekerja seks.
“Kebanyakan [the people in the nudes in the training data] dapat memperoleh penghasilan mereka dari memproduksi pornografi atau konten yang berdekatan dengan pornografi, ”kata Cook. “Sama seperti seniman, musisi, atau jurnalis, karya-karya yang dihasilkan orang-orang ini digunakan untuk menciptakan sistem yang juga melemahkan kemampuan mereka untuk mencari nafkah di masa depan.”
Secara teori, seorang aktor porno dapat menggunakan perlindungan hak cipta, pencemaran nama baik, dan bahkan undang-undang hak asasi manusia yang berpotensi untuk melawan pencipta gambar yang dipalsukan. Tetapi sebagai bagian dari catatan Tinjauan Teknologi MIT, mengumpulkan bukti untuk mendukung argumen hukum dapat menjadi tantangan besar.
Ketika alat AI yang lebih primitif mempopulerkan pornografi deepfaked beberapa tahun yang lalu, investigasi Wired menemukan bahwa video deepfake nonconsensual mengumpulkan jutaan tampilan di situs porno arus utama seperti Pornhub. Karya-karya deepfake lainnya menemukan rumah di situs-situs yang mirip dengan Porn Pen — menurut data Sensity, empat situs web porno deepfake teratas menerima lebih dari 134 juta tampilan pada tahun 2018.
“Sintesis gambar AI sekarang menjadi teknologi yang tersebar luas dan dapat diakses, dan saya tidak berpikir ada orang yang benar-benar siap untuk implikasi dari keberadaan ini,” lanjut Cook. “Menurut pendapat saya, kami telah bergegas sangat, sangat jauh ke tempat yang tidak diketahui dalam beberapa tahun terakhir dengan sedikit memperhatikan dampak dari teknologi ini.”
Menurut Cook, salah satu situs paling populer untuk pornografi yang dihasilkan AI diperluas akhir tahun lalu melalui perjanjian mitra, rujukan, dan API, memungkinkan layanan — yang menampung ratusan deepfake nonkonsensual — untuk bertahan dari larangan infrastruktur pembayarannya. Dan pada tahun 2020, para peneliti menemukan bot Telegram yang menghasilkan gambar deepfake kasar dari lebih dari 100.000 wanita, termasuk gadis di bawah umur.
“Saya pikir kita akan melihat lebih banyak orang menguji batas-batas teknologi dan batas-batas masyarakat dalam dekade mendatang,” kata Cook. “Kita harus menerima tanggung jawab untuk ini dan bekerja untuk mendidik orang tentang konsekuensi dari apa yang mereka lakukan.”