OpenAI mulai memungkinkan pengguna untuk mengedit wajah dengan DALL-E 2 • gerakanpintar.com

Setelah awalnya menonaktifkan kemampuan tersebut, OpenAI hari ini mengumumkan bahwa pelanggan dengan akses ke DALL-E 2 dapat mengunggah wajah orang untuk mengeditnya menggunakan sistem penghasil gambar bertenaga AI. Sebelumnya, OpenAI hanya mengizinkan pengguna untuk bekerja dengan dan berbagi wajah fotorealistik dan melarang pengunggahan foto apa pun yang mungkin menggambarkan orang sungguhan, termasuk foto selebritas dan tokoh masyarakat terkemuka.

OpenAI mengklaim bahwa peningkatan pada sistem keamanannya memungkinkan fitur pengeditan wajah dengan “meminimalkan potensi bahaya” dari deepfake serta upaya untuk membuat konten seksual, politik, dan kekerasan. Dalam email ke pelanggan, perusahaan menulis:

“Banyak dari Anda telah memberi tahu kami bahwa Anda rindu menggunakan DALL-E untuk memimpikan pakaian dan gaya rambut pada diri Anda sendiri dan mengedit latar belakang foto keluarga. Seorang ahli bedah rekonstruktif memberi tahu kami bahwa dia telah menggunakan DALL-E untuk membantu pasiennya memvisualisasikan hasil. Dan pembuat film telah memberi tahu kami bahwa mereka ingin dapat mengedit gambar adegan dengan orang-orang untuk membantu mempercepat proses kreatif mereka … [We] membangun teknik deteksi dan respons baru untuk menghentikan penyalahgunaan.”

Perubahan kebijakan tidak serta merta membuka pintu air. Persyaratan layanan OpenAI akan terus melarang pengunggahan gambar orang tanpa persetujuan mereka atau gambar yang tidak memiliki hak pengguna — meskipun tidak jelas seberapa konsisten perusahaan secara historis dalam menegakkan kebijakan tersebut.

Bagaimanapun, ini akan menjadi ujian sebenarnya dari teknologi penyaringan OpenAI, yang beberapa pelanggan di masa lalu mengeluh karena terlalu bersemangat dan agak tidak akurat. Deepfake datang dalam berbagai rasa, dari foto liburan palsu hingga presiden negara yang dilanda perang. Memperhitungkan setiap bentuk pelecehan yang muncul akan menjadi pertempuran tanpa akhir, dalam beberapa kasus dengan taruhan yang sangat tinggi.

Tidak diragukan lagi, OpenAI — yang mendapat dukungan dari Microsoft dan perusahaan VC terkemuka termasuk Khosla Ventures — sangat ingin menghindari kontroversi yang terkait dengan Stability AI’s Stable Diffusion, sistem penghasil gambar yang tersedia dalam format sumber terbuka tanpa batasan apa pun. Seperti yang baru-baru ini ditulis oleh gerakanpintar.com, tidak butuh waktu lama sebelum Stable Diffusion — yang juga dapat mengedit gambar wajah — digunakan oleh beberapa orang untuk membuat deepfake pornografi dan nonkonsensual dari selebriti seperti Emma Watson.

Sejauh ini, OpenAI telah memposisikan dirinya sebagai alternatif kancing yang ramah merek untuk Stabilitas AI tanpa hambatan. Dan dengan kendala seputar fitur pengeditan wajah baru untuk DALL-E 2, perusahaan mempertahankan status quo.

DALL-E 2 tetap dalam versi beta khusus undangan. Pada akhir Agustus, OpenAI mengumumkan bahwa lebih dari satu juta orang menggunakan layanan ini.