Fotokita.net -Midjourney telah melarang kata kunci yang berkaitan dengansistem reproduksi manusia dalam upaya untuk menghentikan pengguna membuat foto konten dewasapada generator teks-ke-gambar kecerdasan artifisial (AI).
Hasil kajian MIT melaporkan bahwa larangan tersebut adalah tindakan sementara untuk menghentikan orang menggunakan Midjourney untuk membuat fotoyang mengejutkan atau mengerikan.
Jika pengguna mengetik kata kunci atau prompt seperti "plasenta", "tuba falopi", "kelenjar susu", "sperma", "rahim", "uretra", "serviks", "selaput dara", atau "vulva" ke Midjourney, AI generator gambar menandai kata tersebut sebagai prompt yang dilarang dan tidak akan mengizinkannya digunakan pada perangkat lunak.
Dalam beberapa keadaan, jika pengguna mencoba menggunakan salah satu dari kata kunci itu sebagai prompt, mereka diblokir untuk waktu yang terbatas karena mencoba membuat konten yang dilarang.
Pendiri Midjourney David Holz memberi tahu MIT Technology Review bahwa pembuat gambar AI telah melarang istilah ini sebagai tindakan sementara untuk menghentikan orang menghasilkan fotokekerasan atau dewasasementara perusahaan "memperbaiki hal-hal di sisi AI".
Holz menjelaskan bahwa moderator Midjourney melacak bagaimana kata-kata digunakan dan jenis gambar apa yang dihasilkan, dan mengubah larangan prompt dari waktu ke waktu.
Midjourney memiliki halaman pedoman komunitas yang mencantumkan kata kunci yang dilarang secara otomatis pada perangkat lunak. Kata lain yang berkaitan dengan biologi manusia diperbolehkan.
Sejumlah besar data yang dilatih oleh model AI seperti Midjourney, DALL-E 2, dan Stable Diffusion membuatnya sangat sulit untuk menghentikan gambar yang menyinggung.
Contohnya, yang bersifat seksual atau kekerasan atau yang dapat menghasilkan konten yang bias, dari sedang dihasilkan.
Baca Juga: Cara Buat Foto AI dengan Midjourney, Ikuti Langkah Mudahnya Ini
Namun, memblokir petunjuk tertentu berfungsi sebagai tindakan sementara untuk melawan gambar mengejutkan, pornografi, dan berdarah yang dibuat pada perangkat lunak.
Larangan kata-kata ilmiah yang berkaitan dengan sistem reproduksi manusia di Midjourney mengungkapkan tantangan ketika harus menghentikan pembuatan konten tertentu pada generator AI.
Pornografi buatan AI menjadi semakin umum secara online. Pada bulan Desember, seorang pria ditangkap karena membuat gambar atau konten tak senonoh anak dengan perangkat lunak AI. Penangkapan itu diduga salah satu yang pertama dari jenisnya.
Kemudian pada bulan Januari, komunitas penyiar langsung Twitch muda menemukan bahwa gambar mereka ada di situs dewasa deepfake.
AI telah digunakan untuk menggambarkan mereka dalam tindakan dewasatanpa persetujuan atau sepengetahuan mereka.
Di Amerika Serikat, saat ini tidak ada undang-undang federal untuk melindungi gambar orang yang digunakan tanpa persetujuan mereka dalam konten dewasa deepfake atau dengan teknologi AI apa pun yang terkait.
Namun tahun lalu, Inggris mengumumkan rencana untuk mengkriminalkan berbagi video dewasa deepfake yang dibuat tanpa persetujuan subjek. Mereka yang ditemukan melanggar hukum dapat menghadapi hukuman penjara.
Baca Juga: Cara Membuat Foto Pakai Midjourney AI, Mudah Cuma Ketik Teks
(*)