Resmi Dilarang! Jangan Lagi Ketik Kata Kunci Ini di Midjourney, Foto AI Gak Akan Muncul

Fotokita.net - Midjourney telah melarang kata kunci yang berkaitan dengan sistem reproduksi manusia dalam upaya untuk menghentikan pengguna membuat foto konten dewasa pada generator teks-ke-gambar kecerdasan artifisial (AI).

Hasil kajian MIT melaporkan bahwa larangan tersebut adalah tindakan sementara untuk menghentikan orang menggunakan Midjourney untuk membuat foto yang mengejutkan atau mengerikan.

Jika pengguna mengetik kata kunci atau prompt seperti "plasenta", "tuba falopi", "kelenjar susu", "sperma", "rahim", "uretra", "serviks", "selaput dara", atau "vulva" ke Midjourney, AI generator gambar menandai kata tersebut sebagai prompt yang dilarang dan tidak akan mengizinkannya digunakan pada perangkat lunak.

Dalam beberapa keadaan, jika pengguna mencoba menggunakan salah satu dari kata kunci itu sebagai prompt, mereka diblokir untuk waktu yang terbatas karena mencoba membuat konten yang dilarang.

Pendiri Midjourney David Holz memberi tahu MIT Technology Review bahwa pembuat gambar AI telah melarang istilah ini sebagai tindakan sementara untuk menghentikan orang menghasilkan foto kekerasan atau dewasa sementara perusahaan "memperbaiki hal-hal di sisi AI".

Holz menjelaskan bahwa moderator Midjourney melacak bagaimana kata-kata digunakan dan jenis gambar apa yang dihasilkan, dan mengubah larangan prompt dari waktu ke waktu.

Midjourney memiliki halaman pedoman komunitas yang mencantumkan kata kunci yang dilarang secara otomatis pada perangkat lunak. Kata lain yang berkaitan dengan biologi manusia diperbolehkan.

Sejumlah besar data yang dilatih oleh model AI seperti Midjourney, DALL-E 2, dan Stable Diffusion membuatnya sangat sulit untuk menghentikan gambar yang menyinggung.

Contohnya, yang bersifat seksual atau kekerasan atau yang dapat menghasilkan konten yang bias, dari sedang dihasilkan.

Baca Juga: Cara Buat Foto AI dengan Midjourney, Ikuti Langkah Mudahnya Ini

Namun, memblokir petunjuk tertentu berfungsi sebagai tindakan sementara untuk melawan gambar mengejutkan, pornografi, dan berdarah yang dibuat pada perangkat lunak.

Larangan kata-kata ilmiah yang berkaitan dengan sistem reproduksi manusia di Midjourney mengungkapkan tantangan ketika harus menghentikan pembuatan konten tertentu pada generator AI.