Avesiar – Jakarta
Teknologi artificial intelligence (AI) atau kecerdasan buatan tengah menjadi isu hangat di dunia teknologi informasi, terkait dampak positif dan negatif yang dihasilkan.
Di tengah pembahasan mengenai dampak yang dihasilkan, OpenAI, perusahaan di balik ChatGPT, dikutip dari The Guardian, Kamis (9/5/2024), kini sedang menjajaki apakah pengguna harus diizinkan membuat pornografi yang dihasilkan oleh kecerdasan buatan dan konten eksplisit lainnya dengan produknya.
Para aktivis berpendapat bahwa proposal tersebut melemahkan pernyataan misi mereka untuk menghasilkan AI yang “aman dan bermanfaat”, di mana perusahaan tersebut menekankan bahwa larangan terhadap deepfake akan terus berlaku pada materi dewasa.
Pengembang pembuat gambar DALL-E tersebut juga mengungkapkan bahwa pihaknya sedang mempertimbangkan untuk membiarkan pengembang dan pengguna “secara bertanggung jawab” membuat apa yang disebut konten tidak aman untuk pekerjaan (NSFW) melalui produknya. OpenAI mengatakan hal ini dapat mencakup “erotika, adegan berdarah ekstrem, penghinaan, dan kata-kata kotor yang tidak diminta”.
“Kami sedang menjajaki apakah kami dapat secara bertanggung jawab memberikan kemampuan untuk menghasilkan konten NSFW dalam konteks yang sesuai dengan usia… Kami berharap dapat lebih memahami ekspektasi pengguna dan masyarakat terhadap perilaku model di bidang ini,” kata mereka, dikutip dari The Guardian.
Seorang karyawan di perusahaan yang berbasis di San Francisco yang mengerjakan dokumen tersebut, Joanne Jang, mengatakan kepada organisasi berita AS NPR, bahwa OpenAI ingin memulai diskusi tentang apakah pembuatan teks erotis dan gambar telanjang harus selalu dilarang dari produknya. Meskipun demikian, dia menekankan bahwa deepfake tidak diperbolehkan.
“Kami ingin memastikan bahwa orang-orang memiliki kendali maksimum sejauh hal itu tidak melanggar hukum atau hak orang lain, tetapi memungkinkan terjadinya deepfake adalah hal yang mustahil, titik. Ini tidak berarti bahwa kami sekarang sedang mencoba membuat pornografi AI,” kata Jang.
Dikatakannya, keluaran tersebut dianggap pornografi atau tidak tergantung definisi Anda dan menyatakan bahwa percakapan itulah yang sebenarnya ingin mereka lakukan.
“Kasus kreatif di mana konten yang melibatkan seksualitas atau ketelanjangan penting bagi pengguna kami, namun hal ini akan dieksplorasi dalam konteks sesuai usia,” kata Jang.
Dinyatakan, bahwa Kamus Collins menyebut erotika sebagai “karya seni yang menunjukkan atau menggambarkan aktivitas seksual, dan dimaksudkan untuk membangkitkan perasaan seksual”.
Penyebaran pornografi yang dihasilkan oleh AI menjadi sorotan tahun ini ketika X, yang sebelumnya dikenal sebagai Twitter, terpaksa melarang sementara pencarian konten Taylor Swift setelah situs tersebut dibanjiri dengan gambar eksplisit deepfake dari penyanyi tersebut.
Hal ini tidak lepas dari kritik banyak pihak karena sensitifnya isu tentang dampak negative mengenai konten yang berhubungan dengan pornografi. (ard)
Discussion about this post