OpenAI memblokir pengguna untuk membuat video yang dibuat oleh AI dari mendiang pemimpin hak-hak sipil Martin Luther King Jr. dalam model video AI-nya, Sora. Perusahaan mengumumkan langkah tersebut pada hari Kamis dalam pernyataan bersama dengan King Estate.
Menurut OpenAI, beberapa pengguna telah membuat “penggambaran tidak sopan” terhadap King. Atas permintaan pihak properti, perusahaan tersebut mengatakan bahwa mereka menghentikan kemampuan pengguna untuk membuat video aktivis tersebut karena perusahaan tersebut berupaya untuk “memperkuat pagar pembatas bagi tokoh-tokoh sejarah.”
“Meskipun ada kepentingan kebebasan berpendapat yang kuat dalam menggambarkan tokoh-tokoh sejarah, OpenAI percaya bahwa tokoh masyarakat dan keluarga mereka pada akhirnya harus memiliki kendali atas bagaimana kemiripan mereka digunakan,” kata perusahaan itu dalam pernyataannya.
OpenAI menambahkan bahwa perwakilan resmi atau pemilik properti dari tokoh sejarah lainnya kini dapat meminta agar kemiripan mereka tidak digunakan dalam video Sora.
OpenAI baru-baru ini meluncurkan model video AI tercanggihnya, Sora 2, bersama dengan aplikasi media sosial baru mirip TikTok. Aplikasi ini memungkinkan pengguna mengunggah kemiripan mereka sendiri, yang disebut cameo, untuk membuat video buatan AI yang menampilkan diri mereka sendiri, teman, selebritas, dan karakter fiksi.
Sejak debutnya beberapa minggu yang lalu, OpenAI telah mulai mengubah cara kerja aplikasinya untuk mencoba menavigasi keseimbangan yang masih suram antara kebebasan berekspresi dan penyalahgunaan AI.
Bahkan CEO OpenAI Sam Altman mengatakan dalam sebuah postingan di X bahwa perusahaan merasakan “keraguan” dalam meluncurkan model dan aplikasi media sosial terbarunya.
“Media sosial mempunyai dampak baik terhadap dunia, namun juga mempunyai dampak buruk,” tulisnya. “Kami menyadari betapa adiktifnya layanan seperti ini, dan kami dapat membayangkan banyak cara layanan ini dapat digunakan untuk melakukan penindasan.”
Tidak butuh waktu lama bagi orang-orang untuk mulai bersikap aneh pada Sora. The Washington Post melaporkan bahwa klip mendiang selebriti seperti Michael Jackson, Amy Winehouse, dan Whitney Houston yang dibuat Sora dengan cepat membanjiri media sosial. Meskipun ada yang dimaksudkan sebagai penghormatan ringan, ada pula yang lebih tidak sopan.
Menurut The Post, beberapa pengguna membuat video King mengeluarkan suara monyet selama pidato “I Have a Dream” dan bergulat dengan sesama aktivis hak-hak sipil Malcolm X.
Beberapa keluarga korban dengan cepat mengeluh dan meminta orang-orang untuk berhenti membagikan video AI milik kerabat mereka.
Zelda Williams, putri mendiang aktor Robin Williams, memposting di Instagram awal bulan ini, mendesak orang-orang untuk berhenti mengirimkan video ayahnya yang dibuat oleh AI. Tidak jelas apakah video yang dia referensikan dibuat dengan Sora, tetapi postingannya mengikuti peluncuran aplikasi tersebut.
Bernice King, putri Martin Luther King Jr., menulis di postingan Instagram miliknya tentang komentar Williams, “Saya setuju mengenai ayah saya. Tolong berhenti.”
Langkah terbaru OpenAI mencerminkan perubahan dalam cara menangani materi berhak cipta.
Setelah awalnya mengharuskan pemegang hak cipta untuk memilih tidak menampilkan konten mereka di video yang dibuat Sora, Altman mengumumkan awal bulan ini bahwa perusahaan akan beralih ke model “keikutsertaan” yang akan “memberikan pemegang hak kontrol yang lebih terperinci atas pembuatan karakter.”
BN Babel
