Beritagowa.com – Aktor yang terlibat dalam pembuatan video AI palsu Synthesias akhirnya angkat suara. Dalam beberapa tahun terakhir, avatar yang dibuat menggunakan teknologi AI telah menjadi tren dan mampu menyampaikan naskah yang diminta dengan sangat meyakinkan.
Namun, di balik kecanggihan teknologi ini, terdapat dampak negatif yang tidak terduga. Beberapa video yang menggunakan avatar AI ini digunakan untuk propaganda dan mempromosikan pemimpin junta militer dan kediktatoran. Kini, para aktor asli yang terlibat dalam pembuatan video tersebut angkat bicara.
Avatar manusia yang dihasilkan oleh AI memang mampu menampilkan diksi yang sempurna dan terlihat sangat alami. Namun, bagaimana jika video tersebut digunakan untuk mendukung rezim represif dan perusahaan kriminal? Inilah yang terjadi dengan avatar yang dihasilkan melalui aplikasi AI Syenthesia, dan para aktor asli yang digunakan untuk membuat model AI kini angkat bicara.
Menurut laporan yang diterbitkan oleh The Guardian, perusahaan rintisan yang berkantor pusat di London dan baru-baru ini mencapai status unicorn (nilai pasar USD1 miliar) itu digunakan untuk mendukung Ibrahim Traoré, yang memimpin kudeta militer tahun 2023 di Burkina Faso.
Pembawa berita AI yang dipersiapkan dengan baik digunakan dalam video yang muncul di platform seperti Telegram, meminta orang-orang untuk mendukung pemimpin junta yang kemudian menjadi presiden. Hal ini tentu melanggar ketentuan layanan dari Synthesia sendiri.
Synthesia sebenarnya ditujukan untuk membuat video pemasaran yang menarik. Namun, sayangnya deepfake juga digunakan untuk membuat video propaganda di platform tersebut. Hal ini tentu sangat merugikan para aktor yang bahasa tubuhnya digunakan untuk melatih model AI. Selain merasa dikhianati, kesehatan mental mereka juga terpengaruh karena asosiasi negatif yang ditimbulkan.
Meskipun Synthesia mengklaim telah meningkatkan moderasi kontennya, The Guardian masih dapat membuat video dengan memberikan skrip yang kontroversial. Hal ini tentu sangat memprihatinkan dan menimbulkan pertanyaan mengenai penggunaan teknologi AI untuk hal-hal yang negatif.
