Ilustrasi. Konten video Presiden Joko Widodo berbahasa Mandarin hasil editan deepfake bikin geger media sosial. (Foto: BPMI)

Jakarta – Konten video berisi pidato Presiden Joko Widodo (Jokowi) berbahasa Mandarin sempat ramai di media sosial. Kementerian Komunikasi dan Informatika memastikan video itu masuk kategori disinformasi dan dibuat menggunakan teknologi deepfake.

Menkominfo Budi Arie Setiadi mengatakan video itu hasil suntingan menggunakan kecerdasan buatan alias AI deepfake. Ia memastikan video itu tidak benar.

“Kementerian Kominfo menyatakan bahwa video tersebut merupakan hasil editan yang menyesatkan,” kata Budi melalui keterangan tertulis, Kamis (26/10).

Ia menambahkan, “Di-edit sedemikian rupa dengan teknologi artificial intelligence (AI) deepfake.”

Lalu, apa sebetulnya teknologi deepfake yang membuat Jokowi bisa ‘berbicara’ bahasa Mandarin?

Deepfake menggunakan AI untuk menghasilkan video atau audio yang benar-benar baru, dengan tujuan akhir untuk menggambarkan sesuatu yang sebenarnya tidak terjadi pada kenyataannya.

Istilah “deepfake” berasal dari teknologi yang mendasarinya – algoritma pembelajaran mendalam – yang belajar sendiri untuk memecahkan masalah dengan kumpulan data yang besar dan dapat digunakan untuk membuat konten palsu dari orang sungguhan.

“Deepfake adalah rekaman yang dihasilkan oleh komputer yang telah dilatih melalui gambar-gambar yang tak terhitung jumlahnya,” kata Cristina L√≥pez, seorang analis senior di Graphika, sebuah perusahaan yang meneliti aliran informasi di jaringan digital, mengutip Business Insider.

Sementara itu, menurut Britannica, istilah deepfake menggabungkan kata deep, yang diambil dari teknologi deep-learning AI (jenis pembelajaran mesin yang melibatkan beberapa tingkat pemrosesan), dan fake, yang merujuk pada konten yang tidak nyata.

Istilah ini mulai digunakan untuk media sintetis pada tahun 2017 ketika seorang moderator Reddit membuat subreddit yang disebut “deepfakes” dan mulai memposting video yang menggunakan teknologi penukaran wajah untuk menyisipkan kemiripan selebritas ke dalam video porno yang sudah ada.

Deepfake dibuat dengan menggunakan dua algoritma pembelajaran mendalam AI yang berbeda: satu algoritme yang menciptakan replika terbaik dari gambar atau video asli dan algoritma lainnya mendeteksi apakah replika tersebut palsu dan, jika ya, akan melaporkan perbedaannya dengan yang asli.

Algoritma pertama menghasilkan gambar sintetis dan menerima umpan balik dari algoritma kedua, lalu menyesuaikannya agar terlihat lebih nyata. Proses ini diulang sebanyak yang diperlukan hingga algoritma kedua tidak mendeteksi gambar palsu.

Dalam video deepfake, suara orang tertentu dapat direplikasi dengan memberikan data audio asli dari orang tersebut kepada model AI, sehingga melatihnya untuk menirunya.

Seringkali, video deepfake diproduksi dengan melakukan overdubbing rekaman seseorang dengan audio baru dari AI yang menirukan suara orang tersebut.

Deepfake, lebih sering dikaitkan dengan motif jahat, termasuk menciptakan informasi yang salah dan menimbulkan kebingungan tentang hal-hal yang penting secara politik.

Mereka telah digunakan untuk merendahkan, mengintimidasi, dan melecehkan, dan tidak hanya menargetkan selebriti, politisi, dan CEO, tetapi juga warga negara biasa.

Potensi pecah belah

Budi sebelumnya juga sudah mewanti-wanti potensi adu domba dengan menggunakan video kecerdasan buatan di momen pemilihan umum (Pemilu) 2024.

Penggunaan AI dalam masa kampanye Pemilu 2024 memang menjadi kekhawatiran berbagai pihak. Pasalnya, teknologi ini diprediksi dapat menyebabkan disinformasi dan hoaks semakin merajalela pada Pemilu.

“Ini sedang mengkaji bagaimana artificial intelligence nanti kan ke depannya makin canggih. Jangan-jangan Bu Vero (Ketua Dharma Pertiwi) mukanya disamarin berantem deh sama tetangga. Diedit diadu domba seperti itu, diedit gitu doang. Makanya kami sedang mengkaji etik untuk AI karena ini penting,” ujar Menkominfo Budi Arie Setiadi, ketika ditanya soal potensi hoaks AI saat pemilu, Jakarta, Kamis (19/10).

Budi menyebut AI memiliki potensi manfaat sekaligus merusak yang sama besar.

“Iya, apalagi nanti pemilu. Orang bisa berantem karena AI. Yang tadi saya contohin, coba suara, muka kamu difitnah. Berantem enggak? Padahal hasil AI,” tuturnya.

Untuk mengawal potensi tersebut, Budi mengaku pihaknya tengah melakukan kajian terkait regulasi yang mungkin dihadirkan, mulai dari dampak AI hingga etika penggunaannya.

Menurut perusahaan keamanan siber Kaspersky dalam keterangan resminya, teknologi ini kemungkinan besar diprediksi bakal digunakan untuk mempengaruhi situasi dan opini publik jelang Pemilu 2024.

Penelitian Kasperksy juga mengungkap terdapat permintaan yang signifikan terhadap deepfake. Dalam beberapa kasus, terdapat kemungkinan permintaan deepfake dari individu terhadap target tertentu seperti selebriti atau tokoh politik. (tim/dmi/CNN Indonesia)

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *

Tentang Kami | Pedoman Media Ciber | Disclaimer