Bahaya Penggunaan Deepfake: Ini Kasus Deepfake di Indonesia

Ilustrasi(Data Analitic)

TEKNOLOGI di zaman ini sangat canggih dan cepat beradaptasi. Berbagai jenis sistem yang digunakan bahkan mempermudah kita menjalankan aktivitas dan kebutuhan sehari-hari. Namun tidak semua kecanggihan teknologi berdampak baik bagi kita, salah satunya teknologi AI berupa deepfake.

Dilansir dari vida.id, kasus penipuan deepfake di Indonesia mengalami lonjakan sebesar 1550% antara tahun 2022 dan 2023.

Deepfake merupakan sebuah jenis teknologi AI (artificial intelligence) yang berupa video, gambar, dan audio untuk menciptakan output manipulasi yang kegiatannya terlihat riil tetapi sebenarnya adalah fake. Kemunculan kecerdasan buatan ini membuat orang semakin resah apabila video maupun audi mereka disalahgunakan yang nantinya akan berdampak negatif terkait informasi pribadi. 

Teknologi ini sudah dimulai sejak 2017 dan sekarang semakin berkembang karena kemajuan teknologi yang mendukung sistem deepfake itu sendiri. Wajah dan suara dapat dengan mudahnya dipinjam, dibuat, disebarluaskan secara ilegal demi alasan pribadi yang menggunakannya. 

Dengan seiring waktu, penggunaan deepfake akan semakin meluas dan canggih dalam mengubah visual seseorang maupun suara seseorang yang digunakan. Dampaknya pun sangat berbahaya dari segi hiburan dan juga politik. 

Kasus DeepFake di Indonesia

Adapun beberapa kasus deepfake yang telah terjadi dalam kurun waktu belakangan ini, berikut kasusnya. 

1. Gubernur Jawa Timur, Khofifah Indar Parawansa

Kasus ini terjadi pada April 2025 lalu, di mana para pelaku memalsukan pernyataan video Gubernur Jatim, Khofifah Indar Parawansa dan disebarkan lewat media sosial dalam bentuk modus penipuan.

Dilansir dari kominfo.jatimprov.go.id, para pelaku melakukan modus penipuan dengan memodifikasi suara dan ekspresi Gubernur menggunakan teknologi AI deepfake. Dalam video tersebut para tersangka menawarkan sepeda motor dengan harga murah, yakni Rp500.000, seolah-olah merupakan program khusus dari Gubernur Jatim bagi warga Jawa Timur, lengkap dengan surat-surat resmi tanpa proses pembayaran di tempat (COD) untuk keuntungan pribadi para tersangka. 

Tiga pelaku asal Pangandaran, AMP, 32, AH, 34, dan UP, 24, telah diproses hukum oleh Polda Jawa timur. 

2. Presiden Prabowo Subianto

Indonesia digemparkan oleh kasus penipuan deepfake yang merugikan masyarakat puluhan juta rupiah. Kasus ini terjadi pada Januari 2025 dengan modus kejahatan berupa penyebaran video manipulasi. Video tersebut menampilkan Presiden Prabowo Subianto seolah-olah sedang mengumumkan program bantuan keuangan pemerintah.

Dalam videonya Presiden Prabowo Subianto mengatakan:

"Assalamualaikum masyarakat Indonesia, sebagai Presiden Indonesia, saya ingin berbagi kepada masyarakat yang sedang membutuhkan. Ini resmi dari saya pribadi, saya akan kirim masing-masing keluarga Rp 50 juta, wajib jujur untuk apa ya." Yang kenyataannya, Prabowo tidak pernah mengatakan seperti itu. 

Setelah dilakukan proses penyelidikan, pelaku berinisial AMA ditangkap di rumahnya, di Lampung Tengah, Provinsi Lampung, pada 16 Januari 2025. Terungkap bahwa ia memanipulasi video tersebut untuk keuntungan pribadi, menipu beberapa korban agar mentransfer uang kepadanya, mulai dari Rp250 ribu hingga Rp1 juta.

Ia dijerat dengan Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) serta Pasal 51 Ayat 1 junto Pasal 35 UU Nomor 1 Tahun 2024. Undang-undang yang merupakan revisi dari UU No. 11 Tahun 2008 tentang ITE. AMA menghadapi ancaman hukuman penjara hingga 12 tahun serta denda sebesar Rp12 miliar.

3. Kasus deepfake mantan Presiden Joko Widodo

Pada Oktober 2023, Indonesia dihebohkan dengan video deepfake mantan Presiden Joko Widodo yang fasih berbahasa Mandarin. Video tersebut disertai narasi bahwa "Jokowi berbahasa Mandarin", namun informasi itu palsu atau hoaks.

Dilansir dari komdigi.go.id, video tersebut merupakan hasil suntingan yang menyesatkan, sebab secara visual, video tersebut sangat mirip dengan video yang diunggah oleh kanal YouTube The U.S.- Indonesia Society (USINDO) pada 13 November 2015 lalu, tetapi telah disunting sedemikian rupa yang diduga memanfaatkan teknologi AI berupa “deepfake”. Dan dikonfirmasi bahwa Presiden Joko Widodo tidak menggunakan bahasa Mandarin saat pidato tersebut.

4. Kasus deepfake Menkeu Sri Mulyani Indrawati  

Baru-baru ini media sosial dikejutkan dengan video deepfake Menkeu Sri Mulyani pada Agustus ini. Di video tersebut Sri Mulyani mengatakan "Guru itu beban negara" dalam Forum Konvensi Sains, Teknologi, dan Industri Indonesia di Institut Teknologi Bandung (ITB) pada 7 Agustus lalu. Kepala Biro Komunikasi dan Layanan Informasi Kemenkeu Deni Surjantoro mengatakan pernyataan di video tersebut merupakan potongan tidak utuh dan di video mengenai beban negara adalah hoaks, Menkeu Sri Mulyani tidak pernah mengatakan seperti itu. 

Sri Mulyani pun membantah terkait video ia yang tersebar di media sosial dan menyatakan itu adalah hoaks. 

"Potongan video yang beredar yang menampilkan seolah-olah saya menyatakan guru sebagai beban negara adalak HOAX. Faktanya, saya tidak pernah menyatakan bahwa Guru sebagai Beban Negara. Video tersebut adalah hasil deepfake dan potongan tidak utuh dari pidato saya dalam Forum Konvensi Sains, Teknologi, dan Industri Indonesia di ITB pada 7 Agustus lalu," dikutip dari instagram pribadinya @smindrawati, Jakarta, 19 Agustus 2025.

Berdasarkan kasus-kasus di atas dihimbau untuk kita masyarakat lebih waspada terhadap informasi pribadi dan unggahan-unggahan di internet khususnya media sosial. Dalam kemudahan mengambil, mengunggah, dan mengubah menjadi kewajiban kita lebih aware dalam bermedia sosial. Juga jangan terbawa informasi hoaks dan selalu check and re-check informasi yang beredar luas saat ini. (cloudcomputing/kominfo.jatimprov/vida/verihubs/komdigi/antara/instagram pribadi @smindrawati/Z-2)