Latar Belakang Perkembangan Artificial Intelligence (AI)
Kecerdasan Buatan (AI) telah menjadi salah satu penemuan teknologi terbesar yang memungkinkan orang menjalankan berbagai fungsi dengan lebih cepat dan lebih baik. Dunia sedang mengalami perkembangan pesat dalam teknologi digital saat ini, dan ada banyak bidang di mana ia telah mengubah keberadaan manusia.
Kecerdasan buatan diterapkan dalam perawatan kesehatan, pendidikan, transportasi, kreativitas, keamanan siber, dan banyak lainnya. Banyak hal yang membutuhkan banyak waktu untuk dilakukan dilakukan oleh orang-orang hanya dalam beberapa menit berkat kemampuan AI untuk bekerja dengan sejumlah besar data secara efektif.
Namun demikian, dengan kemajuan yang begitu pesat, muncul masalah-masalah baru terkait dengan potensi penyalahgunaan inovasi teknologi. Misalnya, saat ini ada teknologi bernama deepfake, yang memungkinkan pengubahan gambar, video, atau suara seseorang untuk membuat konten palsu yang sulit dikenali.
Teknologi Deepfake merupakan salah satu hasil perkembangan deep learning, sebuah bidang kecerdasan buatan. Teknologi ini menggunakan jaringan saraf tiruan untuk mempelajari pola dari kumpulan data yang sangat besar. Berkat ini, sistem kecerdasan buatan dapat meniru ekspresi wajah, gerakan bibir, fitur vokal, dan cara berbicara siapa pun.
Awalnya, teknologi ini diciptakan untuk melakukan sesuatu yang baik, seperti menciptakan efek visual untuk industri film, pemulihan film-film lama, peningkatan permainan komputer, dan penggunaan dalam pendidikan. Namun demikian, karena perangkat lunak kecerdasan buatan semakin banyak tersedia, teknologi ini dapat digunakan oleh hampir semua orang tanpa keahlian khusus apa pun.
Akibatnya, mulai disalahgunakan untuk segala macam kejahatan dunia maya, termasuk penyebaran berita bohong, merusak reputasi masyarakat, melakukan penipuan, pemerasan, dan membuat foto dan video palsu untuk eksploitasi seksual (Uddin Mahmud & Sharmin, 2021).
Fenomena ini semakin mendapat perhatian di seluruh dunia karena kemampuannya menghasilkan konten yang sangat realistis dan dapat dipercaya. Berbeda dengan manipulasi foto/video tradisional, yang biasanya menghasilkan jejak proses manipulasi yang terlihat, konten deepfake sangat sulit dideteksi oleh mata manusia.
Bahkan orang yang tidak memiliki latar belakang teknis dapat menganggap video semacam itu sebagai bukti yang dapat dipercaya. Hal ini menimbulkan risiko yang signifikan terhadap kredibilitas konten digital. Secara tradisional, foto dan video dianggap sebagai bukti yang dapat dipercaya; namun kini dimungkinkan untuk menghasilkan konten digital palsu dengan tingkat keaslian yang sangat tinggi.
Oleh karena itu, muncullah fenomena media sintetik, dan media sintetik mengacu pada media digital yang sebagian atau seluruh isinya dihasilkan oleh kecerdasan buatan (Kresna Prayoga & Fikma Edrisy, 2025).
Salah satu dampak paling berbahaya dari deepfake adalah pelanggaran hak privasi seseorang. Di zaman modern media sosial, orang mengunggah ribuan foto dan video pribadi setiap hari di platform media digital. Foto/video ini tersedia di domain publik dan dapat dimanipulasi untuk membuat deepfake yang bertentangan dengan keinginan pemiliknya.
Wajah seseorang dapat dimasukkan dalam video yang menampilkan tindak pidana, bahasa cabul, atau adegan seksual, membuat orang mengira bahwa korban sebenarnya terlibat dalam hal-hal seperti itu padahal sebenarnya dia tidak terlibat sama sekali. Ini adalah penyalahgunaan identitas digital, yang mengakibatkan pelanggaran hak privasi karena orang tidak memiliki kendali atas penggunaan biometrik mereka (Rahman et al., 2025).
Selain mengganggu privasi orang, penggunaan deepfake dapat merusak reputasi seseorang. Ini adalah aset yang dibuat secara perlahan baik dalam aspek pribadi maupun profesional. Namun demikian, hanya satu video deepfake yang dapat merusak nama baik seseorang dengan sangat cepat.
Manusia cenderung lebih mempercayai informasi jika didukung dengan materi visual daripada pernyataan resmi dari pihak yang terkena dampak. Oleh karena itu, individu akan dipecat, tidak dipercaya oleh rekan kerja dan teman, kehilangan koneksi bisnis, atau bahkan menghadapi kecaman dari masyarakat meskipun pada akhirnya terbukti tidak bersalah.
Di era digital saat ini, penyebaran informasi terjadi dengan sangat cepat, sehingga lebih mudah merusak reputasi daripada mencegah penyebaran informasi palsu.
Masalah ini tidak hanya menyangkut masyarakat umum tetapi juga tokoh masyarakat, politisi, akademisi, dan eksekutif bisnis. Video deepfake yang melibatkan penerimaan suap oleh politisi atau beberapa pernyataan kontroversial oleh CEO sebuah perusahaan dapat menimbulkan masalah serius bagi orang-orang jauh sebelum verifikasi dilakukan.
Bahkan setelah video ini terbukti palsu, beberapa orang di masyarakat umum masih akan mempertahankannya. Ini disebut sebagai efek pengaruh berkelanjutan, di mana bahkan setelah mengoreksi informasi yang salah, dampak dari informasi yang salah tersebut terus membentuk pandangan orang. Oleh karena itu, penggunaan deepfake membahayakan reputasi individu dan perusahaan.
Selain itu, teknologi deepfake telah muncul sebagai senjata ampuh untuk penipuan digital. Dengan perkembangan teknologi kloning suara, AI mampu mengkloning suara orang lain secara akurat hanya berdasarkan rekaman beberapa detik. Penipu memanfaatkan teknologi ini dengan menelepon orang dan berpura-pura menjadi atasan, orang tua, atau kerabat mereka.
Karena suara mereka terdengar sangat mirip dengan suara orang yang dikenal dan dipercaya, para korban biasanya mengikuti instruksi mereka dengan mentransfer dana atau mengungkapkan informasi sensitif. Dengan demikian, ini dapat dianggap sebagai jenis serangan rekayasa sosial yang dikombinasikan dengan penggunaan teknologi bertenaga AI.
Kemudian, bisnis menjadi lebih rentan terhadap ancaman deepfake. Perusahaan dapat ditipu oleh konferensi video yang curang, di mana rekaman deepfake akan membuat beberapa eksekutif senior tampak memberi perintah kepada para pekerjanya. Selain itu, penggunaan deepfake dapat berfungsi sebagai upaya untuk meniru identitas seseorang selama verifikasi pelanggan dan proses transaksi.
Ini menyiratkan bahwa bisnis harus meningkatkan praktik keamanan siber mereka dengan menerapkan otentikasi multi-faktor, meningkatkan sistem verifikasi biometrik mereka, dan melakukan pendidikan keamanan siber untuk semua karyawan (Buo, 2020).
Masalah besar lainnya yang terkait dengan perkembangan teknologi deepfake adalah dampak negatifnya terhadap kredibilitas sumber informasi jurnalistik. Dalam jurnalisme, foto, video, dan rekaman suara telah digunakan oleh jurnalis sebagai sumber bukti. Namun demikian, peningkatan teknologi AI menciptakan kebutuhan untuk memeriksa keaslian materi digital.
Oleh karena itu, forensik tambahan perlu dilakukan sebelum publikasi data visual apa pun, yang membuat proses pelaporan menjadi lambat. Selain itu, orang jahat dapat dengan sengaja mempublikasikan video deepfake pada saat bencana alam, konflik bersenjata, atau peristiwa mendesak lainnya terjadi untuk mengubah realitas dan membingungkan masyarakat.
Algoritma jejaring sosial memfasilitasi proses ini karena butuh waktu untuk mengoreksi informasi yang salah. Dengan demikian, masalah deepfake mengarah pada “gangguan informasi” karena orang tidak mengetahui informasi apa yang benar. Dengan meningkatnya keraguan tentang kebenaran sumber informasi digital apa pun, orang akan mulai tidak mempercayai bahkan bukti nyata.
Masalah ini dikenal sebagai ” dividen pembohong.”Oleh karena itu, teknologi deepfake tidak hanya memengaruhi kredibilitas masing-masing berita, tetapi juga kredibilitas sumber informasi secara umum.
Program pendidikan dan literasi digital merupakan komponen penting dalam pencegahan masalah yang timbul akibat adanya teknologi deepfake. Terlepas dari upaya yang dilakukan oleh pemerintah dan industri teknologi, dalam penciptaan langkah-langkah hukum dan pengembangan alat otomatis untuk mengidentifikasi berita palsu, metode ini tidak cukup tanpa masyarakat yang terinformasi dengan baik.
Penting agar orang dapat membedakan antara konten yang kredibel dan tidak kredibel di web, mengidentifikasi manipulasi, memverifikasi informasi dari sumber sebelum meneruskannya, dan dapat mengenali tanda-tanda khas manipulasi. Lembaga pendidikan dapat memfasilitasi masalah ini dengan memperkenalkan literasi media, kesadaran keamanan siber, dan penggunaan kecerdasan buatan yang benar dalam kurikulum di tingkat sekolah dan universitas.
Selain itu, pihak berwenang dapat menerapkan kampanye untuk memberi tahu khalayak internet tentang bahaya penyebaran informasi dan cara melindungi data seseorang agar tidak disalahgunakan. Organisasi bisnis juga perlu mengadakan pelatihan rutin bagi karyawan sehingga mereka dapat mengidentifikasi jenis penipuan seperti serangan phishing, konferensi video, dan kloning suara.
Dalam hal tantangan di masa depan, tata kelola kecerdasan buatan kemungkinan akan menjadi masalah yang sangat penting karena teknologi AI generatif terus berkembang. Deepfake di masa depan kemungkinan akan menjadi jauh lebih maju dan akan menghasilkan wajah, gerakan tubuh, dan pola suara yang sangat realistis, yang tidak dapat diidentifikasi secara manual oleh pengguna biasa.
Dengan demikian, pemerintah, organisasi internasional, perusahaan, dan universitas harus bekerja sama untuk menciptakan standar global terkait transparansi dan akuntabilitas kecerdasan buatan. Penandaan air atas konten buatan, asal konten yang dapat dibuktikan, kerja sama internasional dalam penyelidikan kejahatan dunia maya, dll. dapat sangat mengurangi masalah penyalahgunaan media sintetis.
Selain itu, perlu mempertimbangkan untuk mengadopsi etika dalam desain produk AI dan fokus pada privasi, keamanan, dan keadilan dalam semua aspek pengembangan. Penelitian ilmiah terus-menerus tentang keamanan AI juga diperlukan untuk mengembangkan teknik pertahanan di samping alat ofensif.
Dengan demikian, melalui regulasi, inovasi teknologi, etika, dan partisipasi masyarakat, efek positif kecerdasan buatan dapat dimaksimalkan dan efek negatif teknologi deepfake dapat diminimalkan.
Teknologi Deepfake tidak hanya menjadi risiko bagi masyarakat dan perusahaan, tetapi juga ancaman serius bagi stabilitas politik dan keamanan nasional. Misalnya, selama kampanye pemilu, video yang direkayasa yang menggambarkan tokoh politik dalam berpidato provokatif akan memainkan peran penting dalam membentuk opini publik.
Selain itu, penyebaran informasi palsu tersebut dapat menyebabkan polarisasi politik dan meningkatnya ketegangan sosial. Oleh karena itu, banyak negara mulai memandang teknologi deepfake sebagai masalah keamanan siber karena dampak deepfake yang melampaui dunia maya dan memengaruhi stabilitas politik dan sosial negara.
Referensi :
- Buo, S. A. (2020). The Emerging Threats of Deepfake Attacks and Countermeasures. https://doi.org/10.13140/RG.2.2.23089.81762
- Kresna Prayoga, D., & Fikma Edrisy, I. (2025). Urgensi Pengaturan Hukum terhadap Deepfake sebagai Alat Kejahatan Siber dalam Perspektif KUHP dan UU ITE. Journal Evidence Of Law, 4. https://jurnal.erapublikasi.id/index.php/JEL
- Meliana, Y. (2025). URGENSI FORMULASI PERLINDUNGAN HUKUM DAN KEPASTIAN PIDANA TERHADAP PENGATURAN TINDAK PIDANA DEEPFAKE DALAM SISTEM HUKUM PIDANA NASIONAL THE URGENCY OF FORMULATING LEGAL PROTECTION AND CRIMINAL LAW CERTAINTY REGARDING THE REGULATION OF DEEPFAKE CRIMES WITHIN THE INDONESIAN CRIMINAL LAW SYSTEM. In Jurnal Hukum Lex Generalis (Vol. 6, Number 7). Bulan Ketujuh. https://jhlg.rewangrencang.com/
- Neekhara, P., Dolhansky, B., Bitton, J., & Ferrer, C. C. (2020). Adversarial Threats to DeepFake Detection: A Practical Perspective. http://arxiv.org/abs/2011.09957
- Nurdin, W., & Nugraha, F. (2025). ANCAMAN DEEPFAKE DAN DISINFORMASI BERBASIS AI: IMPLIKASI TERHADAP KEAMANAN SIBER DAN STABILITAS NASIONAL INDONESIA. JIMR: Journal Of International Multidisciplinary Research, 4(1). https://doi.org/10.62668/jimr.v4i01.1551
- Rahman, A. N. F., Syariffudin, S., & Fathol Bari. (2025). Perlindungan Hukum terhadap Korban Penyalahgunaan Teknik Deepfake. Perspektif Administrasi Publik Dan Hukum, 2(1), 247–255. https://doi.org/10.62383/perspektif.v2i1.202
Penulis:
– Destrinata
– Faradilla
– Erista Lestari Pratiwi
– Andhara Najla Muthia
– Fauzan Akbar
– Runi Sikah Seisabila
Mahasiswa Program Studi Kriminologi, Budi Luhur University
Editor: Darsono. AR
Bahasa: Rahmat Al Kafi
⚡ Baca Lebih Cepat Artikel MMI di Ponsel Anda!
Ikuti Channel WhatsApp
Media Mahasiswa Indonesia (MMI):
KLIK DI SINI
